文献计量视角下中国基于NLP的大模型研究综述
鹏城实验室, 广东深圳 518000
| 摘 要： | 【目的】随着ChatGPT的发布及应用，大模型训练相关技术开启了新一轮的研究热潮，而这一次则被称为最接近AI实现的人工智能。通过对基于NLP的大模型研究现状进行全面的分析，可以使研究者们对目前中国该领域的研究有一个全面的了解。【方法】通过使用文献计量和内容分析等方法，对选取期刊论文的外部特征和内容进行分析，通过对各年度发文、期刊被引量、核心作者、核心机构、研究关键词、研究热点等维度进行分析，对中国大模型领域研究有了一个较为全面的认知，同时也总结了一些中国该领域研究的特点，也对接下来的研究方向做了相应的预测。【结果】中国对大模型相关的研究已经深入到社会的多个领域，目前正处于蓬勃发展阶段。【结论】目前中国该领域研究正处于科学文献增长的第二阶段，且随着大模型的基础理论的不断完善，以及相关应用的落地，接下来基于NLP的大模型研究将会进入一个高速发展时期。 |
| 关 键 词： | NLP; 大模型; 文献计量; 内容分析 |
| DOI： | 10.57237/j.cst.2023.04.002 |
View:
Downloads:
收稿日期: 2023-08-29
接受日期: 2023-10-07
在线出版日期: 2023-10-09
A Review of Research Based on NLP Foundation Models in China from the Perspective of Bibliometrics
Peng Cheng Laboratory, Shenzhen 518000, China
| Abstract: | [Objective] With the release and application of ChatGPT, large model training technologies have started a new round of research boom, and this time is called the closest to AI AI. Through a comprehensive analysis of the current situation of the large model research based on NLP, the researchers can have a comprehensive understanding of the current research in this field in China. [Methods] Through the use of bibliometric and content analysis, analyzes the external characteristics and content of journal papers, through the annual post, journal cited, the core authors, core institutions, research keywords, research dimensions, China big model research has a more comprehensive cognition, but also summarizes some of the characteristics of the research in the field of China, also for the following research direction.[Results] China's research on large models has penetrated into many fields of society and is currently in the stage of vigorous development. [Conclusion] At present, the research in this field in China is in the second stage of the growth of scientific literature. With the continuous improvement of the basic theory of large model and the implementation of related applications, the research of large model based on NLP will enter a period of rapid development. |
| Keywords: | NLP; Foundation Models; Bibliometric; Content Analysis |
参考文献
| [1] | 蒋华林. 人工智能聊天机器人对科研成果与人才评价的影响研究——基于ChatGPT、Microsoft Bing视角分析 [J]. 重庆大学学报(社会科学版), 2023, 29(02): 97-110. |
| [2] | 中国人工智能大模型呈现蓬勃发展态势. [2023-05-30] https://baijiahao.baidu.com/s?id=1767319212555686796&wfr=spider&for=pc |
| [3] | 生成式人工智能服务管理暂行办法. [2023-07-14] http://www.whwx.gov.cn/wlzl/zljg/202307/t20230714_2231690.shtml |
| [4] | 林辉, 林伟. 科学文献的增长规律和老化规律及其新的一般模型 [J]. 情报杂志, 2010, 29(04): 22-25. |
| [5] | 邱均平. 信息计量学(四)第四讲文献信息离散分布规律——布拉德福定律 [J]. 情报理论与实践, 2000 (04): 315-314+316-320. |
| [6] | 何峻, 蔡蓉华. “北大中文核心期刊”是如何评出的 [J]. 中国出版, 2009 (07): 19-24. |
| [7] | 董国豪, 潜伟. 普赖斯与科学史定量研究 [J]. 科学学研究, 2017, 35(05): 667-675+680. DOI: 10.16192/j.cnki.1003-2053.2017.05.003. |
| [8] | 姚雪, 徐川平, 李杰等. 基于普赖斯定律和二八定律及在线投稿系统构建某科技期刊核心作者用户库 [J]. 编辑学报, 2017, 29(01): 64-66. DOI: 10.16811/j.cnki.1001-4314.2017.01.021. |
| [9] | 王米雪, 张立国. 我国智慧教育领域的研究热点与发展趋势分析——基于词频分析法、共词聚类法和多维尺度分析法 [J]. 现代教育技术, 2017, 27(03): 1-48. |
| [10] | 刘奕杉, 王玉琳, 李明鑫. 词频分析法中高频词阈值界定方法适用性的实证分析 [J]. 数字图书馆论坛, 2017 (09): 42-49. |
| [11] | 张蕾, 李学良, 刘小冬. 自然语言处理中的逻辑词 [J]. 小型微型计算机系统, 2000 (02): 42-46. |
| [12] | 孙宏林, 俞士汶. 浅层句法分析方法概述 [J]. 当代语言学, 2000 (02): 74-83+124. |
| [13] | 杨春, 张睿尧, 黄泷等. 深度神经网络模型量化方法综述 [J]. 工程科学学报, 2023, 45(10): 1613-1629. DOI: 10.13374/j.issn2095-9389.2022.12.27.004. |
| [14] | 梁斌, 刘全, 徐进等. 基于多注意力卷积神经网络的特定目标情感分析 [J]. 计算机研究与发展, 2017, 54(08): 1724-1735. |
| [15] | 李舟军, 范宇, 吴贤杰. 面向自然语言处理的预训练技术研究综述 [J]. 计算机科学, 2020, 47(03): 162-173. |
| [16] | 卢经纬, 郭超, 戴星原等. 问答ChatGPT之后: 超大预训练模型的机遇和挑战 [J]. 自动化学报, 2023, 49(04): 705-717. DOI: 10.16383/j.aas.c230107. |
| [17] | 戚凯. ChatGPT与数字时代的国际竞争 [J]. 国际论坛, 2023, 25(04): 3-23+155. DOI: 10.13549/j.cnki.cn11-3959/d.2023.04.001. |
| [18] | 李白杨, 白云, 詹希旎等. 人工智能生成内容（AIGC）的技术特征与形态演进 [J]. 图书情报知识, 2023, 40(01): 66-74. DOI: 10.13366/j.dik.2023.01.066. |
| [19] | Adam M M, Zhao L, Wang K, et al. Beyond 5G Networks: Integration of Communication, Computing, Caching, and Control [J]. China Communications, 2023, 20(07): 137-174. |
| [20] | 何赛克, 张培杰, 张玮光等.大模型时代下的决策范式转变 [J]. 中国地质大学学报(社会科学版), 2023, 23(04): 82-91. DOI: 10.16493/j.cnki.42-1627/c.20230619.001. |
