这段时间，一款名叫ChatGPT的人工智能聊天系统就像平地起春雷，忽然刷爆网络。
“从目前普遍的对话感受来看，ChatGPT的最大亮点就在于其优秀的企图辨认与言语了解才能，这令人认识到人工智能的交互才能曾经完成了逾越式停顿。”易观聪慧院高级剖析师陈晨评价。
有问必答，侃侃应对。这种神奇的人机互动体验，勾起人们绞尽脑汁向ChatGPT发问的热情，并为其带来惊人的用户量：该系统在两个多月前由美国人工智能研讨公司OpenAI推出，今年1月便已到达1亿月活泼用户，用户增长速度可谓史无前例。
这款产品大受欢送，其重要幕后功臣是被业内称为预锻炼模型的技术。面对ChatGPT的爆火，国内科技机构和企业纷繁“亮剑”。据最新音讯，中国版ChatGPT将于下个月与公众见面。
参数范围从几百万狂飙至几千亿
“目前，预锻炼技术是人工智能研讨的重要打破口。”阿里研讨院将来技术中心担任人苏中解读，传统的研讨办法中，标注本钱不断是障碍人工智能算法推向更大数据汇合的障碍，而预锻炼技术不依赖数据标注，就能够锻炼出一个大范围深度学习模型。
科技日报记者理解到，由于不需求数据标注，预锻炼模型常常能够运用更大的数据集，因此能够选择更大的模型范围——这就催生了预锻炼大模型。
“与以往的人工神经网络相比，预锻炼大模型最大的不同在于它范围足够大，深度学习网络的层数多、衔接多、参数多。”IDEA研讨院（粤港澳大湾区数字经济研讨院）认知计算与自然言语研讨中心讲席科学家张家兴承受记者采访时引见，2012年前后的深度学习网络只要几百万参数；2018年前后主流的预锻炼模型到达1亿参数；目前被证明十分有效的大范围预锻炼模型已有几千亿参数，短短几年时间提升了几千倍。
质变惹起质变。苏中剖析，在对预锻炼模型各种不同的技术评测中，算法性能展现了一个规律：数据范围越大、预锻炼模型参数越多，算法输出精度常常也越高。
除了范围大以外，张家兴谈到，目前的预锻炼大模型由于采用了新的构造模型，十分合适并行锻炼。同时，在锻炼方式上，人工神经网络的预锻炼任务相似“解题”，比方把一句话的某个词或前半句去掉，让预锻炼模型应用海量大数据对句子停止恢复，这样锻炼下去，预锻炼模型的“解题”才能就会越来越好。而且，在大言语模型的根底上，引入指令学习，能够远超模型微调带来的收益。在此根底上，人类的反应能够协助模型更好天文解人类企图和接纳信息，人机对话也就越来越流利。
“ChatGPT在底层数据、中心技术、用户体验等各方面都能够说是里程碑式的人工智能产品。”旷视研讨院根底科研担任人张祥雨表示，ChatGPT的中心技术是人工智能言语大模型，其关键是如何让人工智能模型具备逻辑推理才能，以及如何让人工智能学习全互联网的学问。这些ChatGPT根本都做到了，因而在决策和学问环节有了很大的打破。
国内多家科技机构已规划相关范畴
据外媒报道，多家国外科技巨头正重金投入预锻炼模型和人工智能生成内容（AIGC）赛道。记者理解到，国内已有不少科技机构和企业规划相关范畴。
张家兴通知记者，IDEA研讨院认知计算与自然言语研讨中心在此方向上规划已久，该中心具有国内最大的开源模型体系——封神榜，已开源的98个模型正在全力支持中国AIGC的开展，探究研发适配各个范畴的个性化可定制模型，支持全部自然言语处置（NLP）任务。
“很快乐能在深度学习高速开展的第十年节点上，看到AIGC和ChatGPT的呈现，今天一切这些自然言语处置任务正在被统一到ChatGPT形式下，我们也正在整合之前的模型和技术，推出我们的类ChatGPT模型。”张家兴说。
记者从百度得悉，百度已投入开发相似ChatGPT的相关技术，该项目名字肯定为文心一言，英文名ERNIE Bot，3月份完成内测后面向公众开放。目前，文心一言在做上线前的冲刺。
“ChatGPT主要触及自然言语处置相关技术，属于认知智能范畴的应用之一，科大讯飞在该方向的技术和应用方面具备长期深沉的积聚。”2月8日晚，科大讯飞在投资者互动平台回应称，公司已面向认知智能范畴陆续开源了6大类、超越40个通用范畴的系列中文预锻炼言语模型，并于去年12月启动生成式预锻炼大模型任务攻关，人工智能学习机将成为该项技术率先落地的产品，今年5月将停止产品级发布。
此外，360公司2月7日在投资者互动平台表示，该公司也方案尽快推出类ChatGPT技术的原型版产品。“AIGC技术除了在搜索引擎的应用之外，还能够辅助数字平安才能的提升。”360公司称。（记者 刘园园）（记者操秀英、刘艳对此文亦有奉献）
