中国科技之巅ChatGPT热潮背后的冷思考它在一本正经的胡说八道中隐藏着怎样的秘密
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。它背后的技术原理和工作机制是什么？会不会取代记者的角色？我们应该如何看待ChatGPT未来的发展趋势？光明网《创新改变中国》专栏特约专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏，深入探讨ChatGPT从人工智能角度。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时担任中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员，他主要致力于类脑智能和计算领域的研究。
"ChatGPT使用感不错，但也有不足"
光明网：您对ChatGPT有何评价？它存在哪些显著不足？
曹立宏：相比之前的模型，如GPT3，它确实取得了一定的进步，尤其是在对话流畅性方面表现突出，这表明语言生成能力得到了提升。不过，对于专业性的问题或较为深刻的问题，它往往难以提供准确答案。
虽然ChatGPT采用了带人类反馈的强化学习机制，使其语言生成能力得到极大提升，但对于更新知识内容而言仍面临挑战。例如，如果询问关于当下热门电视剧，它可能无法给出最新信息，因为这涉及到AI中的遗忘问题，即如何快速学习新知识又不影响已有知识，这仍然是AI领域需要解决的问题。
此外，作为一个工具，ChatGPT缺乏具身体验这种人类常识积累方式。在自然语言处理中，“理解”仅限于文本，而忽略了多样化体验。这限制了它真正理解世界的手段。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，常识，大数据
"记者替代可能性并不高"
光明网：作为记者，你认为被ChatGPT所取代的风险有多大？
曹立宏：我认为目前不必过分担忧这一点。记者的核心职能在于提出基于深度理解的问题。而现有的AI如聊天机器人尚未达到这样的水平。此外，不同情感系统也是记者的重要组成部分。而且采访过程中快速学习受访者的心态等细节也是人类独有的优势，在当前技术条件下，这些都超出了AI目前可达到的水平。
图片由百度文心大模型 AI 生成
关键词：记者，大数据分析、大数据应用
"更多只是辅助工具"
光明网：“穿着AI马甲”的评论你怎么看待？
曹立宏：过去几年里自然语言处理取得巨大的进展，有许多学生选择投身这个领域。但对于科研人员来说，我们对此持保留态度，因为这些工具在专业领域中的表现并非总是令人满意。因此，我将其视作“穿着AI马甲”，即使拥有广泛的知识基础，却不能像专业人才那样深入思考和运用复杂专业概念。
另一方面，我们也应认识到，由于它们模仿的是人类智慧，所以尽管它们远离真实的人类思维模式，他们却能够迅速回答各种问题。这就让他们成为一种非常便捷、高效但同时也可能误导人的资源，比如搜索引擎或计算器一样。如果把这些工具当做可以完全依赖的情报来源，那么就会产生严重错误。
图片由百度文心大模型 AI 生成
关键词：辅助工具，大数据分析、大数据应用
"未来需警惕滥用"
光明网：“未来发展方向？”
曹立宏：“未来两条路径。一种是继续沿用现在的大规模神经网络结构，一种则更偏向模拟生物神经元工作方式进行开发。然而，我们还没有找到完美地模仿生物神经元及其学习算法的一种方法。这就意味着要对现有的基础架构进行重大调整，就像是“动手术”。
另一种可能性，是通过更接近大脑功能来设计算法，比如量化苹果或者梨子的概念，将它们转换成所谓的词向量形式，这在实际操作上跟我们的大脑不同程度上是不一致的。如果我们能找到类似于我们的内存、量化和学习过程的一套算法，那么可能会出现更加接近人的版本。
将来，无疑这是一个人们喜爱使用的一个工具。我自己也将继续使用它。但如果没有足够审慎地评估其潜在局限性的话（即滥用），那么后果将十分严重。”
