科技小论文探索ChatGPT热潮背后的冷思考它究竟在一本正经地胡说八道
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。它背后的原理和工作机制究竟是什么？是否能够取代记者的角色？我们应该如何看待ChatGPT的未来发展？为了探讨这些问题，我们专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏。他从人工智能的角度深入分析了ChatGPT。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，也是中传学术委员会副主任和中国人工智能学会第八届理事会理事，以及教育部科技委员会人工智能与区块链技术专委会委员。他致力于类脑智能和计算领域的研究。
“ChatGPT使用感不错，但也有不足”
光明网：您对ChatGPT有何看法？它有什么明显不足之处？
曹立宏：相比前一代AI，感觉确实进步明显，尤其是在语言流畅性方面，它表现突出。这说明现在的人工语言生成模式取得了一定的成就，对于一般知识点提供信息组织得也很合适。但对于专业或深奥的问题，它就会出现困难。
ChatGPT采用带人类反馈强化学习策略，这让它在生成语言能力上有所提升。而通过聊天形式推广，使其变得更加受欢迎。目前，它存在的一个限制就是内容更新速度较慢。例如，如果问它当前最热门电视剧名，它可能不会回答《狂飙》，这涉及到AI中的遗忘问题——如何快速学习新信息而不影响旧数据，是一个尚未完全解决的问题。
此外，ChatGPT缺乏概念上的身体体验，这正是我们所说的常识。在自然语言处理中，“理解”仅限于文字，不同于人类多维度经验累积过程。例如，你看到一个黑色的苹果时，不仅要考虑形状，还要考虑触感、味道等全面因素。如果你想尝试，那么即使一摸到，你也许能立刻判断那是一种烂苹果。而人类理解很多东西都是通过全方位体验来实现，而文本依赖只是表面的理解层次。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，常识，全方位体验
“记者职能被替代可能性有限”
光明网：作为记者，被替换掉的风险有多高？
曹立宏：我认为现阶段可以放心，因为记者的核心在于深入理解问题，并提出相关问题。在这一点上，尽管AI如ChatGPNP已经显示出了巨大的潜力，但还无法达到真正意义上的深度理解。此外，记者需要具备情感智慧以及快速掌握情境变化，这些都不是目前AI系统所能达到的水平。
图片由百度文心大模型 AI 生成
关键词：记者功能替代率，大量思考能力
“更多只是一辅助工具”
光明网：“穿着AI马甲的大型算法”，您对这种说法怎么看？
曹立宏：“近年来，在自然语言处理领域取得了一系列突破。不少学生选择追随这个方向，因其职业前景好，而且企业需求也日益增长。不过，我作为科研人员则持有一定保留态度。我担忧的是，即便是一个如此先进的人工智能，如同科学家或专业人才那样精准地思考并拥有丰富知识背景的话，他们往往还是过分乐观，以至忽视到了它们在专业领域中的错误言论。一句话来说，用这样的工具做科研指导可能导致严重后果，因此我称它们为‘穿着AI马甲’。”他指出虽然 Chat G P T 在某些方面超越了人类，但仍然不能像真正的人类那样进行深入思考，只能流畅地胡说八道。因此，他建议不要将这种技术误解为真实的人类智慧代表。
图片由百度文心大模型 AI 生成
关键词：辅助工具，一般计算器搜索引擎效率
“未来需警惕滥用”
光明网：“您怎样看待 Chat G P T 的未来？”
曹立宏：“我认为 Chat G P T 有两条发展路径。一条是继续沿着目前主导的人工神经元模型构建深层学习网络及反向传播算法走下去。但这离生物大脑模仿还有很远距离，所以连该领域领军人物Geoffrey Hinton都在寻找更接近生物神经元结构和学习方式的方法。我相信没有找到完美手段之前，我们必须小心翼翼地进行调整操作。
另一条路径，则是在以人的认知为基础设计一种新的系统，让其更接近人的思维方式，比如将概念转化为量化形式，就像人们习惯将苹果定义为特定的向量一样。这些建议似乎可以让我们迈向更接近人类样的 Chat G P T。
总之，我预计它会成为大家喜爱的一款工具，但如果没有对其极限能力充分认识，将面临滥用的风险，从而带来不可预见且巨大的后果。”
