重庆科技馆探秘ChatGPT热潮背后的冷思考它在一本正经中隐匿的胡说八道艺术
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。它背后的技术原理和工作机制是什么？会不会取代记者的工作？如何看待其未来发展？为了探索这些问题，我们专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏，他从人工智能角度深入分析了ChatGPT。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时担任中传学术委员会副主任、中国人工智能学会第八届理事会理事及教育部科技委员会人工智能与区块链技术专委会委员。他致力于类脑智能和计算领域的研究。
对ChatGPT的评价
曹立宏表示，相比之前的版本，ChatGPT确实有所提升，它在流畅性方面表现出色，对于一般知识和浅显专业知识提供良好的服务。不过，当涉及到更专业的问题时，它就显得不足。尽管使用了一种带人类反馈强化学习的方法，但仍然存在内容更新不够快的问题，如无法准确回答关于最新电视剧《狂飙》的信息，这可能是由于AI中的“灾难性遗忘”现象，即如何快速学习新信息而不影响已有的知识储备。
另外，ChatGPT缺乏概念上的体验，这也是我们常识的一部分，我们通过多种感官来积累认识，而自然语言处理中，“理解”的方式仅限于文本，是一种表面的理解。在这个过程中，人们往往忽略了人类独特的心灵体验，比如对苹果是否能吃到的犹豫，因为我们的理解通常是全方位且具身性的。
作为记者的可能性被替代
对于记者职位被替代的问题，曹立宏认为目前还没有太大必要担忧。记者需要基于深度理解提出问题，而这种能力目前尚未实现。此外，由于聊天机器人的缺乏情感系统这一点，也使得它们无法真正模拟采访过程中的情境。而且记者需要快速适应新的情况，这也是当前AI尚未能够完成的事情。
将ChatGPT视作辅助工具
谈到他在朋友圈评论时提到的观点——"穿着AI马甲"、“不要把它当成真AI"以及"一本正经地胡说八道"——曹立宏解释称 ChatGPT虽然利用自然语言处理技术取得进步，但实际上并非真正的人类智慧。如果将其作为科研方向，则可能导致严重后果，因此建议谨慎对待这种工具。另一方面，由于AI旨在模仿人类智慧，其超越人类但又不能像人类那样深刻思考或拥有专业知识的事实，使得它既有巨大的优势也有明显局限性。
警惕未来滥用风险
最后，对于ChatGPT未来的发展趋势，曹立宏提出了两条路径。一种是在改进深度学习算法上，一种则是尝试更加接近大脑运作模式。在此基础上，他警告如果缺乏对其极限能力的判断，将很容易被滥用，从而产生大量负面后果。这也意味着我们应该保持审慎态度，在享受这些先进工具带来的便利同时，不断关注并探讨它们潜在的风险和挑战。
