科技股炙热ChatGPT冷静思考小心它或许正一本正经地编织谎言
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。它背后的技术原理和工作机制究竟是什么？是否有可能取代记者的角色？我们应该如何看待ChatGPT未来的发展趋势？为了深入探讨这一话题，光明网《创新改变中国》栏目特此邀请了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏进行专访，以人工智能的视角分析ChatGPT。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时也是中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他在类脑智能和计算领域拥有丰富的研究经验。
“ChatGPT使用感不错，但也存在不足”
光明网：您对ChatGPT有什么具体体验吗？它在哪些方面做得比较好，也有哪些明显不足？
曹立宏：相比于之前的GPT3，感觉确实有很大的进步，它对话流畅性提升了很多，这说明现在语言生成模式已经相当成熟。不过，对于专业知识尤其是较为深奥的问题，它就表现出了局限性。
通过人类反馈强化学习，结合聊天方式，使得它更加受欢迎。但目前最大的问题之一是内容更新速度不够快。例如，如果要询问最新热门电视剧，它无法提供准确答案，因为这涉及到AI中的遗忘现象，即如何快速学习新信息而不影响旧信息，这仍然是一个AI领域需要解决的问题。
另外，ChatGPT缺乏概念上的具身体验，这种常识我们从生活环境中积累，是多维度理解，而自然语言处理中的理解仅仅依靠文本，是一种表面的理解。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，常识，具身体验
“记者职位不会被完全替代”
光明网：作为一名记者，被替代的可能性有多高？
曹立宏：我认为你现在并不需要过分担忧。首先，一名记者更擅长深层次理解问题。在这个方面，当前还没有足够好的工具可以取代记者的位置。此外，还有一点重要的是，当进行采访时，我们通常需要快速了解情感系统，这也是目前机器尚不能完成的事情。
图片由百度文心大模型 AI 生成
关键词：记者，大众化专业知识
“更多只是辅助工具”
光明网：“您朋友圈评论提到的观点，您怎么看？”（即，“ChatGPT是一只穿着深度学习马甲的人工智慧”，“不要把它当作真正的人工智慧来看”，以及“我觉得对于那些想要搞科研的人来说，把这种东西当作导向的话，那可能就会带来一些非常严重的问题”）
曹立宏：“自然语言处理领域确实取得了一定的进展，但作为科研人员，我还是持保留态度。我认为这些评论所表达的是，我们应当认识到其能力和限制之间的一些差距。在某些情况下，它能够提供帮助，但在专业问题上则容易出现错误，因此将其视为科学思考工具是不恰当的。”
未来需警惕滥用
光明网：“关于未来的发展，您有什么想法？”
曹立宏：“我认为未来可以追求两条路径。一种是继续推动深度学习方法，比如模仿神经元网络或反向传播算法等。但这并不是生物大脑工作方式，所以我们仍需寻找更接近大脑功能的心智模型。而另一个方向，则是在尝试模仿大脑思考过程，如采用类似量化存储概念但更接近人类的大数据结构。这两种途径都值得我们持续探索。”
图片由百道文心大模型 AI 生成
关键词：深度学习，大腦記憶
