中国科技创新之光ChatGPT热潮背后的冷思考它在一本正经中说谎吗
编者按：
在全球范围内，ChatGPT的火爆迅速吸引了众多人的关注。它背后的技术原理和工作机制究竟是什么？是否能够取代记者的角色？我们应该如何看待ChatGPT的未来发展趋势？为了探索这些问题，我们特邀中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏教授进行专访，从人工智能领域深入剖析ChatGPT。
专家简介
曹立宏，中国传媒大学脑科学与智能媒体研究院院长、博士生导师，以其对类脑智能和计算理论的深入研究而闻名。他不仅是中传学术委员会副主任，还担任中国人工智能学会第八届理事会理事及教育部科技委员会人工智能与区块链技术专委会委员。
“ChatGPT使用体验及其局限性”
光明网：您对使用ChatGPT有什么具体感受吗？它在哪些方面表现出色，又有哪些不足之处？
曹立宏：相比之前的模型，如GPT3，ChatGPT确实取得了一定的进步。在语言生成流畅性上，它做得相当不错。这主要归功于其采用的人类反馈强化学习，以及语言处理能力已然非常强大。此外，通过聊天模式，使其更加具有吸引力。不过，对于专业性更高的问题，ChatGPT就显得力所不及了。
对于内容更新速度也存在限制。例如，如果你询问最新热门电视剧，它可能无法提供准确答案，这涉及到AI中的“遗忘现象”。即使如此，在快速学习新信息同时保持旧知识完整性的挑战仍未被完全解决。
此外，由于缺乏概念上的具身体验，这也是我们所说的常识，即从生活环境中积累起来的知识。例如，当你看到一个黑色的苹果，你不会立刻知道它是烂苹果还是好的，因为人类理解往往涉及到视觉、听觉甚至触摸等多种感官。而在自然语言处理中，“理解”仅限于文本，是一种较为表面的理解方式。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，常识，具身体验
“记者的职业安全”
光明网：作为一名记者，被替代的风险有多大的？
曹立宏：我认为现在并不需要过分担忧这点。一方面，一位优秀的记者通常基于深刻理解来提出问题，而这种深层次理解目前还超出了AI能力范围。此外，与情感系统相关的情绪判断也是记者的重要技能之一，但目前AI尚未能模仿这一过程。此外，还有一点很重要，那就是记录采访过程时快速掌握目标人物的情况和背景，这同样超出了当前AI可达到的水平。
图片由百度文心大模型 AI 生成
关键词：记者，大数据分析
"更多只是一种辅助工具"
光明网：“穿着个AI的大衣”，不要把它当成真正的人工智慧看待——这怎么解释呢？
曹立宏：“自然语言处理领域确实取得了巨大的进展，但很多学生都倾向于这个方向，并且企业也越来越需要这样的人才。但作为科研人员，我个人并不太乐观，因为对于专业领域的问题，它们往往会胡说八道。如果将其当作导向的话，那么可能会导致一些严重的问题。我称之为‘穿着个 AI 的深度学习马甲’——它并没有真正的人类思考能力。”
另一句话，“不要把它当作真正的人工智慧看待”，因为人工智慧原本就是模仿人类智力的尝试。虽然聊天机器人如同搜索引擎或计算器一样极为便捷，但它们不能像人类那样进行深入思考。在那些要求科学深度洞察的问题上，它们只是流畅地胡说八道而已。
图片由百度文心大模型 AI 生成
关键词：辅助工具，大数据分析
"未来需警惕滥用"
光明网：“如何评价 ChatGPT 的未来发展？”
曹立宏：“我认为 ChatGPT 将沿着两条路径发展。一条是继续完善当前基于神经网络结构（即深度学习）的方法；然而，即便是该领域最杰出的科学家，也一直寻求开发更接近生物神经元结构和学习算法的事物。这意味着要对核心部分进行重大调整。
另一个可能性是在探索如何让 ChatGPT 更加接近大脑运作方式，比如改善量化概念（如苹果、梨）至词向量转换，以此来构建更贴近真实世界经验存储模式。如果成功，将带来更加接近人类思维逻辑类型的情境。
尽管 ChatGPT 将成为人们喜爱使用的一款工具，我依然担忧如果忽略其潜在极限，将面临滥用的后果，这将导致严重问题。”
