科技发展的好处100条ChatGPT热背后的冷思考它是否在一本正经地胡说八道
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。它背后的技术原理和工作机制是什么？会不会取代记者的角色？我们应该如何看待ChatGPT未来的发展趋势？光明网《创新改变中国》专栏特约专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏，深入探讨了ChatGPT的人工智能视角。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时也是中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他致力于研究类脑智能和计算。
"ChatGPT使用感不错，但也有不足"
光明网：您对ChatGPT的使用体验如何？它有哪些显著的不足之处？
曹立宏：相较于之前的GPT3，感觉确实有所提升，尤其是在对话流畅性方面表现突出，这表明现在语言生成模型在进步。对于普遍知识或浅显专业领域，它提供信息且组织得很好。但当涉及到更专业的问题时，它就出现问题了。
聊天方式结合强化学习带来了商业模式上的成功。而目前存在的一个限制是内容更新速度不够快。例如，当问及当前最受欢迎的电视剧时，它可能无法准确回答，因为这涉及到AI中的遗忘问题，即如何让它快速学习新知识而不干扰已有的知识。这是一个AI领域尚未解决的问题。此外，由于缺乏具身经验，ChatGPT在理解概念上仅依赖文本，不同于人类从多个角度（如看到、听到、触摸）积累常识。如果一个黑色的苹果呈现给你，你是否敢吃，将犹豫，因为一摸可能就知道那是一根烂苹果。实际上，我们人类理解很多东西通过全方位体验，而自然语言处理中的“理解”仅是肤浅文字层面的理解。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，常识，具身体验
"记者角色被替代可能性有限"
光明网：作为记者，被替代成为可能吗？
曹立宏：我认为现在还没有太多需要担忧的地方。一方面，在深度理解问题提出方面，机器仍然做不到这一点；另一方面，对情感系统也保持警惕，因为这是记者的重要组成部分。而且作为记者，还需快速适应环境，以便了解受访者的性格等，这些都超出了当前机器能力范围内。
图片由百度文心大模型 AI 生成
关键词：记者，大型项目管理，与人沟通技巧
"更多只是辅助工具"
光明网：“穿着AI马甲”，“不要把它当作真正的人才”，“科学地胡说八道”，这些观点怎么解读？
曹立宏：“近年来自然语言处理取得巨大进展，但这并不意味着所有方向都是好的选择。我担忧的是这种技术将影响科研界。在某些专业领域中，它们能流畅地进行高级思考，但它们不能像人类那样深入思考。”
此外，“不要把它当作真正的人才”，因为AI旨在模仿人类智慧。虽然ChatGPT拥有广泛知识面，却无法像人类那样进行深入分析。在一些具有科学深度的问题上，其回答往往是一本正经却充满错误——即使这样，也可以自信地讲述复杂的话题。因此，我认为这种工具主要还是辅助性的，并非直接代表真实的人类智慧或者能力。
图片由百度文心大模型 AI 生成
关键词：辅助工具、高效搜索、大数据集整合
"未来须警惕滥用风险"
光明网：“未来怎样看待这个发展？”
曹立宏：“我认为_chatgpt_将走两条路，一条是沿用目前主流的人工神经元模型构建深度学习网络及其反向传播算法；另一种路径则是在设计过程中考虑更加接近生物大脑的大规模并行处理和学习算法。”然而，无论哪种路径，都需要更先进的心理学基础理论支持以实现更接近人的认知功能。
他警告指出，如果缺乏对其极限判断，那么随着时间推移，该系统很可能被滥用，从而导致严重后果。
图片由百ду文心大模型 AI 生成
关键词：应用开发、大数据挖掘、新兴市场开拓
