科技处官网警示ChatGPT热潮背后冷静思考防止被正经胡说八道误导
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。它背后的技术原理和工作机制是什么？会不会取代记者的角色？我们应该如何看待ChatGPT未来的发展趋势？光明网《创新改变中国》专栏特约专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏，深入探讨ChatGPT从人工智能角度。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时担任中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员，他致力于类脑智能和计算领域的研究。
“ChatGPT表现出色，但存在局限”
光明网：您对使用ChatGPT有何感受，以及它存在哪些不足之处？
曹立宏：相较于之前的GPT3，感觉确实有显著提升，其对话流畅性尤为突出，这表明现在语言生成模式取得了一定的进步。对于普遍知识或浅显专业知识，它提供信息且组织得很好。但当涉及到更专业的问题时，它就开始出现问题。
聊天方式结合人类反馈强化学习，使得语言生成能力更加强大，而商业推广模式也非常有效。不过目前最大的限制之一是内容更新速度慢。例如，当询问最新热门电视剧时，它可能无法准确回答，因为这涉及到AI中的遗忘问题，即如何让其快速学习新内容而不影响已有信息，这仍然是AI领域尚未解决的问题。
此外，ChatGPT缺乏概念上的具身体验，这正是我们所说的常识——一种通过生活环境积累起来的人类智慧，如重力等。在自然语言处理中，“理解”仅依赖文本，是一种表面的理解。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，常识，具身体验
“记者职业安全”
光明网：作为记者，被替代的可能性有多高？
曹立宏：我认为当前还不必过分担忧。首先，记者是一位基于深层次理解提出问题的人。在深层次理解方面，ChatGPT目前仍然做不到。此外，它并不接触情感系统。而作为记者来说，这两点都至关重要。而且，由于需要快速学习，以便了解受访者的个性等，在采访过程中甚至可以快速学习和掌握这些，都不是当前机器能实现的事。
图片由百度文心大模型 AI 生成
关键词：记者，大型项目管理工具
“更多只是一种辅助手段”
光明网：您的朋友圈评论提到了：“穿了个AI的深度学习马甲”，“不要把它看成AI就好”，以及“我觉得这是一个很流畅地胡说八道”。您如何解读这些观点？
曹立宏：近年来自然语言处理领域取得了巨大的进展。许多学生倾向于追随这一方向，并认为这个领域易找到工作机会。大多数企业也确实需要这样的技能。但对于我们科研人员而言，我们却感到不安，因为它在专业领域里就会胡说八道。这就是我说它们只是穿上了AI深度学习马甲，不真正拥有专业思考或知识的一种情况。
另一句评论“不要把它看成AI就好”，因为AI原本旨在模仿人类智慧。不难看到，从某种程度上讲 ChatGPT超越了人类，但在深度上，却不能像人类那样进行深入思考，对具有科学深度的问题，它通常能够流畅地表达，但往往以一本正经的方式胡说八道。
图片由百度文心大模型 AI 生成
关键词：辅助工具，全自动化办公软件
未来需警惕滥用
光明网：“未来怎么看待ChatGPT？”
曹立宏：“我认为chatgpt有一条发展路径，一条是在继续优化现有的神经网络结构，一条则是在尝试开发更接近生物大脑的大型神经网络结构。这两条路径各自面临着挑战，比如前一条必须克服算法效率低下，而后一条则需要解决复杂性的挑战。”
