科协权力大吗ChatGPT热潮背后的冷思考它在一本正经地胡说八道
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。它背后的技术原理和工作机制是什么？会不会取代记者的角色？我们应该如何看待ChatGPT未来的发展趋势？光明网《创新改变中国》专栏特约专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏，深入探讨了ChatGPT的人工智能视角。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时也是中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他致力于研究类脑智能和计算。
“ChatGPT使用感不错，但也有不足”
光明网：您对ChatGPT的使用体验如何？它有哪些显著的不足之处？
曹立宏：相较于之前的GPT3，感觉确实有所提升，尤其是它对话语流畅性很好，这表明现在语言生成模式方面取得了一定的进步。不过，对于专业性的问题，它就开始出现困难。
聊天方式结合了强化学习，使得语言生成能力得到了极大提升。这也是一种商业推广模式。目前似乎存在一个限制，即内容更新不是非常快。例如，如果你问它当前最受欢迎的电视剧，它可能无法提供准确答案，因为这涉及到AI中的遗忘问题——即使让它快速学习新知识，又不影响已有的信息，这仍然是一个AI领域尚未解决的问题。
此外，ChatGPT缺乏概念上的具身体验，这正是我们真正意义上的常识，我们从小在生活环境中积累起来的知识，比如重力等。对于某个物体，我们不仅看到，还可能听到、触摸甚至尝试，那是一种全方位理解。如果你看到一个黑色的苹果，你敢吃吗？这个时候，你肯定会犹豫，不知道那是否真的烂掉。在自然语言处理中，“理解”仅限于文本，是一种浅薄的理解。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，常识，具身体验
“记者角色更安全”
光明网：作为一名记者，被替代的地步有多高？
曹立宏：我认为，现在还不用过分担忧。首先，一名记者需要基于深度理解来提出问题。在这一点上，ChatGPT目前还做不到。此外，它现在并不接近情感系统，而这两点对于记者的工作至关重要。而且，对于快速了解受访者的性格等方面，在采访过程中进行快速学习，这些都超出了现今机器能够达到的水平。
图片由百度文心大模型 AI 生成
关键词：记者，大众化专业知识
“更多只是辅助工具”
光明网：“穿着AI马甲”，不要把chatgpt当成真货，“对科学来说大概率是很流畅地胡说八道”，您怎样看待这些观点？
曹立宏：“自然语言处理领域确实取得了一定进展。但很多学生偏向这种方向，有利可图。我担忧的是，对专业领域产生误解。当将chatgpt当作导向时，将导致严重后果。我提醒大家注意。”
另一句“我说它‘穿着’AI马甲”，因为AI旨在模仿人类智慧，但chatgpt并非真正的人类智慧，只能模拟思考深度，其知识面宽广但不能像人类那样深入思考。对于具有科学深度的问题，它能流畅回答，但往往是在“一本正经地胡说八道”。
图片由百度文心大模型 AI 生成
关键词：辅助工具
“未来需警惕滥用”
光明网：“未来怎么看？”
曹立宏：“我认为chatgpt有两条发展路径。一条是在继续优化现有的算法；另有一条则是从生物神经网络出发寻找更符合人类思维方式的事物。但这是理论层面的挑战。”他警告称，“如果缺乏判断其极限能力的话（chatgpt）将被滥用。”
图片由百ду文心大模型 AI 生成
关键词：深度学习
