中国航天日独家解析ChatGPT热潮背后的冷思考它是否真的在一本正经地飞向星空
编者按：
在全球范围内，ChatGPT的火爆程度令人瞩目，但它背后的原理和工作机制又是怎样的呢？它是否有可能取代记者的角色？我们应当如何对待ChatGPT的未来发展？光明网《创新改变中国》专栏就此问题，与中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏进行了深入交流，以人工智能视角探讨了ChatGPT。
专家简介
曹立宏，中国传媒大学脑科学与智能媒体研究院院长、博士生导师，他还担任中传学术委员会副主任、中国AI学会第八届理事会理事及教育部科技委员会人工智能与区块链技术专委会委员。他的研究重点集中于类脑智能和计算领域。
"ChatGPT使用感不错，但也有不足"
光明网：您使用过ChatGPT吗？它有什么显著的不足之处？
曹立宏：相比以往的语言模型，如 GPT3，我觉得 ChatGPT 在流畅性上确实有所提升。对于一般知识点，它能够提供较为准确且组织得当的信息。但当涉及专业或深度的问题时，它便开始出现困难。这主要是因为 ChatGPT 使用的是基于人类反馈强化学习算法，其生成语言能力已经相当出色，再加上聊天模式，使其在商业推广上取得了一定的成功。不过，由于内容更新速度有限，比如回答关于热门电视剧的问题时，它可能无法提供最新信息，这也是 AI 中存在的一个“灾难性遗忘”问题，即如何让系统快速学习新知识，同时不影响旧有的信息存储。
此外，ChatGPT 缺乏概念上的具身体验，这正是我们所说的常识——通过生活环境积累的人类经验。而对一个物体，我们不仅看而已，还能听闻触摸甚至品尝，是全方位理解。如果你看到一个黑色的苹果，你敢吃吗？这需要更深层次的人类直觉判断，而自然语言处理中的“理解”仅依赖文本，是一种浅薄的理解。
图片由百度文心大模型 AI 生成
关键词：灾难性遗忘，常识，具身体验
"记者角色被替代可能性并不高"
光明网：作为记者，你认为 ChatGPT 替换自己的可能性有多大？
曹立宏：我认为现在可以放心，因为记者的核心功能在于深入理解问题，并提出合适的问题。在这种深入理解方面，目前 ChatGPT 还未达到水平。此外，对情感系统和快速了解受访者特质等方面，也超出了当前技术能力。因此，就目前来看，不必太担忧将来的职业替代风险。
图片由百度文心大模型 AI 生成
关键词：记者角色替代
"更多只是辅助工具"
光明网：“穿着AI马甲”，“不要把它当成真正AI”，你的观点是什么？
曹立宏：“近年来自然语言处理领域确实取得了巨大的进步，有许多学生倾向于选择这个方向，因为企业也越来越重视这一技能。但作为科研人员，我们还是感到有些不安，因为即使具有广泛知识面，在专业领域里却经常出现错误或者胡说八道的情况。我指的是这些工具并非真正像科学家那样思考或拥有专业知识。”所以称它们为穿上了AI皮肤，那些基础思想是不够精细化的一种模仿人类思维方式。
另一句“我说不要把他当真”，因为人类智慧源自模仿其他生物特别是人的行为。如果你比较仔细地去分析就会发现，无论怎么样，他都不是像真的懂得一样去思考。他知道很多东西，但是没有办法像人那样进入到更深层次去想象那些复杂的事物。
图片由百度文心大模型 AI 生成
关键词：辅助工具、计算器、搜索引擎
"未来需警惕滥用"
光明网：“您如何看待 ChatGPT 的未来发展？”
曹立宏：“我认为 ChatGTP 有两条路径。一条是在现有的基础上进一步优化，如采用更加接近生物神经元结构的人工神经网络，以及相关反向传播学习算法。但这是对现有技术挑战性的改进。另一种路径，则是在从更接近大脑角度思考，从而寻找新的方法，比如将概念转换为量化形式（即词向量），这同样是一个挑战。希望能找到一套既符合生物学规律，又能实现高效率操作的大型数据处理系统。”
最后，如果缺少对其极限认识的话，将导致滥用带来的后果非常严重，因此我们必须保持警惕，为避免潜在风险做好准备。
图片由百度文心大模型 AI 生成
