第三次科技启示录ChatGPT热背后的冷思考它在一本正经中散布的谬误警钟
编者按：
在全球范围内，ChatGPT的流行迅速扩散，其背后的技术原理和工作机制引起了广泛关注。它是否能够替代记者的角色，以及我们应当如何看待其未来发展，这些问题都值得深入探讨。为了提供更全面的视角，光明网《创新改变中国》栏目专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏，他从人工智能的角度出发，对ChatGPT进行了深入分析。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时担任中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他致力于类脑智能和计算领域的研究。
“ChatGPT使用感不错，但也有不足”
光明网：您对ChatGPT有何看法？它在知识普及方面表现如何？
曹立宏：相比之前的GPT3，ChatGPT确实取得了一定的进步，它在语言生成能力上显示出了显著提升，尤其是在对话流畅性方面表现突出。这可能归功于其采用的人类反馈强化学习算法，以及通过聊天方式实现的人机交互模式。不过，在处理专业性较高的问题时，ChatGPT仍存在一定局限性。此外，由于AI中的“灾难性遗忘”问题，即更新内容速度不够快且无法有效保持旧知识，这也是当前AI领域尚需解决的问题。
另外，从人类常识和具身体验的角度来看，ChatGPI仅依赖文本理解，其理解层次远远落后于人类。例如，当看到一个黑色苹果时，我们通常会基于多种感觉（如触摸、闻味）来判断，而不是单纯依靠文字描述。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，大众化
“记者角色面临挑战但不需要过分担忧”
光明网：您认为作为记者的角色是否有被替代的风险？
曹立宏：目前，我并不认为记者的职业岗位即将被完全取代。记者之所以重要，是因为他们能基于深刻理解提出问题，而这方面还属于人类独有的优势。此外，与情感系统相关的事务也超出了现今AI能力范围。而快速学习和了解人物特质等过程，也是目前机器难以模拟的情境。
图片由百度文心大模型 AI 生成
关键词：记录、大数据分析
“更多只是辅助工具，不应忽视专业思考”
光明网：“你曾评论说‘穿上了AI的大衣’并指出要警惕科学上的胡言乱语，你怎么解释这一点？”
曹立宏：“自然语言处理领域确实取得了巨大的进展，但作为科研人员，我们应该谨慎对待这些工具，因为它们可能在专业领域内产生误导。在某种程度上，它们只能模仿人的思维，并不能真正地具有同样的深刻见解。”
图片由百度文心大模型 AI 生成
关键词：辅助工具、大数据时代
“未来需警惕滥用可能性”
光明网：“您对于ChatGPI未来的发展持什么态度？”
曹立宏：“我认为它有两条发展路径。一条是继续优化现有的深度学习模型；另一条则是寻求更接近生物大脑结构和学习算法的手段。然而，无论哪种方式，最终目标都是创造一个更加符合人类认知模式的AI系统。如果缺乏这种批判性的观察，我们就无法预防滥用带来的潜在危害。”
图片由百达文心大模型 AI 生成
关键词：滥用警告
