前沿科技2023ChatGPT热潮下警惕它的学术谎言
编者按：
在全球范围内，ChatGPT的火爆迅速吸引了众多人的关注。那么，背后隐藏的原理和工作机制又是什么呢？它是否有可能取代记者的角色？我们应该如何看待ChatGPT的未来发展？为了深入探讨这些问题，我们特邀中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏进行专访。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时也是中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他主要从事类脑智能和计算领域的研究。
“ChatGPT使用感不错，但也有不足”
光明网：您对ChatGPT有什么具体体验吗？
曹立宏：相较于前几代AI语言模型，如GPT3，ChatGPT确实取得了一些进步。它在流畅性方面表现得非常好，这说明现在语言生成模式已经有所提升。不过，对于专业性更强的问题，它仍然存在一些局限性，比如对于更新速度缓慢的问题，以及缺乏真正的人类经验理解能力，这就是我们常说的“灾难性遗忘”问题。
此外，人类理解世界不仅仅依靠文字，还包括听觉、触觉等多种感觉经验。因此，在自然语言处理中，只依赖文本是不够深刻的理解。而且，与记者的角色相比，记者需要快速学习和洞察人心，而这目前还不是机器可以完全实现的事情。
“ChatGPT更多还是一个辅助工具”
光明网：您之前在社交平台上提到过关于ChatGPT的一些观点，那里提到了它穿着AI的大深度学习马甲，并警告不要将其视为真正的人类智慧。如果你能进一步解释一下您的意思。
曹立宏：我认为尽管自然语言处理领域取得了巨大进展，但作为科研人员，我对这一趋势持谨慎态度。我担忧的是，如果人们把这种技术当作终极解决方案来使用，它们就会以一种肤浅而错误的方式影响我们的知识界。这就像用一台高级计算器来替代数学家的思维一样，不同的是，一般用户往往无法分辨什么是正确答案，而只看到计算结果。因此，我认为这种工具最好被视为提高效率的一个辅助手段，而非取代人类思考过程本身。
“未来需警惕其滥用”
光明网：那么，您怎样看待未来的发展方向？
曹立宏：我认为即使在未来的某个时刻，当我们能够开发出更加接近生物大脑结构和功能的算法或模型时，这样的系统也许能够提供更加真实的人类体验。但直到那时，我们仍需保持对这一技术潜力及其可能带来的负面影响保持警惕，以防止它们被滥用，从而导致不可预测甚至危险的情况发生。在这个过程中，让公众意识到这些潜在风险并采取适当措施至关重要。
