大数据时代ChatGPT热背后的冷思考它可能在一本正经地胡说八道
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。它背后的原理和工作机制究竟是什么？是否能够取代记者的角色？我们应该如何看待ChatGPT的未来发展？为了探讨这些问题，我们专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏，他从人工智能领域深入分析了ChatGPT。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时也是中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他主要致力于类脑智能和计算研究。
使用感受：“ChatGPT感觉不错，但也有不足”
光明网：您对ChatGPT有何看法？它存在哪些显著不足？
曹立宏：相比之前的版本，感觉确实有所提升，尤其是在对话流畅性方面，它表现得很出色。这说明现在语言生成模型方面取得了一定的进步。不过，对于专业性的问题或更深层次的问题，它就容易出现困难。
尽管ChatGPT采用人类反馈进行强化学习，并且基于先前的强大语言生成能力——即GPT3，再加上聊天形式，使其变得非常吸引人。但目前它仍然存在一些限制，比如内容更新速度较慢。在回答关于最火电视剧的问题时，即使提到了《狂飙》，但这也触及到AI中的“灾难性遗忘”问题，即如何让AI快速学习新信息而不影响已有的知识，这仍然是AI领域需要解决的问题之一。
此外，作为一种没有具身体验的系统，ChatGPT缺乏我们所说的常识，这种理解方式仅依赖于文本，不足以替代真正的人类经验。例如，当你看到一个黑色的苹果，你可能会犹豫，因为你知道摸一摸可以确定是否烂掉。而这种全方位体验，是人类理解世界的一部分，在自然语言处理中，“理解”往往只是表面的，没有达到真实生活中的丰富度和复杂性。
关键词：《狂飙》，灾难性遗忘，常识，大模型
记者被替代可能性：“记者不是那么容易被替换”
光明网：作为一名记者，被ChatGPT取代的可能性有多高？
曹立宏：我认为现在还不用过分担心。首先，一名优秀的记者应当基于深入了解提出问题，而在这一点上，现有的AI尚未能完全达成。此外，与情感交流相关的情境，也是人类特有的优势。而且，如同快速掌握人物特质等动态变化的事物一样，在采访过程中不断学习，这些都是目前机器无法实现的事情。
关键词：记者，大数据分析
“更多只是一种辅助工具”
光明网，您在社交平台上的评论指出，“这是穿上了深度学习的大衣”，并提醒不要将其视为真正的人工智能，还说“对于科学来说，有着流畅胡说八道”的风险，那么这些观点怎么解释呢？
曹立宏：过去几年来，我国自然语言处理领域取得了巨大的进展。很多学生倾向于选择这个方向，因为市场需求也日益增长。不过，对科研人员来说，我们还是感到有一丝担忧，因为这样的工具在专业领域里可能导致错误或者误导。如果将之当作指导标准，那么潜在的问题将不可避免地发生，因此我称之为“穿戴了个深度学习的大衣”。
另一句“我觉得不要把它当作真的AI”，因为本质上，任何一个模仿人类智慧的人工系统都无法完全接近人的思考方式或知识储备，无论它们多么精妙，它们都不能像人类那样去思考某些复杂主题。因此，他们虽然拥有广泛知识，但通常只能提供浅显解答，而非深刻洞察。在涉及具有科学核心性的知识时，其回答无疑更像是“一本正经地胡说八道”。
关键词：辅助工具、大数据分析
未来需警惕滥用：“需要发展新的算法”
光明网，您怎样看待ChatGPT未来的发展趋势？
曹立宏：我认为未来两条路径可供选择。一条是继续沿着当前使用的人工神经元模型构建基础，以及反向传播算法前行。但这实际上已经偏离了生物大脑结构和运作模式，所以即便是那些推动这一技术前沿发展的心灵之父Geoffrey Hinton也不断寻找更接近大脑工作原理的方法。而我们的目标就是要找到更加符合生物认知过程的手段，从根本上改变现存算法，这是一个挑战。
另一条路径则是在探索更接近大脑思维方式，以量化概念转换为词汇向量等手段来改进chatgpt。如果我们能开发出更加类似于大脑功能、忆存、量化习得机制，将带来一种革命性的变革，使chatgpt变得更加贴近真实生命体。
总结来说，它一定会成为人们喜欢使用的一个工具。我个人并不担心，但是如果忽略其局限性并盲目接受的话，就很容易被滥用，而后果可能非常严重。
图片由百度文心大模型 AI 生成
关键词：自然语言处理，大数据时代
