综合国力的智慧机器ChatGPT热背后的冷思考它在一本正经地胡说八道吗
编者按：
在全球范围内，ChatGPT的流行迅速扩散，其背后的技术原理和工作机制引起了广泛关注。它是否能够替代记者的角色，以及我们应当如何看待其未来发展，这些问题都值得深入探讨。为了提供更全面的视角，光明网《创新改变中国》栏目专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏，他从人工智能的角度出发，对ChatGPT进行了深入分析。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时担任中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他致力于类脑智能和计算领域的研究。
“ChatGPT使用感不错，但也有不足”
光明网：您对ChatGPT有何看法？它在知识普及方面表现如何？
曹立宏：相比之前的GPT3，ChatGPT确实取得了一定的进步，它在语言生成能力上显示出了较好的效果，尤其是在对话流畅性方面。对于日常知识或浅显专业信息，它能提供并组织结构清晰。但当涉及到更为专业或复杂的问题时，它就会遇到难题。
此外，由于采用带人类反馈的强化学习机制，加之以聊天方式推广，使得它成为了热门产品。然而，目前存在的一个限制是内容更新速度不够快，如提及当前最受欢迎电视剧时可能无法准确回答，因为这涉及AI中的遗忘问题，即如何快速学习新信息而不影响已有的数据处理。这仍然是一个AI领域尚未解决的问题。
另外，ChatGPT缺乏概念上的体验，这就是我们所说的“common sense”（常识），即通过生活环境积累的人类经验。在理解世界时，我们通常依赖多种感觉，而非仅仅依靠文字。如果看到一个黑色苹果，不知道是否敢吃，那么触摸一下可以确定那是一颗烂苹果。而人类理解很多东西都是通过具身经历来构建，这在自然语言处理中被称为肤浅理解。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，常识，具身体验
“作为记者，被ChatGPT替代可能性并不高”
光明网：作为记者，你认为被替代的可能性有多大？
曹立宏：我认为现在还没有太多理由担忧，因为记者的核心功能是基于深刻理解提出问题，而这些任务目前还超出了AI能力范围。此外，与情感系统无交集也是重要因素之一。而且记者需要快速适应各种情况，在采访过程中不断学习了解，这些都是当前AI无法完全实现的事情。
图片由百度文心大模型 AI 生成
关键词：记者，大众化专业知识
"更多只是辅助工具"
光明网：“穿着AI马甲”的评论，您怎么解读这些观点？
曹立宏：近年来自然语言处理取得了巨大的进展，但这一领域也引发了一些担忧。我个人并不乐观地看待这种趋势，因为虽然这些工具对于企业来说非常有用，但它们往往不能像真正科学家那样精准地思考和掌握专业知识。因此，我说它们像是穿上了深度学习皮肤，但是本质上并不是真正具有专业思维的人才。我建议不要将它们视作真实的人类智慧，更应该把它们当作辅助工具来使用，用以提高效率，而不是取代人类智慧本身。
图片由百度文心大模型 AI 生成
关键词：辅助工具
"需警惕滥用"
光明网：“未来怎样？”您的看法是什么？
曹立宏：关于未来，我相信 Chat Gpt 将成为人们喜爱使用的一款工具。我自己也会继续利用它。不过，如果人们没有足够认识到其局限性，并且过分信任或者滥用这个系统，那么后果将十分严重。在这样的背景下，我们必须保持警惕，以避免潜在风险。
图片由百ду
