全球公敌之黑科技教父它在一本正经地胡说八道别被ChatGPT热潮迷惑了
编者按：
在全球范围内，ChatGPT的流行迅速蔓延，其背后的机制和潜力引起了广泛的关注。它是否能够替代记者的工作？我们应当如何看待其未来发展？为了深入探讨这些问题，我们特邀中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏教授分享他的见解。
专家简介
曹立宏教授是中国传媒大学脑科学与智能媒体研究院的领导者，他在人工智能领域有着丰富的研究经验，并且是多个重要学术委员会的成员。他对ChatGPT持有独到的见解，并将以此为基础，探讨其应用前景。
“ChatGPT使用感不错，但也有不足”
光明网：您对ChatGPT有什么具体体验吗？
曹立宏：相比于之前的版本，我认为ChatGPT在语言生成能力上取得了显著进步，尤其是在对话流畅性方面表现出色。这表明当前的人工语言生成模式已经相当成熟。不过，对于专业性较强的问题，它就显得有些局限了。
尽管ChatGPT采用了一种带人类反馈的强化学习策略，而且结合了聊天方式，这样的设计确实具有很高的商业吸引力。但目前的一个限制是内容更新速度不够快。例如，如果问它最近热门电视剧名，它可能无法准确回答，因为这涉及到AI中常见的问题——即所谓“灾难性遗忘”，即如何让系统快速学习新知识而不会影响已有的知识库。这仍然是一个AI领域需要解决的问题。
此外，作为一种没有具身体验能力的人工智能工具，它无法真正理解概念。在自然语言处理中，“理解”仅仅依赖于文本，是一种表面层面的理解，而人类通常会通过多种感觉来综合地理解事物，如看到、听闻、触摸等。如果你看到一个黑色的苹果，你会犹豫是否吃掉，因为你知道那可能是个烂苹果。这种全方位的情感体验对于人类来说至关重要，而对于AI来说则是一大挑战。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，大数据
“记者角色不能被完全取代”
光明网：那么，在你的看法中，被替代成为记者的可能性有多高？
曹立宏：我认为现在还不用担心，因为记者的核心功能之一就是深度理解和提出问题。而且，与情感相关的事情也是记者需要掌握的一部分。而快速学习和了解受访者的性格，也不是现今技术所能实现的事项。
图片由百度文心大模型 AI 生成
关键词：记者角色，深度理解，提问技巧
“更多只是一种辅助工具”
光明网：“穿着一个AI马甲”的评价是什么含义？
曹立宏：“近年来自然语言处理领域取得巨大进展，但很多学生选择这个方向往往只是因为市场需求高。但作为科研人员，我们必须谨慎观察这一趋势，因为它可能会导致专业领域出现错误或误导。如果人们把ChatGPT当做最终目标，那么就会产生严重后果。”
他进一步指出：“不要把它当作真正的人类智慧，就好。”因为虽然AI模仿人类智慧，但实际上它们并不像真人那样思考或拥有专业知识。因此，我们应该认识到这是一个非常不同的存在，不同于我们想象中的理想状态，即拥有无尽信息但又精确分析和推理能力的人类级别的大型计算器或者搜索引擎。
图片由百度文心大模型 AI 生成
关键词：辅助工具、大型计算器、搜索引擎
“警惕滥用可能性”
光明网：“关于未来发展，您有什么看法？”
曹立宏：“从两条路径考虑，一条是继续优化基于神经网络结构的算法；另一条则是在尝试更接近生物神经元以及学习算法，这样才可以更加接近人的认知方式。”然而，即使达到某种程度的大脑模拟，也还有许多未知要克服，比如将概念转换为数字表示（称之为词向量）。
他警告说：“如果缺乏对其极限判断的话（即滥用），带来的后果将非常严重。”因此，我们必须保持警觉，以防止这种情况发生。
图片由百ду文心大模型 AI 生成
关键词：滥用风险预警
