科技创新素材摘抄200字解密ChatGPT热潮背后的智慧与谎言
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。它背后的原理和工作机制究竟是什么？会不会替代记者的工作？我们应该如何看待ChatGPT的未来发展？为了深入探讨这一切，我们专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏，他从人工智能领域的角度，为我们揭开了ChatGPT之谜。
专家简介
曹立宏，中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时担任中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他致力于类脑智能和计算研究领域。
"ChatGPT使用体验"
光明网：您对ChatGPT有何感受呢？它在哪些方面做得不够？
曹立宏：相比以往的GPT3，我认为其流畅性确实有所提升，尤其是在语言生成模式上，它展现出显著进步。对于普遍知识或浅显专业信息，它提供且组织都很出色。但是，对于更专业的问题，这种系统就开始出现问题。
利用人类反馈进行强化学习，使得语言生成能力变得更加强大。而通过聊天方式呈现，也让它成为了一种商业推广上的成功模式。目前，其内容更新速度可能不是最快，比如，如果问及“最近火的一部电视剧”，它可能无法准确回答《狂飙》，这涉及到AI中的遗忘问题，即如何快速学习新知识而不干扰已有知识，是AI领域尚未解决的问题之一。此外，ChatGPT缺乏概念上的具身体验，这就是我们真正意义上的常识——从生活环境中积累起来的深刻理解。例如，当你看到一个黑色的苹果，你是否敢吃？你一定会犹豫，因为一摸即知那是一颗烂苹果。这表明我们的理解很多事情都是全方位体验，而自然语言处理中的“理解”仅仅依赖文本，是一种肤浅理解。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，常识，具身体验
"记者角色安全"
光明网：作为记者，将被替代的地步有多高？
曹立宏：我相信现在并不需要过分担忧，因为记者通常基于深度理解提问。在此方面，ChatGPT仍然不足以取代。而且，它没有触碰情感系统，但情感系统对于记者的重要性不可忽视。此外，不同于人类能够快速学习并了解采访对象的情绪和特质等，在采访过程中甚至能迅速适应这些变化，这些都是当前AI还无法实现的事情。
图片由百度文心大模型 AI 生成
关键词：记者角色安全，大众化交流工具
"辅助工具观点"
光明网：“穿着AI马甲”的评论以及对科学界潜在流言四起，您怎么看待这些说法？
曹立宏：近年来自然语言处理取得巨大的进步，有许多学生因此转向这个方向寻找职业机会，以及企业需求增加这种技能的人才。但是作为科研人员，我们对此感到担忧，因为专业领域里使用这种技术时存在错误的情况。如果将其当作导向性的工具，那么这将带来严重后果。我认为这是因为它本身并非具有专业思考和知识水平，所以称为“穿着AI马甲”。另一方面，“不要把它当成真正的人工智慧好”，因为AI旨在模仿人类智慧，但实际上尽管拥有广泛知识，但不能像人类那样深入思考。在某个层面上超越人的同时，也限制了它们深入科学探索的大门，让他们只能做一些一本正经地胡说八道的事物。
图片由百度文心大模型 AI 生成
关键词：辅助工具、大数据计算器、高效搜索引擎
"警惕滥用趋势"
光明网：“未来如何看待ChatGPT？”
曹立宏：“我认为 ChatGPT 有两条发展路径。一条是继续沿用目前基于神经网络的人工神经元模型及其反向传播算法。但由于这个模型偏离生物大脑结构，我们需要更接近生物大脑的大型项目。此外，还有一条路径是尝试模仿生物认知过程，比如改变量化方法，更接近人类的大脑运作方式，以期演变出更加类似人的聊天机器人。
总结来说，无论怎样发展，我都会继续使用这种工具，只要人们能够意识到其局限性，并避免滥用的话。我希望大家不要忽略或者低估这个产品带来的风险。”
图片由百度文心大模型 AI 生成
