中国科学技术协会警醒ChatGPT热潮背后别被它那一本正经的胡言乱语迷惑了
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。它背后的技术原理和工作机制究竟是什么？是否能够替代记者的角色？对ChatGPT未来发展的态度又该如何界定？为了深入探讨这些问题，我们特邀中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏进行专访。他从人工智能的角度出发，提供了一系列独到的见解。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时也是中传学术委员会副主任，以及中国人工智能学会第八届理事会理事和教育部科技委员会的人工智能与区块链技术专委会委员。他致力于研究类脑智能和计算理论。
“ChatGPT使用感不错，但存在不足”
光明网：您对ChatGPT有何看法？它有什么显著不足之处？
曹立宏：相较于之前的GPT3，ChatGPT确实取得了显著进步，它在流畅性方面表现突出，这说明语言生成能力得到了提升。对于一般知识点以及浅显专业领域，它能提供准确且组织得当的信息。但当涉及到更为专业或复杂的问题时，ChatGPT便开始出现局限性。
其强化学习算法结合了人类反馈，使得语言生成能力极大增强。此外，它采用聊天模式，更受欢迎，这可以视作一种商业推广策略。不过目前的一个限制是内容更新速度不够快。例如，当询问最新热门电视剧时，它可能无法准确回答，因为这涉及AI中的遗忘问题，即如何让系统快速学习新知识而不会干扰已有知识，这仍然是一个未解决的问题。
此外，ChatGPT缺乏概念层面的体验，是我们所谓常识的一部分，这些都是通过生活环境积累起来的，而非单纯依赖文本理解。这就意味着人类理解世界方式远比AI复杂多样。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，常识，大型事件
“记者职位面临替代风险？”
光明网：作为记者，你认为被替代的可能性有多高？
曹立宏：我认为现在还不必过分担忧，因为记者的核心竞争力在于深度理解问题并提出合适的问题。在这一点上，当前的人工智能还未达到。而且，对情感处理也不是它们所擅长之处。而采访过程中快速了解受访者的个性等信息，也超出了现有的AI能力范围。
图片由百度文心大模型 AI 生成
关键词：记者角色深度理解提问情感快速学习个人特质
“更多只是辅助工具”
光明网：您曾评论说，“不要把 Chat Gpt 看成AI就好”，并指出它可能是一本正经地胡说八道。你怎样解释这个观点？
曹立宏：“自然语言处理领域近年来取得巨大进展，但很多学生却倾向于追求这个方向，以此为职业前景之一。这使企业需求增加，但科研人员如我则感到担忧，因为这样的工具容易误用。我将 Chat Gpt 视作穿戴 AI 深度学习马甲，其自身并不具备真正专业思考和知识。”因此，我建议人们应谨慎对待，将其视作辅助工具，而非取代科学家的重要手段。
图片由百度文心大模型 AI 生成
关键词：辅助工具计算器自由搜索引擎效率深入思考
警惕未来滥用的潜在危险
光明网：“那么，您对 Chat Gpt 的未来持何看法？”
曹立宏：“我相信 Chat Gpt 将走两条路径。一种是继续基于神经网络，如反向传播算法，但是这种方法离生物大脑真实模拟还有很远，因此我们需要新的思路。不仅如此，还有一种方法就是尝试模仿人类的大脑结构，比如量化苹果这样的概念，从一个更加生物学角度去实现。如果成功，我们将拥有一个更接近人的 chat gpt。虽然目前声音都非常乐观，如果没有足够认识到其极限，那么 chat gpt 会被滥用带来的后果太严重。”
图片由百度文心大模型 AI 生成
关键词：未来发展路径神经网络反向传播算法生物学角落量化概念
