芯片热潮下的ChatGPT小心它可能在一本正经地编织虚幻世界
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。人们对其背后的原理、工作机制以及它可能带来的影响持有各种各样的疑问。我们特邀中国传媒大学脑科学与智能媒体研究院院长曹立宏教授，就人工智能视角进行深入探讨。
专家简介
曹立宏，中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时也是中传学术委员会副主任、中国人工智能学会第八届理事会理事和教育部科技委员会人工智能与区块链技术专委会委员，他致力于类脑智能和计算领域的研究。
“ChatGPT使用感不错，但也有不足”
光明网：您对ChatGPT有什么具体体验吗？它在哪些方面做得好，又有哪些不足？
曹立宏：相比以往的GPT3，ChatGPT确实取得了显著进步，其语言生成能力尤其令人印象深刻。对于日常知识或者浅显专业信息，它提供且组织都很出色。但当涉及到专业性更强的问题时，它就显得有些局限性，这反映出了AI目前在某些领域仍然存在的问题，比如如何快速学习新信息而不会干扰已有的记忆，以及如何克服所谓的灾难性遗忘问题。
此外，ChatGPT缺乏对概念本质体验的理解，这是人类常识的一部分，我们从生活环境中积累知识，不仅通过眼睛看到，还通过听觉、触觉、嗅觉甚至味觉来感知。这使得AI中的自然语言处理只能依赖文本，没有达到真正意义上的理解。而人类理解世界是多维度和全面参与式，而AI目前还无法完全模仿这种全方位体验。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，常识，具身体验
“记者的角色将被重新定义”
光明网：作为一名记者，被替代可能性有多高？
曹立宏：我认为现在并不需要过分担忧，因为记者的核心任务不仅仅是在提问，更重要的是要展现出深入理解并提出恰当的问题。在这些方面，当前的人工智能尚未能完全取代人类记者的功能。此外，在情感交流和快速学习上，由于AI缺少情感系统和直观经验，所以这两点对于记者来说至关重要，并且可以迅速适应不同的情况，这也是机器当前无法实现的情况。
图片由百度文心大模型 AI 生成
关键词：记者，大数据分析，加快采访过程
“ChatGPT更多还是辅助工具”
光明网：“穿着”一个AI马甲，“不要把它看作真正的人类”，你觉得这个评价合适吗？
曹立宏：“虽然自然语言处理取得了巨大的进步，但作为科研人员，我们还是感到有些担忧，因为即便是最先进的人工智能，也不能像科学家或专业人才那样精准地掌握复杂问题。”因此，我认为ChatGPT主要是一个辅助工具，而不是独立思考或解决复杂问题的首选。尽管它能够极大提高效率，比如搜索引擎一样，可以帮助我们找到相关信息，但真正在深层次进行思考则仍需人类智慧来完成。
另外，“流畅地胡说八道”的表述也指出了一个现实，即即使拥有大量信息，如果没有真正的情境理解，那么任何一个人（包括机器）都可能无意中提供错误或误导性的内容。这正是我警告大家不要盲目信任任何基于算法推动的事物，因为它们通常只是根据输入数据进行预测，而忽略了实际情境的大量因素。
图片由百度文心大模型 AI 生成
关键词：辅助工具，一键计算器、高效搜索引擎
未来发展需警惕滥用风险
光明网：“那么您怎么看待未来关于这项技术发展？”
曹立宏：“我认为 Chat Gpt 将走向两个方向。一条路径是继续优化现有的神经网络结构，以期望更加接近生物大脑之运作方式；另一条路则是在构建 Chat Gpt 的基础上，将其设计更加符合人的思维模式，使之能够更好地模拟我们的认知过程。不过，无论哪种方法，都需要不断创新以克服当前存在的一系列挑战。”
他进一步指出：“如果缺乏对这些技术极限能力判断的话，有可能导致他们被滥用，从而产生严重后果。”因此，对于这一前沿技术，我们必须保持警惕，不断加强监管，以防止其被用于非法目的，并保护个人隐私权益不受侵犯。
图片由百度文心大模型 AI 生成
