我是科技之光引领智慧风潮ChatGPT热潮警惕它一本正经的虚幻演绎
编者按：
在全球范围内，ChatGPT的流行迅速扩散，其背后的技术与潜力引起了广泛关注。那么，它是如何运作的？它是否有可能取代记者的工作？我们应该如何看待ChatGPT的未来发展？为了深入探讨这些问题，我们邀请了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏进行专访。
专家简介
曹立宏，是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，也是中传学术委员会副主任和中国人工智能学会第八届理事会理事，以及教育部科技委员会人工智能与区块链技术专委会委员。他致力于类脑智能和计算领域的研究。
“ChatGPT使用感不错，但也有不足”
光明网：您对ChatGPT有什么具体体验吗？它在哪些方面表现出色，又存在哪些不足？
曹立宏：相较于之前的GPT3，ChatGPT确实取得了一定的进步，尤其是在对话流畅性方面表现突出。这说明当前语言生成模型已经取得了显著提升。在提供普通知识或浅显专业知识时，它能够组织信息得当。但对于更为专业复杂的问题，这种能力就会受到限制。
通过强化学习机制，与人类交互并不断改进，ChatGPT成功结合了语言生成能力和聊天模式，从而成为了商业推广的一个有效途径。不过，由于内容更新速度相对较慢，比如无法及时回应关于《狂飙》这档热门电视剧的问题，这反映出了AI中的“灾难性遗忘”问题——即如何让AI快速学习新知识，同时保持原有信息完整，而这一挑战仍未得到完全解决。此外，作为一种没有具身体验（常识）的系统，它仅依赖文本处理，不同于人类全方位理解世界的方式，如看到黑色苹果是否敢吃等情境下的判断。
图片由百度文心大模型 AI 生成
关键词：《狂飙》，灾难性遗忘，大量数据，小规模样本
“记者角色将不易被替代”
光明网：考虑到您的专业背景，您认为记者的工作岗位面临被ChatGPT替代的情形有多可能？
曹立宏：目前，我并不担忧记者的岗位安全。首先，记者需要基于深入理解来提出问题，这一需求目前还超出了AI ChatGPT所能实现的地步。而且，即使是情感交流也是记录采访过程中重要部分，对此点上现阶段AI仍然缺乏能力。同时，要想快速了解受访者的个性特质，就像在采访中这样灵活适应，这也不是当前机器可行之举。
图片由百度文心大模型 AI 生成
关键词：深入理解提问技巧、情感交流、快捷学习
"更多只是辅助工具"
光明网：“穿着一个AI的大衣马甲”，这是您曾经发表的一句话，您怎样解读这种观点？
曹立宏：“自然语言处理领域近年来确实取得巨大进展，但很多学生都倾向于追求这个方向，以此为职业前景之一；企业同样需要这样的人才。然而，在科研界，我们则感到担忧，因为对于专业性的讨论，无疑容易导致错误。”因此，“穿上了一个AI深度学习马甲”的说法正合逻辑，因为它并非真正具有专业思考水平或知识储备。如果将其视作指导方向，那么很可能引发重大误解，因此我建议不要把它当做代表真正意义上的高级智慧。
另一句，“不要把它看作是真的”，因为从根本上讲，该系统旨在模仿人类智慧，所以尽管拥有广泛知识但却无法像真人那样深层次地思考那些具有科学深度的事物。所以，当涉及到科学性的讨论时，它虽然流畅，却往往只是一本正经地胡说八道。
图片由百度文心大模型 AI 生成
关键词：辅助工具、大型计算器、高效搜索引擎
"未来需警惕滥用"
光明网：“你怎么看待chatgpt未来的发展趋势？”
曹立宏：“我认为chatgpt未来可以走两条路。一条是在继续优化现有的神经网络结构，使其更加接近生物神经元功能；另一种路径，则要探索以人的认知方式构建新的算法。这要求我们去重新审视我们的认知过程以及它们如何转换成代码。”
他指出，如果过分乐观，没有正确评估chatgpt自身极限，将面临严重后果。他希望人们认识到chatgpt仅是一个工具，并非完美无缺，他预见到了滥用带来的风险，并警告说必须小心管理这个新兴技术，以避免出现负面影响。
图片由百度文心大模型 AI 生成
关键词：持续优化、大脑启示、新算法构建
