教育与科技ChatGPT热背后的冷思考小心它可能在一本正经地胡说八道
编者按：
在全球范围内，ChatGPT的迅速崛起引发了广泛的关注。它背后的原理和工作机制究竟是什么？是否能够取代记者的角色？我们应该如何看待ChatGPT的未来发展？为了探讨这些问题，我们专访了中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏，他从人工智能领域深入分析了ChatGPT。
专家简介
曹立宏是中国传媒大学脑科学与智能媒体研究院院长、博士生导师，同时也是中传学术委员会副主任、中国人工智能学会第八届理事会理事以及教育部科技委员会人工智能与区块链技术专委会委员。他主要致力于类脑智能和计算研究。
使用感受
谈及对ChatGPT的使用体验，曹立宏指出：“相比以往的GPT3，感觉确实有明显提升，它对话流畅性很好，这说明现在语言生成模式方面做得不错。不过，对于专业性的问题，它就开始出现不足。”他认为ChatGPT虽然采用了带人类反馈的强化学习，但对于快速学习新信息并且保持旧知识不被干扰的问题，还存在灾难性遗忘的问题。此外，由于缺乏具身体验，所以在理解概念上仅依靠文本是不够深刻。
替代记者的可能性
面对是否可以被ChatGPT取代的问题，曹立宏表示：“作为记者，你需要基于深度理解提出问题，而这方面目前AI还未能达到。而且，你需要快速学习了解受访者的性格等，这些都是机器目前无法完成的事情。”
更像是辅助工具
曹立宏提到：“更多地将ChatGPT视作一个辅助工具而不是直接替代工具，是更为合适的情况。它可以帮助我们效率提高，比如查找资料或进行搜索。但真正重要的是人们如何运用这个工具，以及它所代表的人类智慧边界。”
警惕滥用
最后，关于未来发展趋势，曹立宏警告说：“如果缺乏判断其极限能力的话（即使是在积极利用之下），那么（ChatGPT）可能会被滥用，从而导致严重后果。如果我们不能更好地理解其潜力和局限，那么这种技术可能会带来意想不到的负面影响。”
