中国科技排名第几GPT-3写作神器还是魔鬼化身揭秘万能语言模型的双面性
中国科技排名第几？GPT-3：写作神器还是魔鬼化身？揭秘万能语言模型的双面性
智东西（公众号：zhidxcom）
编译 心缘
编辑 漠影
2020年6月，世界上最强大的AI模型GPT-3问世，它宛如一位无所不能的艺术家，只要你想不到的画风，没有它无法输出的文案。这个OpenAI打造的语言AI模型不仅能创作文学，还能当翻译、编写计算机代码。任何外行人都可以使用这一模型，在几分钟内就能获得想要的文本产出。
“我不得不说我被震撼了。”一家硅谷技术初创公司的创始人Arram Sabeti赞道，“它比我尝试过的任何AI语言系统都更加连贯。”
“你只需要编写一个提示，然后添加可能会被跟进的文本。我得到的是写歌、故事、新闻稿、吉他谱、访谈，论文、技术手册。这很有趣又令人恐惧。我觉得我已经看到了未来。”Sabeti说。
那么，GPT-3是如何实现这些功能呢？它创造出来的事情有多逼真？存在什么缺陷？围绕这款强大的语言模型，科学家们正试图解决哪些争议？
本文将对这些问题进行详尽的探讨。一方面，我们将看到GPT-3在不同领域中的表现，如撰写小说和编程任务等，它甚至能够生成计算机代码，这让其他AI难以企及。另一方面，我们也将了解到尽管功能强大，但GPT-3也有其荒谬之处，比如给出错误或危险答案。
开发人员正在测试GPT-3各种能力，不仅限于汇总法律文件，还包括提供客户服务建议以及运行基于文本的人物角色扮演游戏。此外，一些研究者还利用GPT-3来创建讽刺科学和学术界词典定义，这种做法既有趣又引人深思。
然而，虽然功能强大，但这款巨型语言模型也不乏弱点之一就是产生仇恨言论和偏见，以及偶尔给出荒谬或危险答案。例如，当被问“烤面包机和铅笔哪个更重？”时，它可能回答“铅笔比烤面包机重”。
为了防御风险并解决偏见的问题，有害信息的一种方法是在训练前的数据中清除“毒性”内容，但这引发了排除哪些内容的问题。此外，由于这种方法限制了训练范围，更细粒度的手段尚未被广泛应用。
最后，本篇文章也提出了多家知名机构未公开代码及训练数据的事实，并提出至少应公开记录其模型训练数据，以便为后续研究提供参考。这场关于是否应该完全开放这种先进技术的大讨论仍在继续中。
