亚马逊云科技能让ChatGPT研发按下暂停键吗新京报专栏
在ChatGPT等生成式人工智能和大规模语言模型的热潮中，人们对这些似乎日益逼近人类水平的智能系统感到困惑。就在GPT4诞生两周后，一篇关于GPT4已点燃通用人工智能火花的论文继续引起关注。约书亚·本吉奥、斯图尔特·罗素、马斯克等千余名业界人士呼吁，鉴于最近几个月来人工智能领域竞赛失控，巨型AI研究应暂停。
未来生命研究所发布公开信，指出大量研究表明具有人类竞争智能的AI系统可能对社会和人类构成深远风险。这与21世纪以来科技与人类未来研究的基本理念相符，即人类开发出的前沿科技日益具有造类生存风险的颠覆性影响。
2017年，“有益人工智能”会议上，有2000余位业界人士和学者签署了包括23条倡议的Asilomar AI原则，以规划和管理超级智能并构建有益的人类而非无序之智。尽管全球出台了多部原则，但这些原则及其思想未得到认真对待。
面对伦理风险日增的大型科技公司裁减伦理人员，加剧安全风险担忧，这封公开信采用追问命运策略，并直指OpenAI关于通用人工智能声明中的高调表态。在关键时刻，我们不能简单权衡风险收益比，而是需要独立审查、政府监管以及共享安全协议共同发展。
从阿西洛马会议到今天，预防性思想成为突破性创新重要原则。提出暂停并不简单叫停，而是基于寻求稳健创新的思路，在确保积极影响且可控风险前提下才开发强大系统。只有将人的价值、伦理问题视为内在环节，并给予关注度和资源投入，科技才能合乎利益演进。此次公开信启示我们通过慢科学策略，使力量有序绽放，以避免不受制约导致灾难性的技术变革，为文明发展带来颠覆性危机。在这个意义上，“让我们享受一个漫长的AI夏天，而不是毫无准备地陷入秋天”，正如史诗般反复唱颂所需的一句诗句。
