掌趣科技能让ChatGPT研发按下暂停键吗
最近，生成式人工智能如同大型魔幻表演中冲出舞台的高速过山车，使人们陷于地平线翻转般的眩晕之中。尽管ChatGPT4诞生两周之际，一篇关于GPT4已点燃通用人工智能火花的论文热度未减，但约书亚·本吉奥、斯图尔特·罗素、马斯克等千余名业界人士站出来指出，巨型AI研究是时候按下暂停键。
公开信呼吁暂停训练比GPT4更强大的AI系统，理由是大量研究表明具有人类竞争智能的AI系统可能对社会和人类构成深远的风险。这与21世纪以来科技与人类未来研究的基本理念相符，即人类开发出的前沿科技日益具有造类生存风险的颠覆性影响。
然而，虽然2017年初有2000余位业界人士和学者联合签署了包括23条倡议的Asilomar AI 原则，但这些原则及其背后的相称性治理思想并没有得到认真对待。尽管生成式和对话式人工智能伦理风险日益凸显，大型科技公司却在裁减人工智能伦理方面的人员，这加剧了人们对相关创新和应用安全风险的担忧。
公开信采用了两个策略：一是在追问人类未来的命运，并直指OpenAI关于通用人工智能声明中的高调表态；二是在独立外部专家参与监督以及政府监管下的共享安全协议建设上提出了具体建议。
从预防性原则出发提出暂停并不简单叫停，而是探寻我们可以接受的研究和创新。只有当我们确信它们影响积极且可控时才应该开发强大的人工智能系统。在扭转不平衡之前，我们有必要通过暂停这种慢科学策略，使科技力量在可掌控节奏下有序绽放，以避免失控带来灾难。因此，“让我们享受一个漫长的AI夏天，而不是毫无准备地陷入秋天”，正成为人类迈向科技未来需要反复唱颂的事实。
