智慧的火种传承OpenAI 创始人与300多位科技先锋联名点亮创新之光
科技传承的火种，OpenAI 创始人等超 350 名大牛再签联名一句话简短有力。他们警告称，自己的创作可能会毁灭全人类。声明希望讨论“AI 所带来的广泛且紧迫的风险”。在声明上签字的名人包括图灵奖获得者、OpenAI 高管以及其他 AI 研究人员。据悉，目前约超过 350 名从事人工智能工作的高管、研究人员和工程师签署了这份公开信。
作为风口浪尖上的人物，声明发表之际 OpenAI 掌门人 Altman 正访问全球，与各国元首就 AI 及其潜在风险展开讨论。这份关于 AI 风险的模糊声明很快激起了反对者的批评。但 CAIS 进一步强调希望“设置护栏并建立相关机构，确保 AI 风险不会让人类措手不及。”2 个月前，一封由马斯克等人呼吁叫停 AI 研发的公开信震惊世界。
然而，有些专家认为，这类警告对于当前已有的问题是忽略现实，而是过分关注未来可能出现的问题。Hugging Face 公司机器学习研究科学家 Sasha Luccioni 博士觉得 CAIS 的这封信如同儿戏：“首先，声明把 AI 的假想风险跟流行病和气候变化等现实威胁混为一谈，这只会扰乱公众的基本判断。这同时也是一种误导，只要把公众的注意力吸引到未来风险上，他们就会忽略当前的更多有形风险，比如 AI 偏见、法律纠纷和同意权等。”
此外，有评论指出，即使是像 Yoshua Bengio 这样的“AI 教父”也开始对自己这一辈子的工作成果感到迷茫。他在接受采访中坦言，“面对毕生工作成果，我也很‘迷茫’。”这个问题是否值得我们现在去解决，以及如何解决，也成为了一个重要议题。
