专家千声齐鸣让ChatGPT研发按下维护键吗
在人工智能领域的前沿探索中，ChatGPT等生成式语言模型的崛起，如同一场科技革命般迅猛地席卷全球。然而，在这种技术飞速发展的同时，我们也面临着前所未有的挑战和风险。就在GPT4问世之际，一份由约书亚·本吉奥、斯图尔特·罗素及马斯克等千余名专家联署的公开信呼吁暂停训练比GPT4更强大的AI系统。
这封公开信提出了一个深刻的问题：我们是否应该让机器操纵我们的信息渠道？是否应该自动化所有工作，包括令人满意的工作？是否应该开发最终可能超越并取代人类思维的人工智能？这些问题触动了人类文明存在与未来发展的大讨论。
为了应对这一挑战，这些专家提出了一种“慢科学策略”，即暂停至少6个月训练比GPT-4更强大的AI系统，以便进行独立审查，并在政府监管下共同开发和实施用于高级人工智能的一套共享安全协议。这不仅是对科技进步的一种警示，也是一种基于伦理考虑的人类责任担当。
从历史角度看，此类预防性措施并非新鲜事物。在1975年阿西洛马会议上，保罗·伯格等生命科学家就因基因重组DNA研究潜在风险而主动提出暂停。自那时起，预防性原则已经成为突破性科技创新不可或缺的一部分。
展望未来，我们必须认识到深度科技化将更加深入生命和智能领域，而人的价值、伦理问题必须被视为研究内核之一。这需要我们投入更多关注度和资源，使得科技能够向合乎人类利益方向发展，从而扭转力量不平衡现象。
因此，这封公开信给我们的启示是，在科技力量失控之前，我们应当通过暂停策略，让其有序绽放，以避免对人类社会带来灾难性的影响。正如诗句所言，“让我们享受一个漫长的AI夏天，而不是毫无准备地陷入秋天”，这是我们迈向科技未来必需反复唱颂的情歌。
