Elon Musk 和 Steve Wozniak 敦促 OpenAI 停止 ChatGPT 升级

一群著名的技术专家、研究人员和其他有影响力的人呼吁 OpenAI 暂停训练其人工工具 ChatGPT。

包括伊隆·马斯克、史蒂夫·沃兹尼亚克和安德鲁·杨在内的顶级人工智能人物显然签署了一封公开信，呼吁暂停六个月开发比 GPT-4 更强大的人工智能系统，GPT-4 是 2018 年首次推出的生成工具的当前版本2022 年 11 月。

在这封信中，作者断言，如果私营公司未能在当前 GPT4 实施之外停止对其 AI 进行培训，“政府”应该强行解决这个问题。

“我们呼吁所有人工智能实验室立即暂停对比 GPT-4 更强大的人工智能系统的训练至少 6 个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这样的暂停，政府应该介入并暂停，”信中说。

这封信目前有超过 1,100 个签名。然而，一些人质疑是否所有知名人士都签署了这封信。著名人物包括图灵奖获得者 Yoshua Bengio、智能系统中心主任 Stuart Russell、Stability AI 首席执行官 Emad Mostaque 和 Ripple 联合创始人 Chris Larsen。

该项目的一位发言人表示，最早的签名已经过双重检查，但由于需求量大，名字的显示已经暂停。

“名单上的所有顶级签名者都经过了独立验证，”未来生命研究所副总裁安东尼阿吉雷告诉 Decrypt。他补充说：“对整个名单（现在已经超过 30,000）这样做超出了我们的能力。”

该网站上的一条注释写道：“由于需求量很大，我们仍在收集签名，但暂停他们在信件上的出现，以便我们的审查过程能够跟上。”

马斯克是 OpenAI 的联合创始人之一，他于 2018 年从董事会辞职，但据报道向该项目投资了 1 亿美元。

GPT4 两周前的到来既令人兴奋——有些人认为它的到来比火灾的到来更重要——也让人们担心，如果不加以控制，它可能会毁灭人类。

这封信声称，具有人类竞争情报的人工智能系统对社会和人类构成重大风险。它认为，重点应该放在使现有系统更加准确、安全、透明、健壮和值得信赖，同时加速人工智能治理系统的发展。

“人类可以通过人工智能享受繁荣的未来，”它说，并指出“社会已经暂停其他可能对社会造成灾难性影响的技术。我们可以在这里这样做。让我们享受一个漫长的 AI 夏天，而不是在毫无准备的情况下匆忙进入秋天。”

在回应有关请愿的推文时，马斯克回应说，“领先的 [人工智能] 开发人员不会注意这个警告，但至少有人说过。”