史蒂夫·沃兹尼亚克 (Steve Wozniak)、埃隆·马斯克 (Elon Musk) 和其他 1 多名知名人士签署了一封公开信,要求立即停止使用比 ChatGPT-000 更强大的人工智能技术六个月。
今年是ChatGPT、Google Bard等人工智能成为大趋势的一年。尽管所有人工智能公司都将其产品称为实验版或某些测试版,但它们的功能已集成到许多服务中。生命未来研究所现在呼吁该领域的“所有关键参与者”参与“公开且可验证的”暂停。如果这种暂停无法迅速实施,政府应介入并暂停。
生命未来研究所的目标是“引导变革性技术造福生命,引导他们大规模远离极端风险。”上述写给所有人工智能开发者的 600 字信指出,有必要采取这是一次突破,因为最近几个月人工智能实验室失控,开始开发和部署日益强大的数字大脑,没有人,甚至是它们的创造者,能够理解、预测或可靠地控制。
“人工智能实验室和独立专家应该利用这一暂停时间,共同开发和实施一套用于设计和开发先进人工智能的共享安全协议,该协议将受到独立外部专家的严格控制和监督。” 消息继续。 “这些协议应该确保遵循它们的系统毫无疑问是安全的。”
然而,这并不意味着人工智能总体发展的停止,它只是从这场危险竞赛中的撤退,这场竞赛具有新兴能力,且规模越来越大、不可预测的黑匣子模型。这封信由 1 名人士签署,例如:
- 伊隆麝香,SpaceX、特斯拉和 Twitter 首席执行官
- 史蒂夫·沃兹尼亚克 公司联合创始人 Apple
- Jaan Tallinn,Skype联合创始人
- 埃文夏普,Pinterest 联合创始人