马斯克及千位组人工智能专家和行业人士，联署一封公开信呼吁暂停开发比 OpenAI 新推出的 GPT-4 更强大的系统，最少暂停 6 个月，以避免对社会和人类构成潜在风险。

千人联署叫停

这封公开信由非营利组织 Future of Life Institute 发出，已经有超过 1,000 人签署，包括 Stability AI 首席执行官 Emad Mostaque、Alphabet 旗下 DeepMind 的研究人员，以及人工智能专家 Yoshua Bengio 和 Stuart Russell 等。

要求制定共享安全协议

公开信要求暂停先进人工智能的开发，直到开发人员制定共享安全协议，并经由独立专家进行开发、实施和审核。公开信强调，只有在开发人员有信心其效果将是积极的、风险可以控制时，才应开发强大的人工智能系统。

公开信详细列举了人工智能系统在经济和政治方面对社会和文明构成的潜在风险，并呼吁开发人员与政策制定者合作，制定治理和监管机构。

外界开始忧虑 AI 被用在不当用途

此外，欧洲执法机构（Europol）也发出警告，指出高阶人工智能的潜在危险，包括钓鱼、虚假信息和网络犯罪等。英国政府则公布了有关人工智能「适应性」监管框架的建议，将人工智能（AI）治理的责任分配给其人权、健康安全和竞争监管机构。

Tesla 使用人工智能的自动驾驶系统，马斯克一直表示对人工智能感担忧。自去年发布以来，OpenAI 的 ChatGPT 已促使竞争对手加速开发类似的大型语言模型。

然而，OpenAI 的首席执行官 Sam Altman 没有签署这封信，这引起了一些争议。外界认为这封公开信不是完美，但精神是对的，人们或需要减缓速度，直到更好地了解人工智能的後果。

相关文章

1. 微软解散整个 AI 道德和社会团队
2. 动画师失业危机？国外团队藉 AI 完成短篇动画制作
3. 调查显示 25% 公司已用 ChatGPT 取代员工
4. 苹果举办人工智慧峰会　但未有技术突破