OpenAI 为人工智能开发提供新的安全防护网

董事会有权在风险情况下否决首席执行官的决定

OpenAI 最近推出了一项名为 "准备框架"（Prearedness Framework）的开创性安全举措，旨在对尖端人工智能开发的风险进行细致管理。这一战略赋予董事会在人工智能风险过度升级时进行干预的权力，甚至可以对抗首席执行官山姆-奥特曼（Sam Altman）。这一举措是对先进人工智能模型带来的潜在危险的回应。

重新构想的人工智能安全监督

OpenAI 现在在其准备框架下引入了专门的团队，每个团队都对人工智能开发风险有独特的关注。一个团队将专注于当前人工智能模型（如 ChatGPT）的潜在滥用。另一个团队将评估新兴人工智能模型的风险，第三个团队将密切关注超级智能系统的发展。所有这些团队都在董事会的监督下开展工作。

OpenAI'在实现人工智能超越人类智能的过程中，需要对新模型进行严格测试。这些模型将被推向极限，并在四个风险领域进行评估：网络安全、说服、自主决策和化学、生物、辐射和核威胁。它们将获得风险评分，以指导其部署，或在风险过高时停止部署。OpenAI 承诺承担责任，包括在具有挑战性的情况下进行第三方审计。

人工智能安全的合作方法

公司正在内外部营造一种合作文化，以减少现实世界中的人工智能滥用。这包括与 "超对齐"（Superalignment）团队密切合作，专注于识别和解决新出现的错位风险。OpenAI'致力于研究，旨在利用对以往成功经验和扩展规律的深入了解，提前预测风险。

反思 OpenAI 的大胆举措

OpenAI 允许其董事会在人工智能安全问题上否决首席执行官的这一决定，提出了如何平衡创新与谨慎的问题。准备框架在预测和应对高级人工智能风险方面的有效性还有待观察。目前还不清楚此举能否将OpenAI打造成为负责任的人工智能开发领域的领导者，或引发有关人工智能权威与创新的争论。

必要还是过度谨慎？

虽然OpenAI'新的安全措施无疑是积极主动的，但人们可能会质疑，如此严格的控制措施是否会阻碍人工智能创新的步伐，从而有可能扼杀这个由快速进步和大胆想法驱动的领域取得突破。