OpenAI 安全与安保委员会的讽刺：狐狸看守鸡舍？

OpenAI 最近宣布成立安全与安保委员会，表面上看是为了解决他们最有争议的问题之一：人工智能安全问题。这一决定是在 OpenAI Superalignment 团队解散几天后做出的，该团队一直致力于降低与人工智能相关的风险。这一最新举动引起了人们对该委员会真实意图和有效性的关注和质疑，尤其是考虑到 OpenAI 内部领导层变动和工作重点转移的动荡背景。

领导层动荡：奥特曼的短暂下台和迅速复职
去年，OpenAI'首席执行官萨姆-奥特曼（Sam Altman）遭到公司董事会的短暂罢免。董事会以缺乏透明度和对 Altman'leadership 失去信心为由将其免职。然而，这一决定很快在员工的反抗和投资者的压力下被推翻，导致最初投票支持将其免职的三名董事会成员离职。这一事件标志着OpenAI的治理方式发生了重大转变，凸显了内部矛盾，并引发了对公司发展方向和透明度的质疑。

争议：解散超级结盟小组
在这场领导层动荡中，OpenAI 做出了一个备受争议的决定：解散其超级结盟团队。该团队一直致力于降低与人工智能（AGI）相关的长期风险。扬-莱克（Jan Leike）和联合创始人伊利亚-苏茨克沃（Ilya Sutskever）等著名专家的离职进一步加剧了人们的担忧。雷克现在的竞争对手Anthropic公司工作，他指责OpenAI优先考虑的是 "闪亮的产品"，而不是真正的人工智能安全，这与公司最初的使命背道而驰。

讽刺：安全和安保委员会
为了恢复信心，OpenAI 成立了一个新的安全和安保委员会，萨姆-奥特曼（Sam Altman）是委员会的领导人之一。此举遭到了怀疑和讽刺，因为这实质上是让阿尔特曼来监督和纠正在他领导下出现的问题。人工智能和科技界对这一明显的利益冲突并没有保持沉默。

人工智能政策专家托尔加-比尔格（Tolga Bilge）在推特上评论道："山姆-阿尔特曼（OpenAI 董事会成员）任命自己为安全与安保委员会成员，以纪念他的任命。

山姆-奥特曼（首席执行官）的功课"。Gartner 分析师迈克尔-加滕伯格（Michael Gartenberg）打趣道："福克斯先生，能麻烦你帮我看一下这间鸡舍吗？"

与此同时，科技记者帕米-奥尔森（Parmy Olson）指出："OpenAI 刚刚成立了一个监督委员会，成员包括自己的高管和 Altman 本人。这是一种屡试不爽的科技自律方法，几乎没有起到任何实际的监督作用"。

从新委员会的背景和组成来看，很难说它将如何有效地解决所提出的人工智能安全问题。让一直处于争议中心的阿尔特曼来领导负责降低风险的委员会，这对观察家来说不失为一种讽刺。这似乎更像是一种安抚批评者的战略举措，而不是真正的改革尝试。因此，该委员会要想给人们带来真正的信心并实施有意义的监督，前景似乎并不乐观。随着 OpenAI 继续在复杂的环境中摸索前行，这一最新举措是真正有利于人工智能安全，还是仅仅成为企业操纵的另一层手段，我们拭目以待。