OpenAI安全・安心委員会の皮肉：狐が鶏小屋を守る？

OpenAIは最近、安全・セキュリティ委員会の設立を発表した：AIの安全性に関する懸念である。この決定は、AIに関連するリスクの軽減に注力していたOpenAI Superalignmentチームの解散からわずか数日後に下された。この最新の動きは、特にOpenAI内のリーダーシップの交代と優先順位の移り変わりという激動の背景を考えると、委員会の真の意図と効果について眉をひそめ、疑問を投げかけるものである。

リーダーシップの混乱：アルトマンの短期間の更迭と迅速な復職
昨年、OpenAIの最高経営責任者（CEO）であったサム・アルトマンは、同社の取締役会によって短期間の更迭に直面した。取締役会は解任の理由として、透明性の欠如とAltmanのリーダーシップに対する信頼の喪失を挙げた。しかしこの決定は、従業員の反乱と投資家からの圧力を受けてすぐに撤回され、当初解任に賛成した3人の取締役が退任することになった。この事件はOpenAIのガバナンスに大きな変化をもたらし、社内の対立を浮き彫りにし、会社の方向性と透明性に疑問を投げかけた。

論争スーパーアライメント・チームの解散
このリーダーシップの混乱の中、OpenAIはSuperalignmentチームの解散という物議を醸す決定を下した。このチームは、人工知能（AGI）に関連する長期的なリスクを軽減することに専念していた。ヤン・ライクや共同設立者のイリヤ・スーツケバーといった著名なスペシャリストが、OpenAIの設立時の人道的ビジョンから外れてしまったことを理由に退社したことで、懸念はさらに悪化した。現在は競合のAnthropicに所属するLeike氏は、OpenAIが本物のAIの安全性よりも「ピカピカの製品」を優先していると非難し、OpenAIの本来の使命から大きく逸脱していると指摘した。

皮肉：安全保安委員会
信頼回復の試みとして、OpenAIはサム・アルトマンをリーダーとする新しい安全・セキュリティ委員会を発表した。この動きは懐疑的かつ皮肉なものとして受け止められている。というのも、アルトマンは基本的に、彼のリーダーシップの下で浮上した問題そのものを監督し、是正する立場にあるからだ。AIとテクノロジーのコミュニティは、この明らかな利害の対立について沈黙を守っていない。

AI政策の専門家であるトルガ・ビルゲは、ツイッターで次のように発言している。

サム・アルトマン（CEO）としての宿題だ。ガートナーのアナリスト、マイケル・ガーテンバーグは、"フォックスさん、この鶏小屋を見ていてくれませんか？"と言った。

一方、テック・ジャーナリストのパーミー・オルソンは、「オープンAIは、自社の幹部とアルトマン本人からなる監視委員会を作ったばかりだ。これは、ハイテク業界における自主規制の試行錯誤の結果であり、実際の監視には実質的に何の役にも立たない」と指摘した。

このような背景と新委員会の構成を考えると、これまで指摘されてきたAIの安全性に関する懸念にどう効果的に対処していくかは難しい。論争の中心にいたアルトマンが、リスク軽減を任務とする委員会を率いるという皮肉は、オブザーバーにとって見逃せない。真の改革の試みというよりは、批判者をなだめるための戦略的な動きに見える。したがって、この委員会が真の信頼を植え付け、有意義な監視を実現する見込みは薄いと思われる。OpenAIがその複雑な状況をナビゲートし続ける中、この最新の動きがAIの安全性に真に役立つのか、それとも単に企業工作の新たなレイヤーとして機能するだけなのかは、まだわからない。