またもやOpenAIの幹部が退任

OpenAIのAGIレディネス担当シニアアドバイザーのMiles Brundage氏が、6年間の任期を終えて退任した。

に投稿した。エックス そして彼のニュースレターで紹介されたエッセイである、 ブランデージは、非営利セクターの研究者・提唱者として、より大きなインパクトを与えることができるという信念を表明した；

ハイテク業界以外ではAI政策の研究に注力する予定だ。

とブランデージは表現した：

「OpenAIで働くということは、これまで以上に非常にインパクトのある機会であるということです。OpenAIは、ミッションに深い関心を持ち、開発と展開（時間とともにますます重要になる内部展開を含む）について厳格な意思決定を行う文化を維持することにコミットする社員を必要としています。"

彼の移籍はサム・アルトマンCEOのオープンAI は、AIの進歩に拍車をかける一貫性モデルのような新製品の導入など、社内の問題や変革に苦慮している。

ブランデージのOpenAIでの時間

ブランデージは2018年にOpenAIに入社し、ChatGPTのような高度なAIシステムに関連する政策や安全性の懸念に対処する上で極めて重要な役割を果たした。

彼はこれらの技術の責任ある管理と配備に力を注いだ。

OpenAIに在籍する前は、オックスフォード大学のFuture of Humanity Instituteの研究員だった。

ブランデージはOpenAI在籍中、同社のレッド・チーミング・プログラムの開発に大きく貢献し、AIモデルの長所と短所を評価する「システム・カード」レポートの作成に尽力した。

AGI準備チームの一員として、言語生成システムの倫理的な展開を強調し、以下のようなガイダンスを経営陣に提供した。アルトマン AIに関連する倫理的問題について。

ブランデージは、成長の重要な時期に、組織内の強固な安全文化の醸成に貢献した。

自身の経験を振り返り、ブランデージはOpenAIでの時間を大きな影響を与える機会だったと述べ、退任を決断することの難しさを認めた。

彼は、AI政策の議論にもっと独立した研究者を加えるよう主張しながら、この会社の使命を賞賛した。

OpenAIの連続辞任はもはや常態化

ブランデージの辞任は、ここ数週間でCTOのミラ・ムラーティ、チーフ・リサーチ・オフィサーのボブ・マクグルー、リサーチ・バイスプレジデントのバレット・ゾフが去ったOpenAIの大幅なリーダーシップ交代の中で行われた。

今年初めには、著名な研究科学者アンドレイ・カルパシーが去り、次いで次の研究者が去った。共同設立者で元チーフ・サイエンティストのイリヤ・スーツケバー氏 そして元セーフティ・リーダーのヤン・ライク。

8月には共同創業者のジョン・シュルマンが退社を発表し、社長のグレッグ・ブロックマンは現在長期休暇中である。

さらに、『ニューヨーク・タイムズ』紙の最近の記事では、元OpenAIの研究者であるスチール・バラジが取り上げられている。彼は、自分が開発を手伝っていたテクノロジーが社会的な害をもたらす可能性があることを懸念して退職したのだ。

バラジは10月23日にブログ記事を書いた フェアユースとジェネレーティブAIの細部について。

ブランデージの退団を受けて、アルトマン ブランデージ氏の今後の外部政策研究はOpenAIのためになるだろうと述べ、彼の決断を支持した。

しかし、元従業員や理事会メンバーからの最近の批判は、OpenAIがAIの安全性よりも商業的利益を優先するようになってきているという感情の高まりを指摘している。

に投稿した。X ブランデージ氏は、OpenAIの従業員に対し、組織がどのように改善できるかについて意見を述べるよう促し、同社の将来の方向性と責任あるAI開発へのコミットメントについて重要な問題を提起した。

と書いている：

"何人かの人たちは、私が去ることを悲しんでおり、私がここにいる間、しばしば懸念や質問を投げかけてくれたことを感謝していると言ってくれた。" "OpenAIは、これから多くの難しい決断を迫られる。" "集団思考に屈していては、正しい決断はできないだろう。"

ブランデージの次なる目標は？

ブランデージ氏の退社後、オープンエイの経済調査部門は、AGI準備チームの一部として、新たにチーフエコノミストに任命されたロニー・チャタジー氏のリーダーシップの下で運営されることになる。

AGI準備チームの終了に伴い、残りのプロジェクトはOpenAI内の他の部門に再配分され、ジョシュア・アチャム（Joshua Achiam）ミッションアライメント部長がこれらのイニシアチブのいくつかを監督することになる。

OpenAIの広報担当者は、業界外で政策研究を行うというブランデージの決断を全面的に支持すると表明し、彼の多大な貢献に対する感謝の意を強調した。https://www.coinlive.com/news/openai-sounds-alarm-on-its-ai-models-being-used-in

広報担当者は声明の中でこう述べた：

「我々は、彼の仕事から学び、その影響を追うことに興奮している。我々は、マイルズが新たな役割において、産業界と政府における政策立案の質を高め続けることを確信している。"

しかし、同スポークスマンは、誰がブランデージの後任になるかは明らかにしなかった。

ブランデージは、AI規制、その経済的影響、AIの将来の安全性に焦点を当てる予定だ。

彼は、これらの分野はAIの応用、特に一貫性モデルのようなモデルがもたらす課題に対処するために極めて重要だと考えている。

彼のシフトは、責任あるAIガバナンスの重要性の高まりと、業界全体へのその影響を強調している。

アルトマン、不穏な動きが続く中、一貫性モデルとAIのアップデートを発表

並行してだ、アルトマンのオープンAI は、AIにおけるサンプリングプロセスの高速化を目的としたアプローチである一貫性モデルを発表した。

これらのモデルは、従来の拡散モデルよりも高品質なサンプルを迅速に生成するように設計されており、AI技術の大きな飛躍を示すものである。

この立ち上げは、特に効率性の課題に取り組みながら、その能力を強化するというOpenAIの広範な戦略に沿ったものである。66億ドルの資金を獲得した。

しかし、これらのモデルの導入は、同社の慣行、特にモデルのトレーニングに関連する著作権侵害の疑惑に関する精査が進むなかでのことである。

バラジ氏を含むOpenAIの元従業員は、同社の手法に懸念を表明しており、AI技術のガバナンスに関するより広範な議論を巻き起こしている。

バラジ氏は、OpenAIが知的財産権で保護されたデータを許可を得ずにトレーニングに利用し、著作権を侵害していると訴えている。

知名度の高い指導者たちが次々と退団していることを含め、こうしたシフトは、次のような影響を与えるのだろうか？OpenAIの未来は？