サム・アルトマン 2万字で語るAIの未来：GPT-5とOpenAIの使命

サム：

想像できるシナリオの1つは、モデルを常に訓練するというものです。私には合理的なアプローチに思えます。

私たちは今回、出版に対する別のアプローチについて話しています。有料会員へのリリースを先に考えているのか、それとも、今はリスクが高すぎるので、レッドチームを緊張させるためにリリースを遅くしているのか。実際、あなたは多くの有料会員を抱え、誰もがあなたの一挙手一投足を見守っている。あなたは今、より思慮深くなければならないでしょう？

はい、今のところ、GPT-4はまだ有料会員しか利用できません。GPT-4はまだ有料契約者しか利用できません。これは私たちのミッションの非常に重要な部分だと思います。私たちのゴールは、AIツールを構築し、無料であろうと安価であろうと、何であろうと広く利用できるようにすることです。その方がより良い道だと思うし、より刺激的な道だと思う。私は、物事が本当にその方向に進んでいると確信している。ですから、GPT-4レベルの技術をフリーのユーザーが利用できるようにする方法を見つけられていないのは残念です。それは私たちが本当にやりたいことです。それはとても高価なものです。

サム、人々がよく口にする2つの大きな要因は、おそらく潜在的なコストと待ち時間だと思います。そして2つ目の要因は、オープンソースの世界とクローズドソースの世界における人々の長期的な構築能力だと思います。このスペースがとてもワイルドなのは、オープンソースコミュニティの情熱だと思います。その信じられないような例として、私たちはデボンのために本当にクレイジーなデモを行いました。その後、何人かの若い人たちがMITのオープンライセンス、たとえばOpenDevonのもとでプロジェクトをリリースしました。とてもうまくいっていて、他のクローズドソースのプロジェクトとほとんど遜色ありません。つまり、これらのモデルをクローズドソースのままにしておくというビジネス上の決断は何なのか？今後数年で何が起こると思いますか？

ご質問の最初の部分、スピードとコストですが、これらは我々にとって非常に重要です。研究は難しいので、いつまでにレイテンシを大幅に削減できるかという時期は言いたくないが、できると信じている。待ち時間を大幅に短縮し、コストを大幅に削減したい。それが実現すると信じている。まだ科学的な開発の初期段階にあり、どのように機能するかを理解している段階です。加えて、エンジニアリング面でも追い風が吹いている。だから、私たちや他の誰もがインスタントだと思うような、測定するにはあまりに安価で、あまりに速いインテリジェンスをいつ手に入れられるかはわからない。しかし、私はかなり高いレベルのインテリジェンスを得ることができると信じている。それは我々にとっても、ユーザーにとっても重要であり、多くのことを解き放つだろう。

オープンソースとクローズドソースの違いについてですが、どちらにもメリットがあると思います。我々はいくつかのプロジェクトをオープンソース化してきたし、今後もオープンソース化していくだろう。しかし、私たちの使命はAIの方向に進み、その恩恵を広く分配する方法を見つけ出すことです。私たちには、多くの人々の共感を得られるような戦略があります。もちろん、すべての人のためというわけではない。そしてそれは巨大なエコシステムでもある。オープンソースモデルや、そのような方法で構築する人々も存在するだろう。

私が個人的にオープンソースで特に興味を持っている分野の1つは、携帯電話で動作する可能な限り最高のオープンソースモデルが欲しいということです。私の携帯電話で動作する最高のオープンソースモデルを望んでいます。これの良いバージョンを開発するのに十分な技術が世の中にあるとは思えない。しかし、いつかはやらなければならないとても重要なことのように思える。

やりますか？出版しますか？

私たちがやるかどうか、誰かがやるかどうかはわかりません。

ラマ3はどうですか？

携帯電話でラマ3？

たぶん、70億のパラメータ（モバイル）バージョンがあると思います。

そうです。携帯電話に合うかどうかはわかりませんが......

携帯電話に合うはずです。

でも、まだプレイしていないので、合うかどうかわかりません。私がここで考えていることを達成するのに十分なのかどうか。

Llama3がリリースされたとき、多くの人にとって最大の収穫は、うわあ、GPT-4に追いついたということだったと思います。 すべての点で同等だとは思いませんが、全体的には非常に近いです。非常に近い。少し前に4がリリースされましたが、5、あるいは4のアップグレードに取り組んでいるようですね。オープンソースの環境において、どのように時代の先端を走り続けるかについて、あなたの考えをお聞かせください。それはしばしば非常に困難な作業ですが、あなたはどう思いますか？

私たちのゴールは、できる限り賢いウェイトセットを作ることではなく、人々が使えるインテリジェンスの有用なレイヤーを作ることです。使用することです。モデルはその一部に過ぎない。私たちはこの点で、世界の最先端を行くだろう。しかし、システム全体にはモデルの重み付け以外にも多くのことがある。他のビジネスと同じように、伝統的な方法で永続的な価値を築かなければならない。私たちは素晴らしい製品とそれに固執する理由を考え出し、それを素晴らしい価格で提供しなければならないのです。

この組織を立ち上げたとき、あなたが言った目標や話し合ったことの一部は、これはどの会社にとっても重要すぎるので、オープンにする必要があるということでした。そして、それは誰にも見せないのは危険すぎるから、あなたが懸念しているように、私たちはそれをロックする必要があるのです。それは本当ですか？ひねくれた見方をすれば、資本主義的な行動だと言うだろう。それから、オープンで始めるという決断がどういうものなのか気になる。世界はそれを見る必要がある。閉鎖性は本当に重要だ。それを見ることができるのは私たちだけです。では、どうしてその結論に至ったのですか？

ChatGPTをリリースする理由のひとつは、これを世界に見てもらいたいからです。私たちは、AIが本当に重要であることを人々に伝えようとしてきました。2022年10月までさかのぼると、当時はAIがそれほど重要なものになるとか、実際にそうなりつつあると考える人はそれほど多くなかった。私たちが試みてきたことの大部分は、テクノロジーを人々の手に届けることです。しかし、その方法にはさまざまなものがある。例えば、これがそれを実現する方法です、と言うような重要な役割があると思います。

しかし、実際のところ、ChatGPTの無料版を使っている人はとても多いですし、宣伝もしていません。広告も出していません。私たちは、人々にこのようなツールを使ってもらいたいから、このツールを立ち上げただけなのです。多くの仕事をし、多くの価値を提供し、人々に釣り方を教え、ここで何が起こっているのかを世界に考えてもらっていると思います。今はまだ、すべての答えを持っているわけではない。他のみんなと同じように、私たちも進むべき道を感じているところだ。新しいことを学びながら、何度も戦略を変えていくことになるだろう。

OpenAIを始めたとき、物事がどうなるか本当にわかりませんでした。言語モデルを作ることも、製品を作ることも知らなかった。最初の日は、よし、これで全員揃ったな、という感じだったのを鮮明に覚えている。準備するのは大変だった。でも、これからどうなるんだろう？論文を書こう。ホワイトボードの周りに立ってみようか。私たちは一歩一歩、次のこと、次のこと、次のことを考え続けてきた。そして、これからもそうしていくと思う。

私があなたの話を正しく聞いているかどうか、再確認してもいいですか？あなたの言いたいことは、オープンソースであれクローズドソースであれ、これらのモデルはすべて、あなたがどのようなビジネス上の決断を下そうとも、その精度を漸進的に高めていくということだと理解しています。そのすべてが十分な資本を有しているわけではないが、メタ、グーグル、マイクロソフトなど4、5社、あるいは他の新興企業が1社あるとしよう。これらの企業はすべてオープン・ウェブ上で活動している。そしてあっという間に、これらのモデルの精度や価値は、あなたがアクセスできるかできないか、あるいは他の誰かがアクセスできてあなたがアクセスできないような、独自のトレーニングデータ源に移ってしまうかもしれない。

そのような方向に向かうとお考えですか？オープン・ウェブによって、誰もがある閾値に達し、その後はデータの軍拡競争になるのでしょうか？

そうは思いません。なぜなら、モデルが十分に賢くなったとき、より多くのデータを得ることだけが目的になってはならないからだ。データは価値があるからこそ重要なのだ。これらのことから私が学んだ最も重要なことのひとつは、今後数年の方向性について確信を持って予測することは難しいということだ。私が言いたいのは、世界には非常に有能なモデルがたくさん出現するだろうということだ。私たちは、新しい自然的あるいは科学的事実に出くわしただけだと思う。文字通りの意味ではないと思いますが、精神的なポイントのようなものです。知性というのは、物質が持つこの創発的な性質に過ぎず、物理学のルールとかそういうものだ。だから、人々はそれを理解するだろう。でも、システムの設計にはさまざまな方法があるだろう。人々はさまざまな選択をし、新しいアイデアを思いつくだろう。そして、他の産業と同じように、複数のアプローチが存在することになると思う。iPhoneが好きな人もいれば、Android携帯が好きな人もいる。そのようになると思います。

最初の部分に戻って、コストとスピードについてだけ議論しましょう。皆さんは、NVIDIAのスループットにビットレートの制限を少し持っていると思いますし、皆さんやほとんどの方は、それがNVIDIAが製造できる最大容量であるため、どれだけの容量が得られるかをすでに発表していると思います。本当にコンピューティングのコストを削減し、高速化し、より多くのエネルギーを得るためには、基板上で何が起こる必要があるのでしょうか？このような問題に取り組む業界をどのように支援できるでしょうか？

アルゴリズムでは間違いなく大きな進歩を遂げるでしょう。私はそれを過小評価したくない。私はチップとエネルギーにとても興味がある。でも、同じ品質のモデルの効率を2倍にできれば、それは計算能力を2倍にしたことになる。そこには膨大な仕事があると思う。実際にそのような結果が出ることを願っている。それに加えて、サプライチェーン全体が非常に複雑です。論理的な工場のキャパシティがあります。世界でどれだけのHBMを生産できるのか。すぐに許可を得て、コンクリートを打ち、データセンターを設置し、すべてのラインをつなぐために人を配置することができる。最後にエネルギーだが、これは大きなボトルネックだ。しかし、人類にとってこれほど価値のあるものであれば、世界は何か手を打つと思う。私たちはそれをより早く実現させるために努力するでしょう。具体的な可能性を示すことはできないが、私は、あなたが言うように、これは根本的な大きなブレークスルーだと信じている。私たちはすでに、より効率的なコンピューティングの方法を持っていますが、しかし、私はそれに頼りすぎたり、それについて考えることにあまり時間を費やしたくはありません。

デバイスに関しては、携帯電話にインストールできるモデルについて言及されました。当然、LLMにしろSLMにしろ、そういったことを考えていると思います。しかし、デバイス自体は変わるのでしょうか？iPhoneのように高価である必要はあるのだろうか？

とても興味があります。私は新しいコンピューティングの形が大好きで、大きな技術進歩のたびに何か新しいものをもたらしてくれるようだ。携帯電話は信じられないほど優れているので、このハードルはとても高いと思う。個人的には、iPhoneは人類史上最高の技術製品だと思いますし、本当に素晴らしい製品です。

さて、次は何でしょうか？

わかりません。それを超えるのは素晴らしいことだが、ハードルは非常に高いと思う。

私はジョニー・アイヴィーと一緒に仕事をしていて、アイデアについて話し合ってきました。新しいデバイスはもっと複雑でなければならないのか、それとももっと安くてシンプルなものでなければならないのか？ほとんどすべての人が携帯電話にお金を払うことを望んでいるのだから、より安いデバイスを作ることができれば、2つ目の機器を持ち歩いたり、2つ目の機器を使ったりすることの障壁はかなり高くなると思う。ですから、私たち全員が携帯電話にお金を払うことを望んでいる、あるいはほとんどの人がそうであることを考えると、より安くすることが答えだとは思えません。

では、その答えはどのような違いがあるのでしょうか？

携帯電話で動作し、携帯電話サイズのAIモデルをうまく駆動できるような、特別なチップが登場するのでしょうか？

もしかしたらあるかもしれませんが、携帯電話メーカーは確実にそうするでしょう。テクノロジーが可能にする、何か本当に異なるインタラクション・パラダイムを見つける必要があると思います。それが何なのかがわかれば、今すぐにでも取り組みたいくらいです。

現在、アプリで音声を使うことができます。実際、私は自分の携帯電話のアクションボタンを、ChatGPTの音声アプリに直接飛ぶように設定し、子供たちと一緒に使っていますが、子供たちはこのアプリに話しかけるのが大好きです。遅延の問題はありますが、本当に素晴らしいです。

私たちはもっとうまくやるつもりです。ボイスは次のヒントになると思います。たとえば、音声インタラクションを本当に良いものにできれば、コンピュータを使う別の方法のように感じられるでしょう。

しかし、私たちがすでに抱えているような問題、例えば、なぜ反応しないのか？とか、何度も何度もCBみたいな感じ。使っていて本当にイライラするけど、正しい答えが返ってきたときはまた素晴らしい。

私たちはこれを修正するために取り組んでいます。今は不格好で遅く、流動的でリアルで自然な感じがしない。私たちはこれを改善します。

コンピュータビジョンはどうですか？ 関連する装備を身につけることができます。視覚データや映像データと音声データを組み合わせることができます。

今日、AIはあなたの周りで起こっていることすべてを理解することができます。例えば、マルチモーダルデバイスと同じようにChatGPTに "私は何を見ているのか？"と尋ねることができる。あるいは、"これは何の植物ですか？"と。正直言って、この機能はとても強力です。これは明らかに別のヒントだ。

しかし、メガネをかけるか、必要なときに何らかの装置を使うかにかかわらず、メガネをかけることは多くの対人社会的問題を引き起こします。対人関係の社会的問題が発生し、コンピューター装置の装着は非常に複雑になります。

私たちはすでにグーグルグラスでこれを目の当たりにしている。人はタスクを実行する際に苦痛を感じることがあります。具体的なことは忘れてしまいましたが。

AIがどこにでも、例えば人々のスマホにあるとしたら、どんなアプリのロックを解除できるのだろう？そう感じたことはありますか？何を見たいですか？

私が欲しいのは、音声やテキストで使える、常時接続の超低摩擦デバイスだと思います。理想を言えば、他の方法で対話できる。私が何を望んでいるのかがわかり、私が一日を乗り切るのを助けてくれる存在である必要がある。世界最高のアシスタントのように、できるだけ多くの背景情報を持っている。その存在が私をどんどん良くしてくれるんだ。

人々がAIの未来について話すのを聞くと、2つの異なる方法を想像するかもしれないが、それほど違いはないように聞こえる。それほど違いはないように聞こえる。しかし実際には、私たちはまったく異なるシステムをデザインすることになると思う。私は、幽霊や分身のような、自己を拡張するものが欲しいと思っている。それは私のようなもので、ますます私に似てくる。一方、私は偉大な先輩社員が欲しい。それはおそらく私のことをよく知っていて、私がそれに委任するかもしれない。私のメールにアクセスすれば、限界を教えてくれる。しかし、私はそれを独立した存在として見ている。私は個人的には独立した組織のアプローチを好みますし、それが私たちの目指すところだと考えています。

その意味で、それはあなたではなく、即戦力であり、常に素晴らしく、超有能なアシスタントディレクターなのです。アシスタント・ディレクターだ。

ある意味、あなたの代わりに働くエージェントのようなもので、あなたの望みを理解し、あなたの望みを予測する。

エージェント的な行動はあると思いますが、シニアスタッフとエージェントは違います。

私はそれを望んでいるし、先輩の好きなところは、私に反論してくれるところだと思う。彼らは私が頼んだことをやってくれないこともあるし、あなたが望むならやってもいいよ、と言ってくれることもある。でも、そうすると、こうなると思うんだ。それから、こうして、ああして。

本当にいいんですか？

そういう雰囲気が絶対に欲しいんだ。理性的で、反論もできる。理性的で、実際に能力のある人と仕事をするときに築かれる関係を期待するような、おべっか使いとは違う関係を築いてくれる。

Jarvisのような推論する能力を持ったツールがあれば、今日私たちが使っている非常に価値のある製品の多くのインターフェースに影響を与えることができるのは事実だ。例えば、Instacart、Uber、DoorDashのようなサービスは、導管になることを意図しているのではなく、世界中の80億人のために働くインテリジェント・エージェントのユビキタスなグループにAPIのセットを提供することを意図している。私たちが考える必要があるのは、エージェントとして世界と対話するこの新しい世界に適応するために、アプリがどのように機能するか、体験インフラ全体の理解をどのように変えるべきか、ということだ。

個人的には、人間とAIの両方が使える世界をデザインすることにとても興味があります。解釈のしやすさ、ハンドオフの流動性、そして私たちがフィードバックを提供できる機能が気に入っています。例えば、DoorDashは私の将来のAIアシスタントにAPIを公開し、注文などを行えるようにすることができます。私は携帯電話を持って、"AIアシスタント、この注文をDoorDashでお願いします "と言うことができる。アプリが開き、クリックされるのを見て、"これはダメだ "と言うことができる。人間もAIも同じように使える世界をデザインする、これは面白いコンセプトだと思います。

同じ理由で、私は他の形状よりも人型ロボットに興味があります。世界は人間のためにデザインされたのだから、それを維持すべきだと思う。共有インターフェースは良いアイデアです。

その結果、音声やチャットなどのモードがアプリに取って代わることになるでしょう。寿司が食べたいと伝えるだけで、あなたがどんな寿司が好きか、何が嫌いかを知っていて、あなたを満足させるために最善を尽くしてくれる。

あなたが「おい、ChatGPT。おい、ChatGPT、寿司をくれ。"このレストランで注文しますか？種類、時間、何でもいいよ。"ビジュアル・ユーザー・インターフェースは多くのことに適していると思います。画面を見ずに音声モードだけで操作する世界を想像するのは難しい。しかし、私はそのような多くのことを想像することができます。

アップルはSiriを試した。おそらくSiriを使って自動的にUberを注文できるだろう。というのも...。あなたが言うように、品質は悪い。でも、品質が十分であれば、実際に軽いので、あなたはそれを好むでしょう。携帯を取り出す必要がない。アプリを探して押す必要もない。自動的にログアウトされる。待って、ログインし直して。面倒くさい。

Siriでタイマーをセットするようなものだ。私は毎回そうしている。それ以上の情報は必要ない。しかし、Uberを注文するとき、私はいくつかの異なるオプションの料金をチェックしたかった。この技術がどの程度広く使われているかを調べたい。歩いて移動することもあるので、地図上の正確な位置も知りたい。Uberの注文画面を見ることで、その情報を得るために音声チャンネルを通さなければならない場合よりも短時間で多くの情報を得ることができると思う。あなたが提唱した、物事が起こるのを見るというアイデアはとてもクールで気に入っています。これは、私たちが異なるタスクに対して異なるインターフェイスを使うという変化をもたらすと思う。この傾向は続くと思います。

OpenAI上でアプリやエクスペリエンスを構築している開発者の中で、特に目を引くものはありますか？たとえそれがおもちゃのアプリであったとしても、とても興味深い方向性だと思いましたか？しかし、あなた方が指摘して、これは本当に重要だと言ったものはありますか？

今朝、実はまだ会社としての資格すらない新しい会社に会いました。夏のプロジェクトに取り組む2人が、実際にAIのメンターとして終わろうとしているようなものだ。私はずっとこの分野に興味があった。私たちのプラットフォームで素晴らしいことをやっている人はたくさんいる。しかし、もし誰かが本当に気に入るような方法でそれを提供することができれば、そして彼らは私が好きなフレーズを使っていましたが、これは人々が物事を学ぶ方法のモンテッソーリレベルの再発明のようなものになるということです。しかし、もし人々が自分で新しい方法を探求し、学ぶことができるような新しい方法を見つけることができれば、個人的にはとても楽しみです。

デヴォン、あなたが前に言ったコーディング関連の多くのことは、本当にクールな未来のビジョンのようなものだと思います。ビジョンです。その結果、医療はかなり変わっていくはずだと思います。しかし、私が個人的に最も期待しているのは、より迅速で優れた科学的発見です。GPT-4は明らかにまだあまり機能していませんが、科学者の生産性を向上させることで、物事を加速させることができるかもしれません。

サム......それは勝利でしょう。これらのモデルは、言語モデルとは異なる方法でトレーニングされ、構築されます。いくつかのモデルには、明らかに多くの類似点があります。しかし、化学的相互作用のモデリングなど、特定の問題セットや特定のアプリケーションに適用される、一種のスクラッチアーキテクチャを持つモデルも数多くあります。それらのいくつかは間違いなく必要でしょう。

これまで議論してきたことの多くで、一般的に欠けているのは推論できるモデルだと思います。理性的な能力があれば、化学刺激装置でも何でもつなげることができます。

そう、これが今日お話ししたい重要なこと、モデルネットワークという概念です。人々はエージェントについて、あたかも直線的な呼び出し関数のセットがあるかのように話すことが多い。しかし、生物学では、あるものが別のものを呼び、またあるものが別のものを呼ぶのではなく、システムの集合体......ネットワークがアウトプットを生み出す、相互作用を持つシステムのネットワークが出現します。このようなアーキテクチャーから、推論を用いてより大きな問題セットを解決するために協働する、専門化されたモデルやネットワークモデルが出現するのでしょうか？化学や算数のようなことができる計算モデルがあり、それらをすべて支配する純粋に一般化されたモデルではなく、それができる他のモデルがある。

推論がどれだけ広く一般化された形に変換されるかはわかりません。私は懐疑的で、直感と期待に近い。

タンパク質のモデリングを例にとってみましょう。大量のトレーニングデータ、タンパク質画像、配列データがあり、それに基づいて予測モデルを構築します。

問題を解決するために必要なデータを取得することで、サブモデルの構築方法を見つけ出し、問題を解決する一般化されたAIや偉大な推論モデルの存在を思い描いたことはありますか.......

これを実現する方法はいくつもある。おそらくテキストモデルを訓練するのだろうし、単に大きなモデルを知っているだけかもしれない。必要な他のトレーニングデータを選択し、質問し、そして更新を行うことができます。

本当の疑問は、これらの新興企業はすべて廃業するのかということだろう。というのも、多くの新興企業は、特別なデータを取得し、その特別なデータを使ってゼロから新しいモデルをトレーニングするというモデルで動いているからだ。そして、その1つのことしかできない。そして、その1つのことでうまく機能する。他の何よりもうまく機能する。

すでにそのバージョンが見られると思います。

生物学やこのような複雑なシステムのネットワークについて話しているとき、私がそれを理解できる唯一の理由は、最近とても具合が悪かったからです。とてもひどかった。今はだいぶ良くなった。でも、身体が1つ1つのシステムに負けているような感じなんだ。カスケード現象が起きているんだ。生物学の話をするときに思い出すんだけど、物事がうまくいかなくなるまで、これらのシステムがどれだけ互いに影響し合っているのかわからないんだ。ちょっと面白い。

しかし、私は当時ChatGPTを使って何が起こっているのかを解明しようとしていたのですが、いずれにせよ、私はこう言いたいのです。確信が持てなかったんだ。そして、文脈のようなものも読まずに論文を発表したんだ。その論文には、ああ、それは確信が持てないことだったんだ、と書いてあった。つまり、あなたが言っていることの小さなバージョンのようなもので、私はこのことについて知らない、もっと情報を追加することができる、モデラーを再教育してここの文脈に追加する必要はない、と言うことができるのです。

つまり、例えばタンパク質の構造を予測するモデルは、それが基本なのです。さて、AlphaFold3には他にも分子があります。そのようなことができるのでしょうか？そう、これは基本的に、最高の一般化されたモデルがやってきて、トレーニングデータを取得し、そして自分で問題を解決する世界なのだろうか？

Soraについてわかる例を教えていただけますか？あなたのビデオモデルは素晴らしい動画像、動くビデオを生成しますし、そこのアーキテクチャについて何が違うのか、何でも構いません。

ええ、一般論から始めます。直感です。繰り返しになりますが、私は科学的根拠を持っていません。私の直感では、もし一般化された推論の核心をつかみ、それを新しい問題領域に結びつけることができれば、人間は一般化された推論者であるため、それをより早く解き明かすことができると思います。しかし、言語モデルから始まるわけではありません。ビデオ用にカスタマイズされたモデルです。しかし、私たちはまだそのような世界にはいません。

たとえば、優れたビデオモデルを構築するために、あなたたちはゼロからそれを構築しました。しかし、一般化された推論システム、別名AGIの未来においては、どのようなシステムであれ、それを実現する方法を理解することで、理論的にはそこに到達することが可能なのです。

そうです、その例として、私が知る限り、世界で最も優れたテキストモデルは、やはりすべて自己回帰モデルです。画像や映像のモデルは拡散モデルが最高です。これはある意味、少し奇妙なことです。

トレーニングデータについては賛否両論あるようですね。あなたはすべての企業の中で最も思いやりのある企業だと思いますし、今ではFTなどとライセンス契約を結んでいます。あなたはニューヨーク・タイムズの訴訟に関わっており、トレーニングデータについて彼らと合意に達することはできないと思います。

フェアユースの公平性についてはどのように感じていますか？私たちはポッドキャストで激論を交わしました。明らかに、あなたの行動は、ライセンス契約を通じて公正さを達成しようとしていることをはっきりと示しています。では、美しい音楽、歌詞、本を創作するアーティストの権利について、あなた個人の見解は？それらの権利を使って派生商品を作り、それを収益化するのか？何が公平なのか？アーティストがコンテンツを創作し、そのコンテンツを他の人々がどうするか決めることを、私たちはどうすれば許せるのでしょうか？

私はあなたの個人的な信念に興味があります。私たちの業界の他の多くの人々は、コンテンツクリエイターに対してあまり思慮深い考えを持っていないことを知っています。ですから、人によって大きく異なるでしょう。

フェアユースに関して言えば、現行法では非常に合理的な立場だと思いますが、AIは非常に異なると思います。とは違う。しかし、芸術のようなものについては、別の考え方が必要です。

しかし、インターネットで数学をたくさん読んで、数学のやり方を学んだと仮定すると、ほとんどの人にとって、それは証明できないと思います。ほとんどの人にとって、それは揺るぎないものに思えるだろう。しかし、ネットで数学を読みあさり、数学のやり方を学んだと仮定すれば、ほとんどの人にとっては、それは揺るぎないものに思えるだろう。実際、この回答が長くなりすぎないようにするため、これについては深く論じないことにする。

つまり、人間の知識には広い範囲があり、それを学んだなら、それは、それは、それは、と言うことができる。ピタゴラスの定理を学べば、それがオープンフィールドだと言える。それはスペクトルの一端です。もう一方の極端なものは芸術で、もっと具体的に言うと、他の芸術家のスタイルや似顔絵で芸術作品を制作するようなシステムです。そして、その中間のケースもたくさんある。

歴史的に、議論はトレーニングデータについて行われてきたと思います。しかし、トレーニングデータの価値が下がれば下がるほど、議論は推論時に何が起こるかということにシフトしていくだろう。そして、システムが何をするのか、リアルタイムでコンテキストの情報にアクセスするのか、似たようなステップを踏むのか、推論時に何が起こるのか、新しい経済モデルはどうなるのか、といったことがより議論されるようになるでしょう。

ですから、例えば、例えば、テイラー・スウィフト風に作曲してくれ、と言ったとします。たとえモデルがテイラー・スウィフトの曲でトレーニングされたことがなくても、モデルがテイラー・スウィフトについて読んだことがあるかもしれない、彼女の主題を知っているかもしれない、テイラー・スウィフトの意味を知っているかもしれないという問題にぶつかります。次の疑問は、テイラー・スウィフトの曲で学習したことがないにもかかわらず、モデルにこれをさせるべきなのか、ということだ。もしそうなら、テイラー・スウィフトの報酬はどのように支払われるべきだろうか？

まず第一に、この状況に対してオプトインまたはオプトアウトがあるべきだと思います。経済モデルがあるべきだと思います。音楽を例にとると、歴史的な観点から見る価値のある興味深いものがあります。それはサンプリングと、サンプリングにまつわる経済学の仕組みです。まったく同じことですが、興味深い出発点です。

サム、挑戦させてくれ。

あなたが挙げた例のどこが違うのでしょうか？モデルは曲の構造、リズム、メロディー、ハーモニー、関係性を学習し、音楽を機能させる基礎となる構造をすべて発見し、その学習データを使って新しい音楽を構築する。一方、人間はたくさんの音楽を聴き、その脳はすべて同じ発見や理解である同じ予測モデルを処理し、構築している。この違いは何ですか？なぜアーティストには独自の報酬が支払われるべきだと言っているのですか？サンプリングの状況ではないし、AIには出力がなく、モデルに実際のオリジナル曲が保存されているわけでもありません。

そう、学習構造だ。

だからそれを強調するつもりはないんだ。つまり、私のためにテイラー・スウィフト風の曲を作ろうという話ならね。

わかりました。そこで、何人かのアーティストを活用するヒントになると思います。

個人的にはそれは違う状況だと思います。

音楽を入力したアーティストにロイヤリティを支払うことなく、人間が作成した音楽コーパス全体を使って、モデル自身に音楽モデルを訓練させる方がいいでしょうか？

それなら、アーティストに特定のキューを求めることはできません。font-size="17" mp-original-line="">私たちは今のところ音楽を作らないことに決めました。どこで線を引くかということもある。

最近、私が本当に尊敬するミュージシャンのカップルに会ったんだ。この世界でも、例えば1万人のミュージシャンにお金を払ってたくさんの音楽を作ってもらい、素晴らしいトレーニングセットを作れば、音楽モデルは強力な曲の構造についてすべてを学ぶことができる。キャッチーなビートの作り方や、その他のすべてをね。そして、素晴らしい音楽モデルを作ることができると仮定して、それだけをトレーニングする。私はそれを、思考実験としてミュージシャンの前に置いてみたんだ。そして、彼らはまあ、その時点では、どんな原則に基づいてもそれに反対することはできなかった。しかし、それでも私は気に入らなかった。今となっては、それが必ずしも気に入らない理由にはならない。しかし、そうなのだ。

昨日だったか、Appleが発表した、人類の創造性のすべてを非常に薄いiPadに圧縮した広告をご覧になりましたか？

それについてどう思いますか？

人々はこれにとても興奮しています。

そうです。あなたが思っているよりも反応は強いです。

私は明らかにAIに対して非常に強気ですが、人間の創造性や人間の芸術表現には素晴らしいものがあると思います。科学研究をより良くできるAIにとっては、それは素晴らしいことだ。しかし、もしAIが人間の深く美しい創造的な表現のレベルに達することができたとしたら、それがどのように起こるのかを明確にする必要があると思います。AIは、私たちをより高い創造性へと導くツールになるでしょう。しかし、私たち全員が大切にしているものの精神を守る方法で、それを実現する方法を見つける必要があると思います。

あなたの行動はとても説得力があると思います。私たちは『DALL-E』で『スター・ウォーズ』のキャラクターを描こうとしています。ダース・ベイダーに聞いたら、おい、それはできないって言うだろうね。だから、レッド・チームとか、社内でどう呼ぼうと勝手でしょう。それはやってみた。そう、他人の知的財産を使うことは許さない。そう決断したんだね。

さて、ジェダイ・ブルドッグやシス卿・ブルドッグを作ってくれと頼むと（私がやったのですが）、私のブルドッグはシス卿・ブルドッグになってしまいます。

あなたの言っていることについての興味深い質問ですね。我々は昨日、仕様書と呼ばれるものを発表し、そこで我々のモデルがどのように振る舞うべきかを示そうとした。大変な作業だ。とても長い文書です。それぞれのケースにおいて、どこが限界なのかを正確に指定するのは非常に難しい。これはもっと多くの意見が必要な議論だと思います。

しかし、ダース・ベイダーではなく、シス・エグザルテッド・マスター、シススタイルのもの、ジェダイ・ナイトを産み出すかもしれないというアイデアは、まるで文化の一部のようです。ナイトのアイデアは、現時点では文化の一部のようなものであり、それらは難しい決断です。

そうですね。音楽業界は、テイラー・スウィフトの曲を自分たちのものにするチャンスだと考えるでしょう。これは、既存の芸術の新たな革新を利用する4つの部分からなるフェアユーステストの一部です。ディズニーは、ソラ版のアショカやオビ＝ワン・ケノービを作るなら、それはディズニーにとってチャンスだ、と主張する。それはあなたにとって素晴らしいパートナーシップです。

ということで、このセクションは「AIと法」とさせていただきます。

そこで、よりレベルの高い質問をさせてください。人々がAIを規制すると言うとき、それは何を意味するのでしょうか？もしよろしければ、カリフォルニア州が新たに提案した規制についてもコメントしてください。

私はこのことをとても心配しています。たくさんの規制案がありますが、カリフォルニア州に関するものを見た限りでは、そのほとんどが気になります。また、各州が独自にこれを行うことも懸念している。

人々がAIを規制したいと言うとき、それは1つの特定のことを指しているのではないと思います。すべてを禁止する人もいると思う。オープンソースであることを認めず、オープンソースであることを義務付けるという人もいるだろう。私が個人的に一番興味があるのは、「私は間違っているかもしれない。それが前向きな発言であることは認識している。そのような発言をするのは常に危険です。しかし、そう遠くない将来、今から数十年後の話ではなく、AIが最先端のAIシステムは世界的に重大な害を及ぼす可能性があると言う日が来ると思います。そのようなシステムについては、核兵器や合成生物学のような、一国をはるかに超える非常にネガティブな影響を及ぼす可能性のあるものを世界的に監視する必要がある。私は、最も強力なシステムには国際的な機関が取り組み、妥当な安全性テストが確実に実施されることを期待している。これらのシステムは、自動的に回避したり、自ら改良したりすることはない。

しかし、これに対する批判は、あなたは好意を寄せたり、ロビー活動をしたり、関与したりするためのリソースを持っていて、政治家に近いということです。新興企業には、熱意と投資にもかかわらず、それに対処するだけのリソースがないのだ。規制の虜になるという現象は、我々の友人であるビル・ガーリーが昨年の講演で指摘した通りだ。

ですから、この問題に正面から取り組むことができるかもしれません。100億ドル以上、あるいは1,000億ドル以上、あるいはその他のドルの価値があるコンピューターで訓練されたモデルだけに焦点を当てるのであれば、私はそれで満足です。それは私が納得できるラインだ。新興企業に規制の負担を強いることにはならないと思います。

核爆弾を作るための核物質を、人口のごく一部が持っているような場合、核査察官の状況と似たような例えを使うことができるわけですね。興味深い指摘だと思います。

もう一言いいですか？もちろん。ここでの過剰な規制には非常に神経質になっている。ちょっとでもやり過ぎると、すべてがうまくいかなくなる可能性がある。私たちは十分なことをやっていないと思うし、間違ってしまうこともある。しかし、その一部は......他の分野で規制の行き過ぎや統制が本当にひどくなっているのを見たからだと思います。

そして、もしかしたら何も起こらないかもしれない。しかし、起こるかもしれないと思うこと、そしてそれを実現するために何が必要かを語ることは、私たちの義務であり使命の一部だと思う。

サム、私たちの課題は、人々を保護し、コミュニティ全体を保護する法令があるということです。

しかし、私たちが取り組んでいる法律は、政府に企業秘密に立ち入り、監査する権利を与えています。このようなレベルの法律はこれまで見たことがありません。基本的に、カリフォルニア州で提案されている法律や連邦で提案されている法律のいくつかは、基本的に政府がモデルを監査し、ソフトウェアを監査し、モデルのパラメータや重さを監査し、見直すことを要求しています。そして、商業的または公共的な使用のためにそれを展開するためには、そのチェックが必要なのです。

私には、これは政府機関をコントロールして恐怖を作り出そうとしているように感じられる。人々はこのことを理解するのが難しく、その影響を恐れているため、コントロールしたがる。それをコントロールする唯一の方法は、公表する前に監査権をよこせと言うことだ。

そう、彼らは何も知らない。この人たちは何も知らない。こういう書き方をされると、読んでパニックになる。ご存知のように、12ヵ月後には、これらのことはいずれにせよ意味をなさなくなるからだ。

私が大局的な問題に対してエージェントベースのアプローチを推し進める理由は、それを法律のように書き出すのではなく、

たとえこの人たちが現実世界の専門家であったとしても、私はそうは思わない。この人たちが現実世界の専門家だとしても、12カ月や24カ月でそれを正しく理解できるとは思えない。私はそうは思わない。私たちはこれらの方針を見直し、すべてのソースコードの完全なチェックを行い、所有権の重みを1つ1つ見ていきます。特に、モデルは常に再トレーニングされ、よりダイナミックになっている。だからこそ、私はそれが理にかなっていると思うのです。

航空機が認証される前に、私たちは一連の安全テストを実施し、そのテストに合格するようにします。これは、すべてのコードを読むこととはまったく異なるプロセスです。私たちはモデルの出力をレビューしているのであって、モデルの内部を見ているわけではありません。

ですから、安全テストを行うことは理にかなっていると思います。

ではサム、これを実現するにはどうすればいいのでしょうか？

私はOpenAIの代表としてだけでなく、業界全体、さらには人類の代表としてここにいます。私は、大きな成長の可能性を秘め、人類に大きな恩恵をもたらすこれらの技術を制限してしまえば、暗黒時代に突入してしまうのではないかと危惧しています。では、どうすればこれを変え、実現できるのだろうか？

政府レベルでの開発ペースがあまりにも速いため、人々はすっかり勘違いしているようだ。その点で、例えばサムは、ラマができるだけ制約を受けずに成長できるようにするため、ラマのアーキテクチャー上の決定は非常に興味深いものです。また、ラマ・ガードと呼んでいるものがありますが、これは保護用のガードレールのようなものです。

問題を解決するための正しい方法は何だと思いますか？

今のようなモデルの強さでは、間違いなく問題があります。これらを軽視したり、深刻に受け止めないようにしたいとは思わない。しかし、GPT-4レベルのモデルにまつわる破滅的なリスクについては心配していない。それを配備するための安全なオプションはたくさんあると思う。

そのように言えば、もっと共通点が見つかるかもしれません。私は、そのように使用されなくても、再帰的に自己改良する能力を持つモデルや、技術的に能力を持つモデル、あるいは生物兵器を自律的に設計して配備するモデルなどの具体例が好きだ。あるいは新しいモデル。それが再帰的自己改良のポイントだ。

私たちは、国際レベルでモデルの出力を安全にテストすべきです。脅威となる可能性があるからだ。もちろん、GPT-4のようなものが脅威をもたらさないとは思いません。このようなモデルをリリースする安全な方法はたくさんあると思います。

しかし、飛行機や他の例のように、人命の重大な損失が深刻な可能性である場合、私は飛行機に乗るとき、飛行機のことは考えず、ただ安全だと仮定するように。

サム、今は雇用について多くの懸念があります。あなたはYCにいる間、UBIについて多くのテストを行いました。もうすぐ結果が出るだろう。私が言いたいのは、これは5年前に終わった、あるいは始まった研究だということだ。最初はベータ版で、次に長期的な研究だった。しかし、これらから何を学んだのですか？

確かに、なぜこのようなことを始めたのですか？なぜユニバーサル・ベーシック・インカム（UBI）に取り組み始めたのか、説明していただけますか？

私たちがこれを考え始めたのは2016年で、AIについて真剣に考え始めたのと同じ頃でした。その理論とは、社会と経済における雇用の変化からもたらされるかもしれない変化の大きさ、そしてある深い意味（例えば、社会契約がどのように変化するか）で、私たちはこれらの新しい変化をどのように組織化するかについてのアイデアを探求する多くの研究を行うべきだということです。

私は、貧困層を支援するために考案された政策のほとんどを政府が扱っていることについて、熱烈な支持者ではないことを認めざるを得ない。私は、人々にお金を与えさえすれば、彼らは正しい判断を下し、市場が機能すると考える傾向がある。最低生活水準を引き上げ、貧困をなくさないまでも減らすことには大賛成だ。しかし、既存の社会的セーフティネットで試みられてきたことよりも、もっと良い方法や対処法があるのではないか、ということに興味がある。

人々にお金を与えることですべての問題が解決されるとは思いませんし、確かにすべての人々を幸せにすることはできないでしょう。でも、一部の問題は解決するかもしれないし、人々が自分自身を助けるためのより良い視点を与えてくれるかもしれない。私はそれに興味がある。

私たちは今、このようなことができるいくつかの方法を見ていると思います。AIが進化しているいくつかの方法を目の当たりにしている今、従来のUBIの概念よりももっと良いものがあるのではないかと思っています。例えば、将来はGeneral Basic Income（ベーシック・インカム）よりもGeneral Basic Computing（ジェネラル・ベーシック・コンピューティング）のようなものになるのかなと思っています。誰もがGPT-7コンピューティングの一部を手に入れ、それを使うことも、転売することも、ガン研究のために誰かに寄付することもできる。しかし、ドルの代わりに生産性の一部を得ることができる。そう、生産性の一部を所有するのだ。

さて、ゴシップの話をしよう。では、昨年11月に戻りましょう。実際に何が起こったのか？

具体的な質問があれば、喜んでお答えしますし、もしかしたら、いつか話すと言ったかもしれません。

つまりそういうことだ。何があったんですか？あなたは解雇され、そして復帰し、宮内庁の陰謀だった。誰かに背後から刺されたのか？究極の人工知能（AGI）を見つけたのか？何があったんだ？ここは安全な空間だ。

私は解雇された。復帰すると言ったけど、とてもフラストレーションが溜まっていたから、自分が何をしたいのかよくわからなかったんだ。僕はOpenAIとそこにいる人たちが本当に好きで、戻ってくるんだと気づいた。思っていた以上に大変だった。でも、大丈夫、問題ない。私は戻ってくることに同意した。理事会がそれを理解するのに時間がかかった。そして、クライアントのために何かを続けるためにチームをまとめようとした感じだった。その後、別のプランに取りかかり、取締役会は別の暫定CEOを雇うことを決めた。なんてことだ、その人の名前は？彼の存在はまるで威圧的で、素晴らしかった。いいことしか言うことがない。

では、解雇はどこで知りましたか？

週末ラスベガスのホテルの部屋にいたときに知りました。メールが来て、火災ピックアップだって。クビになったかどうか考えようとする前に、こんなことになったんだと思う。この状況に疲れたとは思えない。ああ、メールが来たんだ。いや、変な感じだったんだ。

それで、このメールを送ってきたのは誰なんですか？

実は前の晩にメールを受け取ったんです。それから理事会と電話で話した。それで終わり。それから、なんというか、すべてが狂ってしまったんだ。携帯が使えなかったんだ。メールとか電話とか、バイブレーションが鳴りっぱなしだった。

基本的に、あなたはツイートによって解雇された。トランプ政権時代にも何度かありました。

彼らはツイートする前に私に電話をかけてきた。それから私はホテルの部屋で数時間、完全に錯乱状態で過ごした。とても混乱して、どうしていいかわからなかった。とても奇妙だった。

それから飛行機で家に帰り、おそらく午後3時頃に飛行機に乗った。それでも、必死の電話は鳴りっぱなしだった。何人かの人に直接会った。その日の終わりには、僕はAGIの研究をするんだと思った。そう、私には選択肢があるのだ。

そして翌朝、私は理事会のメンバー数人と電話で、戻ってくることについて話し合った。数日間の混乱があった。その後、うまくいったと思う。まあ、その間にはいろいろな混乱があったけどね。

そのうちのどれだけが、この非営利団体の理事たちのせいだったのでしょうか？

そうですね、非営利の理事会は1つしかありません。ですから、すべて非営利の理事です。理事会は6人に減らされた。そしてグレッグを理事から外し、私を解雇した。

非営利団体の経験しかない役員と起業家の経験しかない役員との間には、文化の衝突があるのでしょうか？もしよろしければ、その動きの背景にある動機を、何でも結構ですのでお聞かせください。

文化の衝突は常にあったと思います。もちろん、すべての取締役が私の好きな人たちというわけではありませんが、彼らがAGIに真剣に取り組み、AIのセキュリティーを正しくすることの重要性に敬意を抱いています。彼らの決定や行動に完全に同意できないときでも、安全で有益なAGIという共通の使命に対する彼らの誠実さやコミットメントを疑ったことはありません。

私は、彼らがプロセスにおいて正しい決断を下したと思うか、あるいはOpenAIのバランスをとる方法を知っていると思うか？はすべて正しいことをしなければならないのだろうか？いいえ。しかし、彼らには意図があり、AGI規模での意図があり、それを正しく理解したと思います。

実は、こうお聞きしたいのです。OpenAIのミッションは、AGIを創造することです。多くの人は、人工知能（AGI）を作ると、意図しない結果で何かがうまくいかなくなると考えています。彼らはそれを非常に恐れている。しかしOpenAIは、それを実際のミッションとして捉えている。そうすることで、自分のやっていることがより恐ろしく感じられるのでしょうか？それがモチベーションを生むこともあると理解していますが、どう折り合いをつけるのですか？なぜこれが使命なんだろう？

最初に答えるのは、多くの恐怖心を引き起こすということだと思います。世界中の多くの人々が、AGIや現在のAIを非常に恐れていると同時に、AGIの行く末に非常に興奮し、さらに恐怖と興奮を感じていると思います。私たちはそれと闘っている。しかし、それは避けられないことだと思う。また、非常に有益なものになると思う。しかし、私たちは納得のいく方法でそこに到達する方法を見つけなければならない。多くのことが変化し、変化は人々を不快にさせる。ですから、私たちは多くのことを正しく理解する必要があるのです。

違う質問をしてもいいですか？あなたは今、最もホットな企業のひとつを作り上げました。そしてあなたはその中心にいる。しかし、経済的な観点から見ると、あなたはその価値をすべて回避しています。それについてもう少し詳しく教えていただけますか？

そうですね、あの時株式を手に入れていれば、その質問に答えなくて済んだのにと思います。もし過去に戻れたら......

なぜ今、助成金をくれないのか？なぜ理事会はあなたにふさわしい多額のオプション付与をしないのか？当時の決断は何だったのか？なぜそれがそれほど重要だったのか？

当時の決断は、当初は単に私たちの非営利組織の構造でした。動機付けの観点からは、それでいい。しかし、ほとんどの場合、私たちの理事会は利害関係のない理事の過半数を必要としていました。そして、私はそれでいいと思った。今すぐ株式は必要ない。私は少し......でも......欲しい......

しかし、この奇妙な方法で、あなたは今、会社を経営している。

その通りです。

これはとても深い・・・。私が気づいたことのひとつは、人々が「これ以上お金はいらない」と言うことを想像するのは難しいということです。また、口調がどれほど無神経なものであるかも知っている・・・。ちょっとした下心だと思われているような気がします。そうなんです。では言おう。金儲けのために他に何をしているのか？OpenAIで1兆ドル儲けるんだ、と言えばみんな楽になると思う。そうすれば、多くの陰謀論がなくなるだろう。

サム、あなたは素晴らしいセッターだ。私はあなたのキャリアをずっと追ってきた。あなたは素晴らしい。あなたはすべての人間関係を持っている。資金調達もうまい。それは素晴らしいことだ。ジョニー・アイヴィーもいたし、あなたは企業に投資し、ボールを回し、工場を建設するために7兆ドルを調達した。

冗談ですよ。明らかに、7兆ドルを調達したわけではなく、単に時価総額とかそんなものかもしれません。しかし、それはさておき、重要なのは、あなたがこれらの取引をすべて行ったということだ。あなたの動機による不信感は何なのでしょうか？あなたが去ることになったOpenAIの中の機会とは何ですか？サムのものであったはずの機会で、この非営利団体の人々があなたを信頼していないものは何ですか？それが起きたことなのか？

私たちがデバイスの会社であったり、チップ製造会社と何かをする場合、それらはサムのプロジェクトではありません。OpenAIが株式を取得するようにね。彼らはそれを得るだろう。

しかし、それは一般大衆の認識ではありません。あなたのように一日中このようなことにコメントしている人の認識ではない。それはフェアだ。なぜなら、我々はまだこういったことを発表していないからだ。世界中のほとんどの人が考えているとは思わない。しかし、技術系コメンテーターの間で多くの陰謀論が巻き起こっていることには同意する。

もし過去に戻れるのであれば、私は公平に、このことを整理して言いたい。そして、AGIのことを本当に気にかけているし、世界で一番面白い仕事だと思うから、まだやると思う。しかし、少なくとも、すべての人に対する警告にはなるだろう。

それで、チッププロジェクトは何ですか？7兆ドルだ。その7兆ドルという数字はどこから来たのか