分散型AI：パーミソンレス・インテリジェンスの力

分散型AI：パーミッションレス・インテリジェンスの力」と題されたパネルでは、次のように述べた。2023年9月18日、TOKEN2049シンガポールにて、 SRSのマネージング・パートナーであるサンティアゴ・R・サントスがモデレーターを務め、Schelling AIの創設者であるエマド・モスタク、Sahara AIの共同創設者兼CEOであるショーン・レン、Gauntletの創設者兼CEOであるタルン・チトラ、NEAR AIの共同創設者であるアレックス・スキダノフで構成されるパネルディスカッションでは、健全な暗号の導入と今後3年間の暗号の見通しについて掘り下げる。

分散型AIは必要か？プライバシーの懸念、所有権、そしてユーザーデータ

サントスパネルを外した 過去10年間に生み出されたどの技術も、今日ではすべて大企業に支配されていることを指摘することによって。

そして、どのような場合でも、企業はすべてのデータを取得し、それを収益化し、販売する。

事実上、ユーザーは顧客ではなく、製品である。

そして人工知能（AI）も同じ方向に進んでいる。

大きな差別化要因は、我々がユーザー所有のAIと呼んでいるもので、ユーザーがデータをコントロールでき、ユーザーがAIを搭載したアプリケーションの使い方をコントロールできるというものでなければならない。

現在のAIエコシステムには、AI開発者やモデル作成者、AIユーザーなど、注意を要するユーザーグループが明確に存在するとレン氏は言う。

今日、モデル・アイデアのプロトタイプを作るには、コストも時間もかかる。

開発者は、データを調達し、計算機ベンダーを見つけ、ベンチャーキャピタル（VC）から資金を調達しなければならない。

このプロセスは、アイデアをテストし始めるまでに3カ月から6カ月かかることもある。

開発者は、必要なリソースや資本にアクセスする上で大きな課題に直面しており、ブロックチェーンに裏打ちされたプラットフォームや分散型金融（DeFi）市場がこのプロセスを合理化し、イノベーションを加速させる明確な機会を提示している。

また、AIユーザーは、ChatGPTが提供するような無料サービスと引き換えに、嗜好、個人データ、財務情報など、豊富な個人情報やプライベートな情報を知らず知らずのうちに共有していることが多い。

時間をかけて、OpenAIのような企業は膨大な量のユーザーデータを蓄積し、この集合知を活用することでモデルを改良していく。

これはイノベーションを推進する一方で、プライバシーや所有権、ユーザーのデータがどのように利用されるか、さらにはユーザーの仕事を自動化したり代替したりする可能性など、深刻な懸念を引き起こす。

レンはそう言った：

「そして時が経つにつれて、彼らはより良いバージョンを作り、個々の専門家を集約し、あなたの仕事の一部を自動化し、あなたの仕事をマネタイズの機会として位置づけることができるかもしれない。そして、そこでプライバシー保護と、集中型プロバイダーに提供したものに関するユーザーの所有権という問題に立ち戻ることになる。この2つが、私たちが取り組まなければならない大きな問題だと思います」。

こうした課題に対処するには、より強力なプライバシー保護とデータのユーザー所有権へのシフトが必要だ。

ブロックチェーンと暗号のエコシステムは、分散型の代替手段を提供し、開発者とユーザーの双方に力を与えることによって、これらの問題に取り組む有望な解決策を提供する。

分散型AIは中央集権型ソリューションに対抗できるか？

AI産業が求めるものは計り知れず、分散化やユーザーのプライバシーが賞賛されることも多いが、現実には、ほとんどのユーザーはこうした理想よりも効率やコストを優先している。

これは重要な問題を提起している：これは重要な問題である。分散型AI 機能面でも価格面でも、中央集権的なソリューションと現実的に競合するのだろうか？

安定性AIが開発されたとき、モスタケは1万台のエヌビディアA100のパワーが必要だと述べた。

画像、ビデオ、オーディオの最先端モデルを構築するために必要なこのセットアップには、4億ドルの値札がついていた。

それに比べるとイーロン・マスク '最新のスーパーコンピューターは、最先端のモデルを訓練するために設計され、30万台のA100を使用し、30億ドルかかる。

これらの驚異的な数字は、高度なAIモデルのトレーニングに関わる金銭的な利害を反映している。

興味深いことに、IQスコア120を達成したOpenAIのo1モデルのような最近の進歩は、コンピューティングのニーズが進化していることを示している。

分散化された並列コンピューティングは、100万のGPUを活用したボーダーレンダリングのような例で、より実現可能になってきている。

しかし、このような発展にもかかわらず、分散型AIは、特に中央集権型ソリューションと規模を競うことになると、依然として大きな課題に直面している。

例えばビットコインは、特殊なインフラを使用して年間160テラワット時のエネルギーを消費しており、これは全世界のデータセンターを合わせたエネルギー消費量のほぼ半分に相当する。

これは、地方分権が機能する分野もあるが、AIで同レベルのパフォーマンスを達成するのは依然として複雑でコストがかかることを示している。

と質問した：

「しかし、最先端のモデルを作るには何十億ドルもの投資が必要なため、現時点では非常に難しい。問題は、数十億ドルを分散して使えるように変わるかどうかということだ。あるいは、このようなクラスターを作り、一般的に1つの視点しか反映されないような完全な中央集権型のソリューションに代わるオープンな選択肢を持てるような仕組みを作ることはできるのだろうか？Googleの画像生成で、相撲取りと入力するとインドの女性力士が出てくるようなものだ」。

チトラは考慮すべきいくつかの重要な点を指摘した。

第一に、エッジアプリケーション、つまり科学研究のようなすぐに金銭的な見返りが得られないようなアプリケーションは、潜在的な成果に比してモデルトレーニングのコストが高いため、しばしば大きな障壁に直面する。

アルファフォールドを例にとってみよう。

立ち上げ当初、ディープマインドの社内では、必要なリソースのほんの一部でも割く価値があるかどうかについての議論があった。

通常のテキスト、ビデオ、商業的に実行可能なアプリケーション以外の分野でのAIモデル開発の価値が認識されるまでには時間がかかった。

その結果、こうしたエッジ・プロジェクトは、コスト効率に焦点を当てた議論の中で、より商業的に明白なモデルに注意が向けられ、おざなりにされることが多い。

第二に、AIのアーキテクチャに変化が起きている。

大規模な初期データセットに基づいて1つの大規模なモデルを構築するのではなく、強化学習やゲーム理論を使用するモデルへの関心が高まっており、その結果、待ち時間と帯域幅の間で異なるトレードオフが生じる可能性がある。

このアプローチでは、複雑さが軽減されるのであれば、推論時間が長くなってもモデルは許容できるかもしれない。

このシフトは、クラスターの開発方法を一変させ、時間の経過とともに推論がどのように扱われるかに影響を与えるだろう。

このようなアーキテクチャの変更をめぐる議論はまだ終わっておらず、今後も進化を続けるだろう。

彼は言った：

「アルファフォールドでは、私はオープンフォールドの作者の一人で、アルファフォールドをオープンソースで複製した。アルファフォールドはブラックボックスであったため、私たちには理解できないエラーがたくさんありました。ですから、オープンソースは非常に興味深く、分散化されていると思います。なぜなら、より多くの人が見ていて、私たちの生活のますます大きな部分を占めるようになり、私たちの生活のますます大きな部分を占めるようになるこれらのモデルのエラーを解明することができるからです」。

AIの実用化

の実用化についてAI コンピュートのマーケットプレイスやモデルのマネタイズは目覚ましい進歩を遂げている。

近い将来、規模を拡大し、広く普及するユースケースは何か？

ここ数年の進歩を振り返ってみると、AIモデル開発の成功の多くは、GPUを集め、マシンをデータセンターにプールし、一流のAI研究者チームを編成するという集中化によってもたらされた。

集中管理されたリソースは、イノベーションを促進し、AIを前進させる上で極めて重要な役割を果たしてきた。

AI開発のすべての側面が即座に分散化されるべきではないということだ。

この実績あるアプローチを早期に中断することは、すでに達成された進歩を台無しにしかねない。

しかし、GPUマーケットプレイスは、現段階では必ずしもブロックチェーンの統合を必要とせず、グローバルなGPUリソースのより良い分配を可能にする、価値あるソリューションとなり得る。

分散化がより説得力を増すのは、データセットやモデルといったAI資産の所有権とガバナンスだ。

複数の関係者がモデル構築にリソースを提供するなら、それに応じて所有権を分配してはどうか。

例えば、プロジェクトがGPUを購入する資金がないため、誰かがA100 GPUの時間を100時間提供した場合、その見返りとしてモデルのパーセンテージを受け取ることができる。

同じ原則がデータ提供者にも適用され、その貢献はモデルの独自性を著しく高めることができる。

このアプローチでは、AIモデルのクラウドソーシングを可能にし、所有権を貢献者に分散させる新しいガバナンスと経済的枠組みが必要となる。

そのモデルが収益を上げ始めたら、透明性が高く、信頼のおける、許可のない方法でそれを行い、すべての利害関係者が公平に補償されるようにしなければならない。

ブロックチェーン技術が重要な役割を果たす可能性があるのはまさにこの点であり、信頼と帰属の分散型システムを促進する。

スキダノフ氏は、AIにおける現在の最も興味深いユースケースのひとつが分散型推論であり、いくつかの企業で実用化されていると指摘した。

たとえば社内では、価格とスピードの両面でファイヤーワークスに匹敵するハイパーボリック社と提携している。

ハイパーボリックの特徴は、そのインフラが様々な参加者から調達したGPUの大規模な分散型ネットワーク上に構築されていることだ。

推論は、伝統的にWeb2空間において需要の高いサービスであるが、AIにおいて最も商業的に実行可能な分野のひとつであり続けており、分散型アプローチは高い競争力を持つことが証明されている。

スマートコントラクトやアプリケーションのエンド・ツー・エンド開発を目的とした「AIデベロッパー」と呼ばれる人材の育成にも取り組んでいる。

2021年に始まったこのイニシアチブは、大規模なデータアノテーションに大きく依存している。

私たちはこの取り組みに貢献している開発者とアノテーターのネットワークを持っており、その多くは従来の支払い方法が困難な地域で働いている。

ここで、ブロックチェーンは極めて重要な役割を果たす。

ブロックチェーンを活用することで、労働者は努力に対する報酬を即座に受け取ることができ、プロセスがシームレスかつ効率的になる。

彼はこう説明した：

「ブロックチェーンがなければ、同じように構築することは事実上不可能だ。

これは、分散型テクノロジーがAIのインフラを再構築しているだけでなく、グローバルな労働力のエンゲージメントにおける現実的な問題を解決していることを示している。

チトラによれば、実用的なユースケースを考えるとき、技術がメディア制作に与える影響は特に顕著だという。

AIの進歩により、来年までには非同期で制作される長編ハリウッド映画の制作が可能になるかもしれない。

フィルムは平均2.5秒のショットで構成されているため、進行状況を確認するためにかなりの待ち時間が必要となり、リアルタイム生成は現実的ではない。

メディア変換は、推論コンピューティングの最も重要な応用例の一つであるが、知的財産（IP）の帰属と知識の流れのリミックスという課題が残っている。

さらに、ヘルスケアの分野ではAIの可能性 は計り知れない。

がんなどの症状に特化したモデルは、最新の医学知識を統合し、人間の医師よりも高い共感レベルを示すことができるため、患者はその旅を通してサポートされていると感じることができる。

分散型台帳技術を応用することで、ヘルスケアデータの保護に新たなレイヤーが加わり、エッジでの安全なAI分析が可能になる。

例えば、アップルのオンデバイスAIは、様々な知識機能を統合しながら、個人の健康情報を分析することができる。

インフラが進化し続けるなか、特にこの分野のイノベーターたちの取り組みによって、私たちはホリスティック・ヘルスケアとパーソナライズされた教育におけるブレークスルーの瀬戸際に立っている。

ビットコインのホワイトペーパーに基づくポッドキャストのディスカッションを瞬時に生成できるグーグルのノートブックLMの最近の導入は、こうした進歩を例証している。

しかし、このようなAIエージェントの効果を最大化するためには、複雑な課題に取り組む際の追跡可能性、検証可能性、調整のためのシステムを確立することが極めて重要である。

分散型AIは人間を滅ぼすのか、それとも関係ないのか？

AIにおけるパーミッションレス・イノベーションのコンセプトは、エキサイティングな可能性と大きなリスクの両方を提示している。

AIが最終的に人類を脅かす可能性があると懸念を表明する人がいる一方で、より楽観的な見通しを維持する人もいる。

という疑問が生じる。AI 開発による損害の可能性は？

オープンソースのAIはパーミッションレス・イノベーションを体現しており、ユーザーは自由にデータセットにアクセスし、変更することができる。

しかし、真の懸念はガバナンスと標準化にあるのかもしれない。

例えば、ロボットの大規模な配備が、ファームウェアのアップデートの欠陥によって壊滅的な打撃を受けるという仮想シナリオが考えられるが、これは集中管理に根ざした問題である。

さらに、Anthropic社の「スリーパーエージェント（Sleeper Agents）」に関する研究では、悪意のある改変が膨大な言語モデルをいかに破壊し、制御不能にするかを明らかにしている。

パーミッションレス・モデルは新たな脆弱性をもたらす一方で、レジリエンスを育むこともできる。

中央集権的なシステムの歴史は、数多くの攻撃ポイントや失敗を明らかにしており、オープンなインフラがより高い堅牢性を提供する可能性を示唆している。

その結果、AIガバナンスをめぐる対話は、無許可のアプローチに内在するリスクにのみ対処するのではなく、分散型システムの安全性と信頼性を高めることに焦点を当てるべきである。

サントスは、スキダノフがかつてOpenAIの一員だったことを指摘した。

スキダノフは、彼がOpenAIに在籍していたのは2016年で、まだ組織がロゴを制定する前だったと述べた。

短期間在籍した後、Nearの共同設立のために退社した。

2022年、Near'の立ち上げ後、彼はOpenAIに戻り、それまでの3年間の沈黙に興味をそそられ、大きな進歩があったのではないかと疑った。

彼はそう主張した：

「2022年までに彼らは3年間沈黙を守っていて、シンギュラリティに到達しているのではないかと思ったからだ。そう、私がしていたことのひとつは、会社の廊下を歩きながら、人々の目を見て、彼らが悪人かどうかを判断していた。だから結局のところ、私はこの集団が100％確実に存在し、もしAIが背を向け始めたら、この集団が私たちを滅亡から救ってくれると確信することはできなかった」。

彼は、トップクラスの研究が小さなグループによって独占されるのではなく、共同所有されることで、社会は大きな利益を得ることができると主張している。

米国では現在、他国が大規模なモデルをトレーニングする能力を著しく制限するような規制を導入しようとしていることに懸念を表明している。

パーミッションレスAIはまだ実用化されていない

という質問に対して、レンは主観的にこう答えた。AI を無許可で使用することに、カンファレンスに参加するAI研究者の多くはためらいを示すだろう。

この消極的な姿勢は、主に2つの懸念から生じている。

第一に、これらのモデルがどのように作動し、意思決定を行うかについて、根本的な理解が不足している。

明示的な指示に従う従来のプログラムとは異なり、AIモデルは確率論的なシステムとして機能し、学習データと、それらが展開される特定のコンテクストに基づいて確率的な予測を生成する。

その結果、予期せぬエラーが発生することがある。それは、単に入力データの些細な変動が学習パラメーターの範囲外であることが原因であることもある。

第二に、多くの重要な人間の価値観や常識的な制約が、これらのモデルに完全に統合されていない。

このギャップは、職務経歴書のフィルタリングやクレジット申請の評価など、重要度の高いアプリケーションで特に問題となる。

AIの文献では何十年も前から議論されているにもかかわらず、これらの課題は実世界のシナリオで効果的に対処するのが難しいままである。

とアドバイスした：

「この問題がより包括的に理解される前に、私たちはAIを大きなリスクを伴うアプリケーションに許可なく導入する準備はできていないと思います。

インテリジェンスが将来の基軸通貨になる

暗号とAIの交差点にあるさまざまな製品カテゴリーを見ると、取引ボットやリスク軽減ソリューションなど、AI機能で強化された暗号アプリケーションがある。

もうひとつは、暗号の特性を利用したAIシステムで、おそらくAIエージェントはステーブルコインを介して動作する。

しかし、最も興味をそそるカテゴリーは、暗号とAIの相乗効果であり、両者の能力を組み合わせることでユニークな機会が生まれる。

ビットコインに代表される暗号の当初のビジョンは、無許可の分散型通貨システムを構築することだった。

今や焦点は、ポスト労働経済の枠組みを構想することに移っている。

AIとインテリジェント・マーケット・メーカーによって強化されたインテリジェント・マネーは、経済の機能を再定義する可能性がある。

医療、教育、統治、金融におけるオープンシステムの構築は、この進化にとって極めて重要である。

さらに、暗号が効果的な調整レイヤーとして機能する一方で、将来の通貨システムにおいてインテリジェンスはどのような役割を果たすのかという疑問も生じる。

計算資源が拡大するにつれ、AIエージェントの能力も拡大し、人間の労働力を凌駕できるようになる。

モスタクはこう結論づけた：

「AIが成熟するにつれて、これらのエージェントを実行するためのコンピュート数が増えれば、競争に打ち勝つことができます。私たちは、これが新しい経済システムの基盤になると考えています。AIがそのようなことをやってくれるのに、なぜ新卒のプログラマーやほとんどのコンテンツライターを雇うのでしょうか？社会構造の再編成が必要です。そしてそれは、信じられないほどの速さでやってくる。