ヴィタリックの最新記事：1年後のd/accを再考する

しかし、これら2つの点は、d/accの「より民主的で防衛に適した世界を作るための、基本的なレベルでのアイデアがここにある。

しかし、上記の「防衛的」なd/acc技術と「進歩的」なd/acc技術の間には、実は非常に重要なつながりがあると思います。昨年の記事のd/accチャートにこの軸を追加して拡張してみましょう（ここでも「生存と繁栄」とラベルを変えてみましょう）。

以下のすべての分野で一貫したパターンがある。ある分野で「生き残る」のに役立つ科学、アイデア、道具は、「繁栄する」のに役立つ科学、アイデア、道具と密接に関連しているという、あらゆる分野に一貫したパターンがある。

• ネオコロナウイルスとの闘いにおける最近の研究の多くは、体内でのウイルスの持続性に焦点を当てている。また最近では、ウイルスの持続性がアルツハイマー病の原因である可能性も指摘されている。もしそれが本当なら、あらゆる組織におけるウイルスの持続性に対処することが、老化の問題を解決する鍵になるかもしれない。

• オープンウォーターが微小血栓、ウイルスの持続性、がんを効果的に治療するために開発している低価格のマイクロイメージングツールのいくつかは、BCIにも使えるかもしれません。

• 予測市場は、高度に協力的な環境でも、高度に敵対的な環境でも価値があります。

• ゼロ知識証明や、プライバシーを守りながらデータ上で計算する同様の技術は、科学のような有用な作業に使えるデータ量を増やし、プライバシーを強化します。

• 太陽エネルギーとバッテリーは、クリーンな経済成長の次の波を推進するために大いに役立ちますが、分散化と物理的な回復力にも優れています。

• BCI は、情報防衛およびコラボレーション技術として重要です。はロボットと意識の間のコミュニケーションだけでなく、意識とロボットと意識の間のコミュニケーションにもなり得る。これは、BCIの価値についてのPlualityの考えと呼応している。

• 多くのバイオテクノロジーは情報の共有に依存しており、多くの場合、人々は、それが1つの用途にのみ使われると確信できる場合にのみ、情報を共有しようとします。これはプライバシー技術（例：ZKP、FHE、難読化......）に依存します

• 共同技術は、他のあらゆる技術分野の資金調達の調整に利用できます

3つの難問：AIの安全性、厳しいスケジュール、規制

?

人によってAIのスケジュールは大きく異なる。2023年、モンテネグロ、ズザルのチャート。

昨年の私の記事に対する最も説得力のある反論は、AIセキュリティコミュニティからの批判でした。その主張は、「確かに、強力なAIを手に入れるのに半世紀あれば、このような良いものをすべて作ることに集中できる。しかし現実には、AGIを手に入れるにはあと3年、超知能を手に入れるにはさらに3年かかるだろう。世界が破壊されたり、取り返しのつかない罠にはまりたくなければ、良いことを加速させるだけでなく、悪いことを減速させる必要がある。昨年の私の投稿では、"悪いものを減速させる "ための具体的な戦略を求めたわけではなく、ただ漠然と、危険な形態の超知能を構築しないように呼びかけただけである。つまり、AIのリスクが高く、タイムテーブルがあと5年かかるかもしれないという、最も不都合な世界に住んでいるとしたら、私はどのような規制を支持するだろうか？

昨年、カリフォルニア州で提出された最も著名なAI規制法案はSB-1047で、最も強力なモデル（訓練に1億ドル以上、微調整に1,000万ドル以上かかるモデル）の開発者に対し、リリース前に多くの安全テスト措置を取ることを義務付けるものだった。さらに、AIモデルの開発者が十分な注意を払わない場合は、その開発者に責任を負わせるというものだ。多くの批評家はこの法案を「オープンソースへの脅威」と見ている。私はそうは思わない。なぜなら、コストの閾値は最も強力なモデルにしか影響しないからだ。しかし、振り返ってみると、この法案にはもっと大きな問題があると思う。最新の最先端Deepseek v3モデルのトレーニング費用はわずか600万ドルであり、o1のような新しいモデルでは、コストはトレーニングから、より一般化された推論へとシフトしています。

第二に、AIの超知能破壊シナリオに実際に責任を負う可能性が最も高いのは、実は軍です。過去半世紀にわたって（そしてそれ以降も）バイオセキュリティで見てきたように、軍隊は恐ろしいことをすることを厭わず、間違いを犯しがちです。人工知能の軍事利用は急速に発展している（ウクライナ、ガザを参照）。政府によって可決されたセキュリティ規制は、デフォルトで軍や軍と密接に協力する企業を除外することになる。

とはいえ、これらの議論は、諦めて何も行動を起こさない理由にはならない。むしろ、これらを指針として、これらの懸念を最小限に抑えるような規則を考え出すようにすればいいのだ。

戦略1：賠償責任

誰かの行動が訴訟可能な損害を引き起こした場合、その人は訴えられるかもしれません。これは、軍やその他の「法の上に立つ」行為者によるリスクの問題を解決するものではありませんが、過剰適合を避けるための非常に一般的な方法であり、この理由からリバタリアン寄りの経済学者によってしばしば支持されています。

これまで検討されてきた主な責任対象は以下の通りです：

• Users - AIを使う人

• Deployers

• 開発者--AIを構築する人々

ユーザーに説明責任を持たせることは、インセンティブと最も合致するようです。モデルがどのように開発され、最終的にどのように使用されるかの関連性は不明確なことが多いですが、AIがどのように使用されるかはユーザーが正確に決定します。ユーザーに責任を負わせることは、私が正しいと思う方法でAIを開発するよう強い圧力をかけることになる。つまり、自立した知的生命体の新しい形を作ることよりも、人間の心のためのメカスーツを作ることに集中することだ。前者はユーザーの意図に定期的に反応するため、ユーザーが望まない限り破滅的な行動には至らないだろう。後者は制御不能に陥り、典型的な「AIが暴走する」シナリオを生み出す可能性が高い。責任をできるだけ最終使用場所に近づけることのもう一つの利点は、責任が他の有害な行動（例えば、クローズドソース、KYCと監視、国家と企業が結託して密かにユーザーを制限すること、例えば、脱銀行、世界の大部分をブロックすること）を起こさせるリスクを最小限にすることです。

利用者だけを非難することに反対する古典的な議論があります。利用者は大金を持たない一般人かもしれませんし、匿名かもしれません。この議論は誇張されすぎているかもしれません。たとえ責任を負えないほど小さなユーザーがいたとしても、平均的なAI開発者の顧客にとってはそうではないため、AI開発者は、ユーザーが高い賠償責任リスクにさらされないことを保証する製品を作るインセンティブを持つことになります。とはいえ、これはまだ対処すべき有効な議論である。適切な注意を払うためのリソースを持つパイプラインにいる人たちにインセンティブを与える必要があり、デプロイ業者も開発者も、モデルのセキュリティに大きな影響を与える簡単なターゲットです。

デプロイ担当者の責任は合理的だと思われます。よくある懸念は、オープンソースのモデルには適用されないということですが、特に最も強力なモデルはクローズドソースになる可能性が高いので、これはなんとかなりそうです（もしオープンソースになったとしても、デプロイ者の責任は最終的にはあまり役に立ちませんが、あまり大きな害にはならないでしょう）。同じ懸念が開発者の責任にも当てはまりますが（オープンソースのモデルでは、当初は許可されていなかったことを実行させるためにモデルを微調整する必要がありますが）、同じ反論が当てはまります。一般的な原則としては、コントロールに対する "税 "であり、本質的には「コントロールできないものを作ることもできるし、コントロールできるものを作ることもできる！「と言っているのである。

あまり検討されていないようだが、パイプラインの他のプレーヤーに責任を負わせるというアイデアもある。d/accにとって非常に好都合なアイデアは、AIが（ハッキングなどで）乗っ取ったデバイスの所有者や操作者に、壊滅的で有害なアクションの実行中に責任を負わせることでしょう。これは、世界の（特に計算機や生物学的な）インフラを可能な限り安全にするために努力する、非常に広範なインセンティブを生み出すでしょう。

戦略2：産業用ハードウェア上の世界的な「ソフトな一時停止」ボタン

私たちが責任ルールよりも「強力な」何かが必要だと確信したら、それを目指します。目標は、人類がより多くの時間を準備するために、重要な時期に1～2年間、世界的に利用可能なコンピューティングパワーの量を約90～99％削減できるようにすることです。1～2年の価値は誇張されるべきではありません。「戦時モード」の1年間は、自己満足に直面した場合の100年間の仕事に簡単に値することがあります。一時停止」を実施する方法については、ハードウェアの位置の登録と検証を義務付ける具体的な提案などが検討されている。

より高度なアプローチは、巧妙な暗号化のトリックを使用することでしょう。例えば、産業グレードの（消費者グレードではない）AIハードウェアは、主要な国際機関（少なくとも1つの非軍事関連機関を含む）から毎週3/3の署名を得た場合にのみ機能し続ける、信頼できるハードウェアチップを使用して製造することができます。これらの署名はデバイスから独立しているため（必要であれば、ブロックチェーン上で公開されたことをゼロ知識で証明するよう求めることもできる）、オール・オア・ナッシングとなる。

これは、メリットを最大化し、リスクを最小化するという点で、「条件を満たしている」ように感じられます。

• これは有用な機能です。超知的に近いAIが壊滅的な大混乱を引き起こす可能性のあることをし始めるという警告シグナルを受け取れば、私たちはよりゆっくりとシフトしたいと思うでしょう。

• ソフトな一時停止機能があるだけで、そのような危機的な瞬間が起こるまで、開発者はそれほど傷つくことはないでしょう。

• 工業規模のハードウェアに焦点を当て、90～99パーセントだけを目指すことで、消費者向けノートパソコンにスパイチップや終了スイッチをインストールしたり、小国に思い切った対策を取らせたりするような、反ユートピア的な行為を避けることができます。

• ハードウェアに焦点を当てることは、技術革新にとって非常に効果的なようです。私たちは、複数世代のAIにおいて、特に新しいパラダイムの初期バージョンでは、品質が利用可能なコンピューティングパワーに大きく依存することを見てきました。したがって、利用可能なコンピューティングパワーを10～100分の1に減らすことは、制御不能な超知的AIが、それを止めようとする人間との速いペースの戦いに勝つか負けるかを簡単に決定する可能性があります。

• 署名のために週に1度オンラインになる必要があること自体が迷惑であり、このプログラムを消費者向けハードウェアに拡大することに強い圧力をかける可能性があります。

• ランダム検査で検証することができ、ハードウェアレベルでそうすることは、ユーザー固有の免除を難しくするでしょう(技術的にではなく、法的に強制されたシャットダウンに基づく方法は、このようなオール・オア・ナッシングの属性を持たないため、軍などの免除にスライドする可能性が高くなります)

ハードウェアの規制はすでに真剣に検討されています。ハードウェアの規制はすでに真剣に検討されていますが、通常は輸出規制の枠組みを通して行われます。レオポルド・アッシェンブレナー氏は、米国は決定的な優位に立つために競争し、その後、中国が実行することを許される箱の数を制限する協定に署名するよう強制すべきだと主張している。このアプローチは私には危険で、多極化競争と中央集権の落とし穴を兼ね備えているように思える。もし人々を制限しなければならないのであれば、一方が他を支配しようとするのではなく、すべての人を平等に制限し、これを組織するために協力しようと努力する方が良いように思える。

AIリスクにおけるd/accテクニック

これらの戦略（責任とハードウェアの一時停止ボタン）にはどちらも穴があり、一時しのぎにしかならないことは明らかです。だから、時間を稼ぐためにもっと安定したものが必要なのだ。多くのd/acc技術はこれに関連している。もしAIが世界を征服したら、AIは何をするだろうか？

• 私たちのコンピューターに侵入する → サイバー防衛

• 超疫病を引き起こす → 生物防衛

• 私たちを納得させる（それを信じるか、互いに不信感を抱かせるか） → 情報防衛

• 私たちのコンピューターに侵入する → サイバー防衛

• 超疫病を引き起こす → 生物防衛

• 私たちを納得させる（それを信じるか、互いに不信感を抱かせるか） → 情報防衛

前述したように、賠償責任に関する規則は、世界中でこのような防衛策を採用し、真剣に取り組むことを奨励する上で非常に効果的であるため、d/accに適した自然な規制の形である。台湾、中国は最近、虚偽広告に対する賠償責任を実験的に導入しているが、これは賠償責任を利用して情報防御を奨励した例と見ることができる。私たちは、あらゆる場所に過剰に責任を課すべきではありませんし、訴訟を恐れることなく小人がイノベーションに参加できる普通の自由の利点を忘れてはいけません。

4：d/accにおける暗号通貨の役割

d/accの多くは、典型的なブロックチェーンのトピックをはるかに超えています。バイオセキュリティ、BCI、共同言説ツールは、暗号通貨関係者が通常話す内容からはかけ離れているように見えます。

• d/acc は、暗号の根底にある価値（分散化され、検閲に強く、開かれたグローバルな経済や社会）を、テクノロジーの他の分野に拡張したものです。

• 暗号ユーザーは自然なアーリーアダプターであり、同じ価値観を共有しているため、暗号コミュニティはd/accテクノロジーの自然なアーリーアダプターです。コミュニティ（イベントやポップアップなど、オンラインとオフラインの両方）に高い価値が置かれ、これらのコミュニティが互いに話し合うだけでなく、実際にリスクの高いことを行っているという事実は、暗号コミュニティが、基本的に個人ではなく人々のグループ（情報防衛やバイオディフェンスの大部分など）を対象としているd/accテクノロジーにとって、特に魅力的なインキュベーターやテストベッドとなっています。暗号の人たちは、ただ一緒にやっているだけなのだ。

• 多くの暗号技術は、d/acc 対象分野に適用することができます：より強力で分散化された金融、ガバナンス、ソーシャルメディアインフラストラクチャを構築するためのブロックチェーン、プライバシーのためのゼロ知識証明などです。今日、最大規模の予測市場の多くはブロックチェーン上に構築されており、それらは徐々に洗練され、分散化され、民主的になってきています。

• また、暗号プロジェクトに役立つだけでなく、d/accの目標達成の鍵となる暗号関連技術、すなわち形式的検証、コンピューターソフトウェアとハードウェアのセキュリティ、敵対的ガバナンス技術について協力するウィンウィンの機会もあります。これらは、イーサブロックチェーン、ウォレット、DAOをより安全で強固なものにし、また、潜在的に超スマートなAIからのものを含むサイバー攻撃に対する脆弱性を減らすといった、重要な文明防衛の目標も達成します。



「Cursive」は完全同形暗号化（FHE）を使用するアプリケーションで、プライバシーを保護しながら、他のユーザーと共通の関心分野を特定できる。チェンマイにあるZuzaluの多くの支店の1つであるEdge Cityは、この技術を使用しています。

こうした直接的な接点以外にも、資金調達メカニズムという共通の重要なポイントがある。

V. d/accと公共財の資金調達

私が現在関心を持っていることのひとつは、公共財（多くの人々にとって価値があるが、当然ながら実行可能なビジネスモデルがないプロジェクト）に資金を提供するための、より良いメカニズムを考え出すことです。この分野での私の過去の仕事には、セカンダリー・ファイナンスへの貢献や、Gitcoin funding、Retro PGF、そして最近ではDeep Financingへの応用があります。

多くの人が公共財の概念に懐疑的です。

1. 公共財は歴史的に、強権的な中央計画と政府の社会・経済への介入の口実として使われてきたという事実です。

2. 公共財への資金提供は厳密さに欠け、社会的期待バイアス（実際に良いことよりも、良いことのように聞こえる）に基づいており、社会的ゲームを行うことができる内部の人間に有利だと広く信じられています。

これらは重要な批判であり、良いものです。というのも、d/accの重要な目標の1つ（中央のコントロールポイントを最小限に抑える）は、多くの伝統的なビジネスモデルを本質的に挫折させるからです。オープンソース・ベースで成功するビジネスを構築することは可能であり、多くのバルヴィ受賞者がそうしている。しかし、場合によっては、重要なプロジェクトが継続的な追加支援を必要とするほど難しい。しかし、重要なプロジェクトが継続的な追加支援を必要とするほど難しい場合もある。

最初の問題に対する解決策は、基本的に信頼できる中立性と地方分権である。中央集権的な計画は、潜在的に濫用的なエリートに支配権を与えるため問題であり、現状に過度に合わせる傾向があり、時間の経過とともにますます非効率になる。セカンダリーファイナンスや類似の仕組みは、最も信頼できる中立的で（建築的にも政治的にも）可能な限り分散化された方法で、公共財に正確に資金を供給する。

2つ目の問題はより難しい。セカンダリーファイナンスに対する一般的な批判は、すぐに人気投票になり、プロジェクト資金提供者は一般への働きかけに多くのエネルギーを費やす必要があるというものだ。加えて、「人々の目の前にある」プロジェクト（エンドユーザーアプリなど）には資金が集まるが、より隠れたプロジェクト（典型的には「ネブラスカの人々によって維持されている依存関係」）にはまったく資金が集まらない。Optimism のレトロファンディングは、少数のエキスパートバッジホルダーに依存している。ここでは、人気コンテストの影響は減少するが、バッジホルダーとの親密な個人的関係を維持することによる社会的影響は拡大する。

ディープ・ファイナンシングは、この問題を解決するための私の最新の取り組みである。

1. Dependency maps.各陪審員にグローバルな質問（「人類にとって項目Aの価値は何か？）というグローバルな質問をする代わりに、ローカルな質問をする。どの程度価値がありますか？）その代わりに、部分的な質問（「プロジェクトAとプロジェクトBのどちらが成果Cにとって価値があるか？ある有名な研究では、N羽の鳥を救うためにいくら使ってもよいと思うかという質問に対して、回答者はN=2,000、N=20,000、N=200,000で約80ドルと答えている。局所的な問題は扱いやすい。各プロジェクトについて、他のどのプロジェクトがどの程度その成功に貢献したのか。

2. 人工知能とは、人間の判断を抽出したものです。審査員は、全質問の中から少数のランダムサンプルを割り当てられるだけです。誰でもグラフのすべての辺を効率的に埋めようとするAIモデルを提出できるオープンコンペティションがあります。最終的な答えは、審査員の答えに最も適合するモデルの重み付き合計となる。コード例はこちらを参照。このアプローチは、陪審員が少数の「ビット」情報のみを提出することを要求しながら、メカニズムを非常に大きなサイズに拡張することを可能にする。これは腐敗の機会を減らし、すべてのビットが高品質であることを保証します。陪審員は、何百もの質問を素早くクリックするのではなく、それぞれの質問についてじっくり考えることができます。AIにオープンな競争を利用することで、単一のAI訓練・管理プロセスの偏りを減らすことができる。AIのオープンな市場はエンジンであり、人間はハンドルなのです。



しかし、ディープファンディングは最新の例に過ぎません。公共財の資金調達メカニズムに関する他のアイデアは以前にもありましたし、今後も増えるでしょう。allo.expert categorises はそれらをうまく分類している。根底にある目標は、少なくとも市場が私的財に資金を供給する方法に近い正確さ、公平さ、開放性をもって、公共財に資金を供給できる社会的装置を作ることだ。完璧である必要はない。結局のところ、市場そのものが完璧とはほど遠いのだから。結局のところ、市場そのものは完璧には程遠いのです。しかし、すべての人に利益をもたらすことに専念する一流のオープンソースプロジェクトの開発者が、受け入れがたい妥協をする必要を感じることなく、そうし続けることができるように、それは十分に効果的であるべきなのです。

今日、ワクチン、BCI、手首の筋肉への電気信号やアイトラッキングなどの「フリンジBCI」、抗老化薬、ハードウェアなど、d/accの対象領域における主要なプロジェクトのほとんどはプロプライエタリです。これは、上記の多くの分野で見られるように、国民の信頼を確保するという点で大きな欠点がある。また、競争力学（「私たちのチームはこの重要な業界で勝たなければならない！」）に焦点が移ってしまう。むしろ、超スマートなAIの世界で私たちを守るために、これらの技術を十分に速く進化させるという、より大きな競争へと焦点を移してしまう。このような理由から、強力な公共財への資金提供は、開放性と自由のための強力な触媒となりうる。これは、暗号コミュニティがd/accを支援できるもう1つの方法です。これらの資金調達メカニズムを真剣に探求し、自分たちの環境でうまく機能させる努力をすることで、オープンソースの科学技術がより広く採用される準備をするのです。

VI. 今後の展望

今後数十年は大きな挑戦が待ち受けています。

• 強力な新技術、特に強力な人工知能の波が急速に押し寄せていますが、そこには私たちが避けなければならない重要な落とし穴があります。「AIの超知能」の実現には5年かかるかもしれないし、50年かかるかもしれない。いずれにせよ、デフォルトの結果が必ずしもポジティブなものになるとは限らず、この記事や前回の記事にあるように、避けるべき落とし穴がいくつもある。

• 世界はますます非協力的になっている。かつては、少なくとも時には崇高な理念（国際主義、自由、人類共通......など）に従って行動しているように見えた多くの有力者が、今ではより公然と、より積極的に、個人や部族の利己主義を追求している。

しかし、これらの課題には明るい兆しもある。

• 現在、そして近い将来、AIは他のテクノロジーを構築するために使用することができ、ガバナンスの要素として使用することができます（例えば、ディープファイナンスや情報金融など）。また、それ自体が生産性をさらに向上させることができるBCIとも大いに関係がある。

• 大衆協調はかつてないほど可能になりました。インターネットとソーシャルメディアは協調の範囲を広げ、グローバル金融（暗号通貨を含む）はその力を強め、情報防衛とコラボレーションツールはその質を向上させ、そしておそらく近いうちに、人間対人間の形のBCIはその深みを増すことができるでしょう。

• 正式な認証、サンドボックス（ウェブブラウザ、Docker、Qubes、GrapheneOSなど）、セキュリティ・ハードウェア・モジュール、およびその他のテクノロジーは継続的に改善されており、より優れたサイバーセキュリティを可能にしています。

• あらゆる種類のソフトウェアを書くことは、2年前と比べてはるかに簡単になっています。

• ウイルスの作用メカニズムに関する最近の基礎研究、特にウイルス拡散に対する防御の最も重要な形態は空気感染であるという単純な理解は、生物防御を改善する方法について、より明確な道筋を指し示しています。

• 最近のバイオテクノロジーの進歩（例：CRISPRの進歩、バイオイメージング）は、防衛、長寿、超幸福、広範な新規生物学的仮説の探求、あるいは単に本当にクールなことを行うなど、あらゆる種類のバイオテクノロジーをより実現可能なものにしている。

• コンピューティングとバイオテクノロジーの進歩が組み合わさることで、微調整や監視、健康増進に使える合成生物学的ツールの出現が可能になりました。暗号技術のようなサイバー防衛技術は、個人化をより現実的なものにしました。

第二に、私たちが大切にしている原則の多くが、もはや保守的な少数派によって保持されていない今、世界中の誰もが参加できる広範な連合によって取り戻すことができる。これはおそらく、最近の世界的な政治的「再編成」の最大のメリットであり、利用する価値がある。暗号通貨はすでにこれを利用し、世界的な魅力を獲得している。

<

道具を手に入れるということは、生物学や環境に適応し、改善することができるということであり、d/accの「防衛」の部分は、他者の自由を侵害することなくこれを行うことができるということを意味している。自由多元主義の原則は、私たちがこれをどのように行うかについて、大きな多様性を持つことができることを意味し、人類共通の目標へのコミットメントは、それが達成されるべきことを意味する。

私たち人間は、最も明るい星であり続ける。明るい21世紀を築き、人類の生存、自由、自主性を守りながら星を目指すという課題は、困難なものです。しかし、私たちにはそれができると信じています。