Vitalik의 최신 문서: 1년 후 다시 D/Acc 방문하기

원제: d/acc: 1년 후

저자: 비탈릭, 이더리움 창립자, 0xjs@GoldenFinance 편집

약 1년 전, 저는 기술 낙관주의에 관한 글에서 기술에 대한 저의 열정과 기술이 가져올 수 있는 큰 혜택, 그리고 초지능 AI를 중심으로 한 몇 가지 구체적인 우려와 잘못된 방식으로 구축될 경우 파멸이나 돌이킬 수 없는 인간의 무능력에 대한 위험에 대해 설명한 적이 있습니다. 이 글의 핵심 아이디어 중 하나는 '탈중앙화되고 민주적인 차등 방어 가속(탈중앙화되고 민주적인 차등 방어 가속)'입니다. 기술을 가속화하되 차별화하여, 해를 입히는 능력을 향상시키기보다는 방어 능력을 향상시키는 기술에 집중하고, 모두를 대신하여 참과 거짓, 선과 악을 결정하는 한 명의 엘리트에게 권력을 집중하기보다는 권력을 분산시키는 기술에 집중해야 합니다. 국방은 중세 봉건주의의 영주와 성이 아니라 민주주의 국가인 스위스나 역사적으로 준아나키스트인 자미아(참고: 미국의 저명한 사회학자 제임스 C. 스콧이 동남아시아를 연구하며 개발한 개념으로 통치하기 어려운 국가를 의미)와 같은 것입니다.

그 후 1년 동안 제 개념과 아이디어는 많이 성숙해졌습니다. 이러한 아이디어에 대해 < href="https://80000hours.org/podcast/episodes/vitalik-buterin-techno-optimism/">80,000 Hours에서 이야기했는데 대부분 긍정적이고 비판적인 반응을 많이 보았습니다. . 작업 자체는 계속되고 있으며 결실을 맺고 있습니다. 검증 가능한 오픈 소스 백신progress, 사람들이 건강한 실내 공기의 가치를 점점 더 인식하고 있으며, 커뮤니티 노트는 계속해서 빛을 발하고 있으며, 정보 도구로서 예측 시장의 획기적인 해, 정부 ID 및 소셜 미디어의 ZK-SNARK (그리고 계정 추상화보호를 통해). 이더리움 지갑), 의학 및 BCI 분야의 오픈 소스 이미징 도구 등입니다. 가을에는 첫 번째 주요 d/acc 행사인 d/acc Discovery Day(d/aDDy)가 Devcon에서 하루 종일 열렸습니다. 생물학, 물리, 사이버, 정보 방어, 신경 기술 등 d/acc의 모든 분야에서 연사가 참여했습니다. 수년간 이러한 기술을 연구해 온 사람들은 서로의 작업에 대해 더 많이 알게 되었고, 외부인들은 이더리움과 암호화폐에 영감을 주는 동일한 가치가 더 넓은 세상에 적용될 수 있다는 더 큰 이야기를 더 많이 인식하게 되었습니다.

< /p>

이 글의 목차

• I. d/acc란 무엇이고 무엇이 아닌지

• II. 제3의 차원 생존과 번영

• III. 수수께끼: AI 보안, 촉박한 일정, 규제

• IV. d/acc에서 암호화폐의 역할

• < p>V. d/acc와 공공재 금융

• VI. 미래 전망

I. d/acc란 무엇이고 무엇이 아닌가

2042년입니다. 여러분은 언론에서 도시에 새로운 전염병이 창궐할 수 있다는 보도를 접했습니다. 사람들은 모든 동물 질병의 변이에 대해 흥분하지만, 대부분은 도움이 되지 않습니다. 앞서 두 번의 실제 잠재적 전염병은 폐수 모니터링과 소셜 미디어의 오픈 소스 분석을 통해 매우 일찍 발견되어 확산이 완전히 차단되었습니다. 하지만 이번에는 예측 시장에서 최소 10,000건의 사례가 발생할 확률이 60퍼센트에 달한다고 하니 걱정이 더 커질 수밖에 없습니다.

어제 바이러스의 염기서열이 확인되었습니다. 한 번의 호흡 또는 실내 공기에 15분간 노출된 상태에서 신종 바이러스를 감지할 수 있는 휴대용 공기 테스터의 소프트웨어 업데이트가 출시되었습니다. 전 세계 모든 현대 의료 시설에서 찾을 수 있는 장비를 사용하여 백신을 생산하기 위한 오픈 소스 지침과 코드가 몇 주 안에 제공될 예정입니다. 대부분의 사람들은 아직 아무런 조치를 취하지 않은 채 주로 공기 여과와 환기를 통해 스스로를 보호하는 데 의존하고 있습니다. 내비게이션, 레스토랑 및 활동 추천과 같은 작업을 처리하는 오픈 소스 현지 운영 개인 비서 AI는 실시간 공기 측정기와 이산화탄소 데이터를 고려하여 가장 안전한 장소만 추천합니다. 데이터는 수천 명의 참여자와 기기에서 제공되며, 데이터 유출이나 다른 목적으로의 오용 위험을 최소화하기 위해 ZK-SNARK 및 차등 개인정보 보호 기능을 사용합니다(이러한 데이터 세트에 데이터를 제공하고 싶다면 암호화된 기기가 실제로 작동하는지 확인할 수 있는 다른 개인 비서 AI가 있습니다! (공식적인 증명).

두 달 후, 발병은 사라졌습니다. 60%의 사람들이 공기 검사기에서 신호음이 울려 바이러스가 있음을 알려주면 마스크를 착용하고, 개인 검사에서 양성이 나오면 집에 머무르는 기본 프로토콜을 따랐고, 이는 (수동적이고 무거운 공기 여과 덕분에 크게 감소했던) 전염률을 1 이하로 끌어내리는 데 충분했던 것 같습니다. 모델링에 따르면 코로나19는 20년 전보다 5배나 더 심각할 수 있지만, 현재는 문제가 되지 않습니다.

Devcon d/acc Day

데브콘에서 가장 긍정적인 시사점 중 하나는 d/acc 이벤트의 가장 긍정적인 시사점 중 하나였습니다. acc 행사에서 가장 긍정적인 점 중 하나는 다양한 분야의 사람들을 한데 모아 서로의 작업에 진정으로 관심을 갖도록 하는 데 성공했다는 점입니다.

'다양성' 행사를 만들기는 쉽지만, 서로 다른 배경과 관심사를 가진 사람들이 서로 진정으로 소통할 수 있도록 하는 것은 어렵습니다. 저는 중학교와 고등학교 때 긴 오페라를 강제로 보았던 기억이 아직도 생생한데, 개인적으로 지루하다고 느꼈습니다. 그렇지 않으면 컴퓨터 과학을 배우지 못한 게으름뱅이가 되기 때문에 '감상해야' 한다는 것을 알지만, 콘텐츠에 더 진정성 있게 공감하지 못했습니다. D/Ac 데이는 전혀 그런 느낌이 들지 않습니다. 사람들이 실제로 다양한 분야의 다양한 유형의 일에 대해 즐겁게 배우는 것처럼 느껴집니다.

우리가 지배, 감속, 파괴에 대한 더 밝은 대안을 만들려면 이런 종류의 광범위한 연합 구축이 필요합니다. d/acc는 성공하고 있는 것으로 보이며, 그것만으로도 아이디어의 가치에 대해 많은 것을 말해줍니다.

d/acc의 핵심 아이디어는 탈중앙화되고 민주적인 차등 방어 가속이라는 간단합니다. 공격/방어 균형을 방어 쪽으로 이동시키고 중앙화된 기관에 더 많은 권한을 이양하는 데 의존하지 않는 기술을 구축하는 것입니다. 이 두 가지는 본질적으로 연결되어 있습니다. 모든 종류의 분권적, 민주적 또는 자유주의적 정치 구조는 방어가 쉬울 때 번성하고 방어가 어려울 때 가장 큰 도전을 받게 되며, 이 경우 결과는 만인의 만인에 대한 전쟁으로 이어져 강자에 의한 지배의 균형이 정점에 달할 가능성이 더 높습니다.

D/Acc의 핵심 원칙은 여러 분야에 적용됩니다.

내 작년 포스팅의 차트 "나의 기술 낙관주의"

분산, 방어, 가속주의를 동시에 추구하는 것의 중요성을 이해하는 한 가지 방법은 이 세 가지를 모두 포기했을 때 얻을 수 있는 철학과 대조해 보는 것입니다.

• 가속주의는 분권화하되 '차별화된 방어' 부분은 신경 쓰지 마세요. 기본적으로 e/acc가 되되, 탈중앙화하세요. 이 접근 방식을 취하는 많은 사람들이 있으며, 일부는 자신을 d/acc라고 표시하지만 자신의 초점을 "공격적"이라고 설명하지만, "탈중앙화된 AI"와 유사한 주제에 대해 더 온건한 방식으로 흥분하지만 제 생각에는 관심이 없는 사람들도 많이 있습니다.
  제 생각에는 그들은 "방어"측면에 충분한 관심을 기울이지 않습니다.
  이 접근 방식은 여러분이 걱정하는 특정 부족의 글로벌 인간 독재의 위험은 피할 수 있을 것 같지만, 공격에 유리한 환경에서 재앙이 발생하거나 누군가 자신을 보호자로 내세워 영구적으로 자리를 잡을 수 있는 근본적인 구조적 문제는 해결하지 못합니다. AI의 특정 사례에서는 인간 전체가 AI에 비해 무력화될 위험에 대해서도 잘 다루지 않습니다.

• 차별적 방어 가속화를 추구하지만 '탈중앙화와 민주화'에 대해서는 신경 쓰지 않습니다. 안보를 위해 중앙 집중식 통제를 수용하는 것은 소수의 사람들에게 영구적인 매력을 가지고 있으며, 독자들은 많은 사례와 그 단점에 대해 잘 알고 있을 것입니다. 최근에는 극단적인 중앙 집중식 제어만이 기술이 극단으로 치닫는 미래에 대한 유일한 해결책이 될 수 있다는 우려도 있습니다. "모든 사람이 '자유 태그'를 착용하고, 오늘날의 친숙한 웨어러블의 보다 제한된 버전인 '자유 태그'를 착용하는 가상의 시나리오를 살펴보세요. 여러 국가에서 감옥의 대안으로 사용되는 발목 태그와 같은 오늘날의 친숙한 웨어러블 감시 장치의 연속 ...... 암호화된 비디오와 오디오가 지속적으로 업로드되고 기계에 의해 실시간으로 해석됩니다." 그러나 중앙 집중식 제어의 범위가 있습니다. 일반적으로 무시되지만 여전히 해로운 중앙 집중식 통제의 약한 버전은 생명공학(예: 식품, 백신)의 공개 조사에 대한 저항과 이러한 저항을 허용하는 비공개 소스 규범입니다.
  물론 이러한 접근 방식의 위험은 중앙 집중화 자체가 위험의 원인이 될 수 있다는 점입니다. 우리는 여러 주요 세계 정부가 자금을 지원한 기능적으로 획득한 연구가 발병의 원인이었을 수 있고, 중앙집권적 인식론으로 인해 WHO가 수년간 뉴 크라운이 공기 중 전염된다는 사실을 인지하지 못했으며, 의무적인 사회적 격리 및 백신 접종 요구가 수십 년간 지속될 수 있는 정치적 반발을 초래한 뉴 크라운 발병에서 이를 목격했습니다. AI 또는 기타 고위험 기술과 관련된 모든 위험에서도 비슷한 상황이 발생할 수 있습니다. 탈중앙화 접근 방식은 중앙 집중화 자체로 인한 위험에 더 잘 대처할 수 있습니다.

• 탈중앙화는 방어하지만 가속화는 염두에 두지 않는다 - 기본적으로 기술 발전이나 경기 침체를 늦추려고 노력합니다.
  이 전략의 도전은 두 가지입니다. 첫째, 전반적으로 기술 및 경제 성장은 인류에게 큰 혜택을 가져왔으며, 이를 지연시키면 추정하기 어려운 추정 가능한 비용을 초래합니다. 둘째, 전체주의가 아닌 세계에서는 진보하지 않는 것이 불안정합니다. 가장 많이 '속임수'를 쓰고 합리적으로 보이는 진보 방법을 찾는 사람이 앞서 나갈 것입니다. 환원주의 전략은 경우에 따라 어느 정도 효과가 있을 수 있습니다. 미국 음식보다 건강에 좋은 유럽 음식이 한 예이고, 지금까지 핵 비확산에 성공한 것이 또 다른 예입니다. 하지만 영원히 통할 수는 없습니다.

우리는 다음과 같이 희망합니다:

• 세계의 많은 지역이 부족화되고 있는 이 시대에, 우리는 무언가를 만드는 것이 아니라 원칙 위에 서기를 원합니다. -대신 세상을 더 안전하고 더 나은 곳으로 만들기 위한 구체적인 무언가를 구축할 것입니다.

• 기하급수적인 기술 발전은 세상이 매우 이상한 곳이 될 것이며, 우주에서 인간의 '발자국'이 계속 커질 것임을 인정하고, 취약한 동물과 환경, 환경을 보호하는 능력을 향상시켜야 합니다. 취약한 동물, 식물, 사람을 위험으로부터 보호하는 능력을 향상시켜야 하며, 이를 위해서는 앞으로 나아가는 것만이 유일한 방법입니다.

• "선한 사람(또는 선한 인공지능)이 책임진다"고 가정하기보다는 우리를 안전하게 지켜주는 기술을 개발하는 것입니다. 이를 위해 우리는 파괴에 사용될 때보다 구축과 보호에 사용될 때 더 효과적인 자연스러운 도구를 개발합니다.

d/acc를 생각하는 또 다른 방법은 2000년대 후반 유럽 해적당 운동의 틀 중 하나인 임파워먼트를 되돌아보는 것입니다.

< strong>우리의 목표는 우리 자신의 운명을 형성하는 능력에 대한 (개인 시민으로서 타인, 정부 또는 초지능 로봇으로부터의) 적극적인 간섭을 피하는 부정적인 자유와 이를 위한 지식과 자원을 확보할 수 있는 적극적 자유를 의미합니다. 이는 스튜어트 브랜드가 '도구에 대한 접근성'에 초점을 맞춘 것, 존 스튜어트 밀이 인간 진보의 핵심 요소로서 교육과 자유를 강조한 것, 그리고 인간 진보의 핵심 요소로서 '마음의 자유'의 중요성 등을 포함한 수 세기에 걸친 고전적 자유주의 전통을 반영하는 것입니다. 존 스튜어트 밀이 인류 진보의 핵심 요소로 교육과 자유를 강조한 것, 그리고 아마도 벅민스터 풀러가 글로벌 솔루션의 과정이 참여적이고 널리 보급되기를 바랐던 것 역시 같은 맥락에서 이해할 수 있습니다. 21세기의 기술 환경을 고려할 때, 우리는 이러한 목표를 달성하기 위한 방법으로 d/acc를 생각할 수 있습니다.

두 번째와 세 번째 차원: 생존과 발전

작년에 쓴 글에서 d/acc는 특히 물리적, 생물학적, 사이버, 정보 방어와 같은 국방 기술에 초점을 맞췄습니다. 그러나 탈중앙화된 방어 기술만으로는 세상을 더 나은 곳으로 만들기에는 충분하지 않습니다. 인류가 새롭게 발견한 탈중앙화와 보안을 통해 달성할 수 있는 것에 대한 미래 지향적이고 긍정적인 비전도 필요합니다.

작년의 글에서는 두 곳에서 긍정적인 시각을 담았습니다.

1. 초지능이 직면한 도전에 대응하여 저는 권력을 빼앗지 않고 초지능으로 가는 길을 제안했습니다(저에게는 원래와는 거리가 멀지만):

< 인터페이스 및 기타 도구를 통해 AI와 인간 사이에 점점 더 긴밀한 피드백을 생성

2. 시간이 지나면 최종적으로는 초지능이 기계와 인간의 긴밀한 결합이 될 것입니다.

그러나 이 두 가지는 "기본 수준에서 더 민주적이고 국방 친화적인 세상을 만들기 위한 몇 가지 아이디어가 있고, 초지능을 달성할 수 있는 방법에 대한 몇 가지 관련 없는 아이디어가 있다"는 D/Acc의 주장과는 거리가 멀어 보이기까지 합니다.

그러나 저는 위에서 설명한 '방어적'이고 '진보적'인 D/Acc 기술 사이에는 실제로 매우 중요한 연결고리가 있다고 생각합니다. 작년 글의 d/acc 차트를 확장하여 이 축을 차트에 추가하고(다시 "생존과 번영"으로 레이블을 바꿔 보겠습니다) 어떤 일이 일어나는지 살펴봅시다.

모든 필드에 걸쳐 일관된 패턴이 있습니다. 한 분야에서 '생존'하는 데 도움이 되는 과학, 아이디어, 도구는 '번영'하는 데 도움이 되는 과학, 아이디어, 도구와 밀접한 관련이 있다는 일관된 패턴이 모든 분야에 걸쳐 있습니다. 다음은 몇 가지 예입니다.

• 신코로나바이러스 퇴치를 위한 최근 연구의 대부분은 체내 바이러스의 지속성에 초점을 맞추고 있으며, 이는 장시간의 네오코로나가 심각한 이유 중 하나입니다. 또한 최근에는 바이러스 지속성이 알츠하이머병의 원인이 될 수 있다는 징후가 나타나고 있으며, 이것이 사실이라면 모든 조직 유형에서 바이러스 지속성을 해결하는 것이 노화 문제를 해결하는 열쇠가 될 수 있습니다.

• 오픈워터가 미세 혈전, 바이러스 지속성, 암을 효과적으로 치료하기 위해 개발 중인 저비용 마이크로 이미징 도구 중 일부는 BCI에도 사용될 수 있습니다.

매우 유사한 아이디어로 인해 커뮤니티 노트와 같이 매우 불리한 환경을 위해 구축된 소셜 도구가 만들어졌습니다. 와 같이 합리적으로 협력적인 환경을 위해 구축된 소셜 도구와 pol.is.

• 예측 시장은 고도로 협력적인 환경과 고도로 적대적인 환경 모두에서 유용합니다.

• 개인정보를 보호하면서 데이터를 계산하는 영지식 증명과 유사한 기술은 과학과 같은 유용한 작업에 사용할 수 있는 데이터의 양을 늘리고 프라이버시를 향상시킵니다.

• 태양 에너지와 배터리는 차세대 청정 경제 성장의 물결을 주도하는 데 큰 역할을 할 뿐만 아니라 탈중앙화와 물리적 복원력에도 탁월합니다.

이 외에도 주제 영역 간에는 중요한 상호 의존성이 있습니다.

• BCI는 우리의 생각과 의도를 더 자세히 전달할 수 있기 때문에 정보 방어 및 협업 기술로서 중요합니다.

BCI 는 로봇과 의식 간의 커뮤니케이션뿐만 아니라 의식과 로봇 및 의식 간의 커뮤니케이션도 가능합니다. 이는 Pluality의 BCI 가치에 대한 생각을 반영합니다.

• 많은 생명공학 기술은 정보 공유에 의존하며, 많은 경우 사람들은 정보가 하나의 애플리케이션과 하나의 애플리케이션에만 사용될 것이라는 확신이 있을 때만 기꺼이 정보를 공유합니다. 이는 개인정보 보호 기술(예: ZKP, FHE, 난독화 ......)

• 협업 기술은 다른 기술 분야에 대한 자금 조율에 사용될 수 있습니다

세 가지 난제: AI 보안, 촉박한 일정, 규제

사람마다 AI 스케줄이 매우 다릅니다. 2023년 몬테네그로 주잘루의 차트.

작년에 제 기사에 대한 가장 설득력 있는 반론은 AI 보안 커뮤니티의 비판이었습니다. "물론 반세기 동안 강력한 AI를 개발할 시간이 있다면 이 모든 좋은 것들을 구축하는 데 집중할 수 있습니다. 하지만 실제로는 AGI를 개발하는 데 3년, 초지능을 개발하는 데 3년이 더 걸릴 것입니다. 따라서 세상이 파괴되거나 돌이킬 수 없는 함정에 빠지지 않으려면 좋은 일만 가속화할 수 없고 나쁜 일도 늦춰야 하며, 이는 강력한 규제를 통과시키는 것을 의미하며, 이는 권력자들을 당황하게 할 수 있습니다." 작년에 올린 글에서 저는 '나쁜 것의 속도를 늦추기 위한' 구체적인 전략이 아니라 위험한 형태의 초지능을 구축하지 말자는 막연한 요구만 했습니다. 따라서 여기서 직접 질문에 답할 필요가 있습니다. 만약 우리가 AI 위험이 높고 시간표가 5년 더 걸릴 수 있는 가장 불편한 세상에 살고 있다면 어떤 규제를 지지할까요?

첫째, 새로운 규제에 대한 주의

작년에 캘리포니아에서 가장 눈에 띄는 AI 규제 법안은 SB-1047로, 가장 강력한 모델(훈련에 1억 달러 이상, 미세 조정에 1천만 달러 이상 소요되는 모델) 개발자는 출시 전에 여러 가지 안전 테스트 조치를 취해야만 했습니다. 또한 AI 모델 개발자가 충분히 주의를 기울이지 않을 경우 책임을 지도록 하고 있습니다. 많은 비평가들은 이 법안을 '오픈 소스에 대한 위협'으로 보고 있지만, 저는 비용 기준이 가장 강력한 모델에만 영향을 미치기 때문에 LLama3조차도 이 기준 이하로 떨어질 가능성이 높다는 점에서 동의하지 않습니다. 하지만 돌이켜보면 이 법안에는 더 큰 문제가 있다고 생각합니다. 대부분의 규제와 마찬가지로 오늘날의 상황에 지나치게 부합한다는 것입니다. 훈련 비용에 대한 우려는 새로운 기술 앞에서 희박해졌습니다. 가장 최신의 최첨단 Deepseek v3 모델은 훈련 비용이 600만 달러에 불과하며, o1과 같은 최신 모델에서는 비용이 훈련에서 벗어나 보다 일반화된 추론으로 이동하고 있습니다.

둘째, AI 초지능 파괴 시나리오를 실제로 책임질 가능성이 가장 높은 주체는 사실 군대입니다. 지난 반세기 동안(그리고 그 이후에도) 생물보안 분야에서 보았듯이 군대는 끔찍한 일을 기꺼이 저지르고 실수를 저지르기 쉽습니다. 인공지능의 군사적 활용은 빠르게 발전하고 있습니다(우크라이나, 가자 지구 참조). 정부가 통과시킨 보안 규정은 기본적으로 군대는 물론 군대와 긴밀히 협력하는 기업도 면제됩니다.

그러나 이러한 주장은 포기하고 아무런 조치를 취하지 말아야 할 이유가 아닙니다. 오히려 이러한 논의를 지침으로 삼아 이러한 우려를 최소화하는 규칙을 마련할 수 있습니다.

전략 1: 책임

다른 사람의 행동으로 인해 소송 가능한 피해가 발생하면 소송을 제기할 수 있습니다. 이는 군대 및 기타 '법 위에 있는' 행위자의 위험 문제를 해결하지는 못하지만, 과잉 대응을 피하는 매우 일반적인 방법이며, 이러한 이유로 자유주의 성향의 경제학자들이 지지하는 경우가 많습니다.

지금까지 고려된 주요 책임 대상은 다음과 같습니다.

• 사용자 - AI를 사용하는 사람들

• 디플로이더 -사용자에게 AI 서비스를 제공하는 중개자

• 개발자 - AI를 구축하는 사람들

사용자에게 책임을 묻는 것이 인센티브와 가장 잘 부합하는 것으로 보입니다. 모델이 개발되는 방식과 궁극적으로 사용되는 방식 사이의 연관성은 종종 불분명하지만, AI가 어떻게 사용되는지는 사용자가 정확하게 결정합니다. 사용자에게 책임을 묻는 것은 AI가 새로운 형태의 자립형 지능형 생명체를 만드는 것보다 인간의 마음을 위한 기계 장치를 만드는 데 집중하는 것이 올바른 방향이라고 생각하는 방향으로 개발되도록 강력한 압력을 가할 수 있습니다. 전자는 정기적으로 사용자의 의도에 반응하므로 사용자가 원하지 않는 한 치명적인 행동으로 이어지지 않습니다. 후자는 통제 불능 상태가 되어 전형적인 'AI의 폭주' 시나리오를 만들 가능성이 가장 높습니다. 책임을 가능한 한 최종 사용처에 가깝게 배치하는 것의 또 다른 이점은 책임으로 인해 사람들이 다른 유해한 행동(예: 비공개 소스, KYC 및 감시, 사용자를 은밀하게 제한하려는 국가/기업의 공모, 탈은행, 전 세계 대부분 차단)을 하게 될 위험을 최소화한다는 것입니다.

사용자를 전적으로 비난하는 것에 반대하는 대표적인 주장은 사용자가 돈이 많지 않거나 익명의 일반인일 수 있으며, 치명적인 피해에 대해 실제로 비용을 지불할 수 있는 사람은 아무도 없다는 것입니다. 이 주장은 과장된 것일 수 있습니다. 일부 사용자가 너무 작아서 책임을 지지 않는다고 해도 평균적인 AI 개발자의 고객에게는 해당되지 않으므로 AI 개발자는 여전히 사용자가 높은 책임 위험에 노출되지 않도록 보장하는 제품을 개발하도록 인센티브를 받을 것입니다. 그렇지만 이는 여전히 해결해야 할 유효한 주장입니다. 파이프라인에 있는 사람들이 적절한 주의를 기울일 수 있도록 인센티브를 제공해야 하며, 배포자와 개발자 모두 여전히 모델 보안에 큰 영향을 미치는 쉬운 대상입니다.

디플로이러의 책임은 합리적으로 보입니다. 일반적인 우려는 오픈 소스 모델에는 적용되지 않는다는 것이지만, 특히 가장 강력한 모델이 오픈 소스일 가능성이 높기 때문에 이는 관리 가능한 것으로 보입니다(그리고 오픈 소스가 될 경우 배포자 책임이 궁극적으로 매우 유용하지는 않지만 큰 해를 끼치지는 않을 것입니다). 개발자 책임에 대해서도 동일한 우려가 있지만(오픈 소스 모델에서는 처음에 허용되지 않았던 기능을 수행하도록 모델을 미세 조정해야 하지만), 동일한 반론이 적용됩니다. 일반적으로 제어에 '세금'을 부과하는 것은 "제어하지 않는 것을 만들거나 제어하는 것을 만들 수 있지만, 제어하는 것을 만들면 그 제어의 20%를 우리의 목적을 위해 사용해야 한다!"는 원칙입니다. '라고 주장하는데, 이는 법률 시스템으로서는 합리적인 입장인 것 같습니다.

잘 검토되지 않은 것으로 보이는 아이디어는 적절한 자원을 확보할 수 있는 더 나은 위치에 있는 파이프라인의 다른 플레이어에게 책임을 전가하는 것입니다. D/Acc에 매우 유리할 수 있는 아이디어는 AI가 어떤 치명적이고 해로운 행동을 실행하는 동안 해킹 등을 통해 장악한 디바이스의 소유자나 운영자에게 책임을 전가하는 것입니다. 이는 전 세계의 (특히 컴퓨터 및 생물학적) 인프라를 가능한 한 안전하게 만들기 위해 열심히 노력하는 매우 광범위한 인센티브를 창출할 수 있습니다.

전략 2: 산업 등급 하드웨어에 글로벌 '소프트 일시 중지' 버튼

책임의 규칙보다 더 '강력한' 무언가가 필요하다고 확신한다면, 이것이 바로 제가 추구하는 것입니다. 목표는 중요한 시기에 1~2년 동안 전 세계적으로 사용 가능한 컴퓨팅 파워의 양을 약 90~99%까지 줄여 인류가 더 많은 시간을 준비할 수 있도록 하는 것입니다. 1~2년의 가치는 아무리 강조해도 지나치지 않습니다. 안일하게 대처할 경우 1년간의 '전시 모드'가 100년의 노력과 맞먹을 수 있기 때문인데요, 이 '전시 모드'의 가치는 쉽게 무시할 수 없습니다. 하드웨어 위치 등록 및 확인을 의무화하는 구체적인 제안을 포함하여 '일시 중지'를 구현하는 방법이 모색되었습니다.

더 발전된 접근 방식은 영리한 암호화 기법을 사용하는 것입니다. 예를 들어, 산업 등급(소비자 등급은 아님)의 AI 하드웨어는 매주 주요 국제 기관(적어도 하나의 비군사 관련 기관 포함)으로부터 3/3의 서명을 받아야만 계속 작동하는 신뢰할 수 있는 하드웨어 칩으로 생산될 수 있습니다. 이러한 서명은 기기와 독립적이므로(필요한 경우 블록체인에 게시되었다는 영지식 증명을 요청할 수도 있습니다), 다른 모든 기기를 승인하지 않고 특정 기기의 계속 작동을 승인할 수 있는 실질적인 방법은 없습니다.

이점은 극대화하고 위험은 최소화한다는 측면에서 "체크박스"처럼 느껴집니다.

• 초지능에 가까운 인공지능이 경고 신호를 받으면 유용한 기능입니다. AI가 치명적인 혼란을 일으킬 수 있는 일을 하기 시작한다면, 우리는 더 천천히 전환하고 싶을 것입니다.

• 소프트 일시 중지 기능만 있어도 개발자는 그런 결정적인 순간이 오기 전까지 큰 피해를 입지 않을 것입니다.

• 산업 규모의 하드웨어에 초점을 맞추고 90~99%만 목표로 하면 소비자 노트북에 스파이 칩이나 종료 스위치를 설치하거나 소규모 국가에 극단적인 조치를 강요하는 것과 같은 반유토피아적 관행을 피할 수 있습니다.

• 하드웨어에 초점을 맞추는 것은 기술 변화에 매우 효과적인 것으로 보입니다. 여러 세대의 AI에서, 특히 새로운 패러다임의 초기 버전에서는 가용 컴퓨팅 성능에 따라 품질이 크게 좌우되는 것을 보았습니다. 따라서 가용 컴퓨팅 성능을 10~100배만 줄여도 통제 불능의 초지능 AI가 이를 막으려는 인간과의 치열한 전투에서 승패를 쉽게 결정지을 수 있습니다.

• 서명을 위해 일주일에 한 번씩 온라인에 접속해야 하는 것 자체가 번거롭기 때문에 소비자 하드웨어로 프로그램을 확장하는 데 큰 부담이 될 수 있습니다.

• 무작위 검사를 통해 확인할 수 있으며, 하드웨어 수준에서 확인하면 사용자별 면제를 어렵게 만들 수 있습니다(기술적으로가 아니라 법적으로 강제된 셧다운에 기반한 방법은 이러한 전부 아니면 전무 속성이 없기 때문에 군대 등에 대한 예외로 미끄러질 가능성이 더 높습니다)

하드웨어 규제는 이미 심각하게 고려되고 있습니다. 비록 일반적으로 수출 통제의 틀을 통해 고려되지만, 이는 본질적으로 "한쪽은 신뢰하지만 다른 쪽은 신뢰하지 않는다"는 철학입니다. 레오폴드 아셴브레너는 미국이 결정적인 우위를 점한 다음 중국이 허용되는 박스 수를 제한하는 협정에 서명하도록 강요해야 한다고 주장했습니다. 이 접근 방식은 다극 경쟁과 중앙 집중화의 함정을 결합할 수 있어 위험해 보입니다. 사람을 제한해야 한다면 한 쪽이 다른 쪽을 지배하려고 하기보다는 모든 사람을 동등하게 제한하고 이를 조직화하기 위해 협력하는 것이 더 낫다고 생각합니다.

AI 리스크의 D/A/C 기술

이 두 가지 전략(책임과 하드웨어 일시 중지 버튼)에는 모두 구멍이 있으며, 이는 일시적인 임시방편일 뿐이라는 것이 분명합니다. T시점에 슈퍼컴퓨터로 할 수 있는 일이라면 T+5년 후에는 노트북으로 할 수 있을 가능성이 높습니다. 따라서 우리는 시간을 벌기 위해 더 안정적인 무언가가 필요합니다. 많은 d/acc 기술이 이와 관련되어 있습니다. 인공지능이 세상을 장악한다면 어떤 역할을 할 수 있을까요? 이런 식으로 d/acc 기술의 역할을 살펴볼 수 있습니다.

• 우리 컴퓨터를 해킹 → 사이버 방어 → 사이버 방어

• 슈퍼 전염병을 유발 → 바이오 방어

• (믿거나 서로 불신함으로써) 우리를 설득 → 정보 방어

위에서 간략히 언급했듯이, 책임 규정은 전 세계적으로 이러한 방어 수단을 채택하고 이를 진지하게 받아들이도록 장려하는 데 매우 효과적이기 때문에 자연스러운 D/Acc 친화적 규제 형태입니다. 최근 중국 대만이 허위 광고에 대한 책임을 실험하고 있는데, 이는 책임 규정을 통해 정보 방어 수단을 장려하는 사례로 볼 수 있습니다. 모든 곳에 책임을 부과하는 데 지나치게 열중해서는 안 되며, 소송에 대한 두려움 없이 혁신에 참여할 수 있는 평범한 자유의 이점을 기억해야 하지만 보안을 더 강력하게 추진하고자 할 때 책임이 매우 유연하고 효과적일 수 있다는 점을 잊지 말아야 합니다.

넷째: 탈중앙화 금융에서 암호화폐의 역할

바이오보안, BCI, 협력적 담론 도구 등 탈중앙화 금융의 대부분은 일반적인 블록체인 주제와는 거리가 멀어 보입니다. 하지만 암호화폐와 d/acc 사이에는 몇 가지 중요한 연관성이 있다고 생각합니다.

• d/acc는 암호화폐의 기본 가치(탈중앙화, 검열 저항, 개방적인 글로벌 경제 및 사회)를 다른 기술 영역으로 확장한 것입니다.

• 암호화폐 사용자들은 자연스러운 얼리어답터이며 동일한 가치를 공유하기 때문에 암호화폐 커뮤니티는 d/acc 기술의 자연스러운 얼리어답터입니다. 커뮤니티(이벤트, 팝업 등 온라인과 오프라인 모두)에 대한 높은 가치와 이러한 커뮤니티가 단순히 서로 대화하는 것이 아니라 실제로 중요한 일을 하고 있다는 사실은 암호화폐 커뮤니티를 개인이 아닌 집단(예: 정보 방어 및 바이오 방어의 상당 부분)을 대상으로 하는 d/acc 기술의 인큐베이터 및 테스트베드로 특히 매력적으로 만듭니다. 크립토인들은 함께 일을 합니다.

• 더 강력하고 탈중앙화된 금융, 거버넌스, 소셜 미디어 인프라 구축을 위한 블록체인, 프라이버시를 위한 영지식 증명 등 많은 암호화 기술을 d/acc 주제에 적용할 수 있습니다. 오늘날 가장 큰 예측 시장의 대부분은 블록체인을 기반으로 구축되어 있으며, 점점 더 정교하고 탈중앙화되고 민주화되고 있습니다.

• 공식 검증, 컴퓨터 소프트웨어 및 하드웨어 보안, 적대적 거버넌스 기법 등 암호화폐 프로젝트에 유용할 뿐만 아니라 탈중앙화/암호화 목표 달성의 핵심인 암호화폐 관련 기술에 대해 협력할 수 있는 윈윈 기회도 존재합니다. 이러한 기술들은 이더 블록체인, 지갑, DAO를 더욱 안전하고 견고하게 만들며, 잠재적으로 초지능 AI를 포함한 사이버 공격에 대한 취약성을 줄이는 등 중요한 문명 방어 목표도 달성할 수 있습니다.

커서브는 완전 동형 암호화(FHE )를 사용하여 개인 정보를 보호하면서 다른 사용자와 공통 관심 영역을 식별할 수 있는 애플리케이션으로, 치앙마이에 위치한 Zuzalu의 여러 지사 중 하나인 Edge City에서 FHE를 사용하고 있습니다. 치앙마이에 위치한 Zuzalu의 여러 지점 중 하나인 Edge City에서 이 기술을 사용하고 있습니다.

이러한 직접적인 교차점 외에도 또 다른 중요한 공통점이 있는데, 바로 자금 조달 메커니즘입니다.

V. D/Acc와 공공재 자금 조달

저의 지속적인 관심사 중 하나는 많은 사람들에게 가치가 있지만 자연적으로 실행 가능한 비즈니스 모델이 없는 프로젝트인 공공재에 자금을 조달하는 더 나은 메커니즘을 마련하는 것이었습니다. 이 분야에서 저는 세컨더리 파이낸싱과 깃코인 펀딩, 레트로, PGF, 그리고 최근에는 딥 펀딩에 기여한 바 있습니다.

공공재라는 개념에 대해 회의적인 시각을 가진 사람들이 많습니다. 이러한 회의론은 보통 두 가지 출처에서 비롯됩니다.

1. 역사적으로 공공재는 사회와 경제에 대한 엄격한 중앙 계획과 정부의 개입을 위한 구실로 사용되어 왔다는 것이 사실입니다.

2. 공공재에 대한 자금 지원은 엄격성이 부족하고, 사회적 기대 편향(실제보다 좋은 것처럼 들리는)에 기반하며, 사회적 게임을 할 수 있는 내부자에게 유리하다고 널리 믿어지고 있습니다.

이것들은 중요한 비판이며, 좋은 비판입니다. 그러나 저는 강력한 탈중앙화 공공재 금융이 d/acc 비전의 핵심 목표 중 하나(중앙 통제 지점의 최소화)가 본질적으로 많은 기존 비즈니스 모델을 좌절시킬 것이기 때문에, 강력한 탈중앙화 공공재 금융이 중요하다고 생각합니다. 오픈 소스를 기반으로 성공적인 비즈니스를 구축하는 것은 가능하지만(많은 Balvi 수혜자들이 그렇게 하고 있습니다), 경우에 따라서는 중요한 프로젝트에 추가적인 지속적인 지원이 필요할 정도로 어렵습니다. 따라서 우리는 어려운 일을 해야 하고 이 두 가지 비판을 모두 해결하는 방식으로 공공재에 자금을 조달하는 방법을 찾아야 합니다.

첫 번째 문제에 대한 해결책은 본질적으로 신뢰할 수 있는 중립성과 분권화입니다. 중앙집중식 계획은 잠재적으로 악용될 수 있는 엘리트에게 통제권을 부여하고, 현재 상황에 지나치게 맞춰져 시간이 지남에 따라 점점 더 비효율적인 경향이 있기 때문에 문제가 됩니다. 제2금융 및 이와 유사한 메커니즘은 가장 신뢰할 수 있는 중립적이고 (구조적으로나 정치적으로) 탈중앙화된 방식으로 공공재에 자금을 조달합니다.

두 번째 문제는 더 까다롭습니다. 세컨더리 파이낸싱에 대한 일반적인 비판은 프로젝트 자금 제공자가 대중 홍보에 많은 에너지를 소비해야 하는 인기 경쟁이 되기 쉽다는 점입니다. 또한, 최종 사용자 앱과 같이 "사람들 앞에" 있는 프로젝트는 자금을 지원받지만, "네브라스카에 있는 사람들이 관리하는 종속성"과 같이 좀 더 숨겨진 프로젝트는 자금을 전혀 지원받지 못합니다. 옵티미즘의 레트로 펀딩은 소수의 전문 배지 보유자에게 의존하기 때문에 인기 경쟁의 영향은 줄어들지만 배지 보유자와의 긴밀한 개인적 관계를 유지하는 데 따른 사회적 영향은 커집니다.

딥 파이낸싱은 이 문제를 해결하기 위한 최근의 노력입니다. 딥 파이낸싱에는 두 가지 주요 혁신이 있습니다.

1. 의존도 맵. 각 배심원에게 글로벌한 질문("아이템 A의 인류에 대한 가치는 무엇입니까?")을 하는 대신에 대신 국지적인 질문("결과 C에 대해 항목 A와 항목 B 중 어느 것이 더 가치 있는가? 얼마나 더 가치가 있을까요?"). 대신 부분적인 질문("프로젝트 A와 프로젝트 B 중 어느 것이 결과 C에 더 가치가 있습니까?")을 하세요. 인간은 글로벌한 질문에 답하는 데 능숙하지 않다는 것은 잘 알려져 있습니다. 한 유명한 연구에서 새 N마리를 구하기 위해 얼마를 지출할 의향이 있느냐는 질문에 응답자들은 N=2,000, N=20,000, N=200,000에 대해 약 80달러라고 대답했습니다. 지역적인 문제는 다루기가 더 쉽습니다. 그런 다음 각 프로젝트에 대해 어떤 다른 프로젝트가 성공에 어느 정도 기여했는지 '의존성 그래프'를 유지하여 지역적 답변을 글로벌 답변으로 통합했습니다.

2. 인공지능은 인간의 판단을 증류한 것입니다. 배심원단은 모든 질문에 대해 소량의 무작위 샘플만 배정받게 됩니다. 누구나 그래프의 모든 변을 효율적으로 채우는 인공지능 모델을 제출할 수 있는 공개 대회가 있습니다. 최종 답은 심사위원의 답에 가장 적합한 모델의 가중치 합으로 결정됩니다. 코드 예제는 여기를 참조하세요. 이 접근 방식을 사용하면 배심원단이 소수의 '비트' 정보만 제출하도록 요구하면서 메커니즘을 매우 큰 규모로 확장할 수 있습니다. 배심원들이 수백 개의 질문을 빠르게 클릭하는 대신 각 질문에 대해 오랫동안 깊이 생각할 수 있기 때문에 부패의 가능성을 줄이고 모든 비트의 품질을 보장할 수 있습니다. AI 분야에서 공개 경쟁을 활용하면 단일 AI 훈련 및 관리 프로세스의 편향성을 줄일 수 있습니다. AI의 오픈 마켓은 엔진이고, 인간은 운전대입니다.

그러나 딥 펀딩은 최근의 예일 뿐이며 공공재 펀딩 메커니즘에 대한 다른 아이디어는 이전에도 있었고 앞으로도 더 많이 등장할 것입니다. allo.expert 카테고리에 잘 분류되어 있습니다. 근본적인 목표는 적어도 시장이 사적 재화에 자금을 조달하는 방식에 가깝게 정확하고 공정하며 개방적으로 공공재에 자금을 조달할 수 있는 사회적 장치를 만드는 것입니다. 완벽할 필요는 없습니다. 결국 시장 자체는 완벽하지 않기 때문입니다. 하지만 모든 사람에게 혜택을 주기 위해 헌신하는 최고 수준의 오픈소스 프로젝트 개발자가 용납할 수 없는 타협을 할 필요를 느끼지 않고 계속 개발할 수 있을 만큼 충분히 효과적이어야 합니다.

오늘날, 백신, BCI, 손목 근육에 대한 전기 신호 및 시선 추적과 같은 "프린지 BCI", 노화 방지 약물, 하드웨어 등 D/Acc 주제 분야의 주요 프로젝트 대부분은 독점적인 형태를 띠고 있습니다. 이는 위에서 언급한 여러 영역에서 보았듯이 대중의 신뢰를 확보하는 측면에서 상당한 단점을 가지고 있습니다. 또한 경쟁의 역학 관계에 초점을 맞추게 됩니다("우리 팀은 이 중요한 산업에서 이겨야 한다!"). )에 초점을 맞추는 것이 아니라, 초스마트 AI 세상에서 우리를 보호할 수 있을 만큼 빠르게 기술을 발전시켜야 한다는 더 큰 경쟁에 초점을 맞추고 있습니다. 이러한 이유로 강력한 공공재 기금은 개방과 자유를 위한 강력한 촉매제가 될 수 있습니다. 이러한 펀딩 메커니즘을 탐구하고 각자의 환경에서 잘 작동하도록 진지하게 노력하여 오픈 소스 과학과 기술의 광범위한 채택에 대비하는 것, 이것이 암호화폐 커뮤니티가 D/Acc를 도울 수 있는 또 다른 방법입니다.

VI. 향후 전망

향후 수십 년 동안 큰 도전이 있을 것입니다. 저는 최근 두 가지 도전 과제에 대해 생각해 왔습니다.

• 신기술의 강력한 물결, 특히 강력한 인공지능이 빠르게 부상하고 있으며, 여기에는 우리가 피해야 할 중요한 함정이 수반되어 있습니다. '인공지능 초지능'은 실현되기까지 5년이 걸릴 수도 있고, 50년이 걸릴 수도 있습니다. 어떤 경우든 기본 결과가 반드시 긍정적일 것이라는 것은 분명하지 않으며, 이 글과 이전 글에서 설명한 것처럼 피해야 할 함정이 여러 가지 있습니다.

• 세계는 점점 더 비협조적이 되고 있습니다. 한때는 고귀한 원칙(국제주의, 자유, 공동의 인류애 ...... 등)에 따라 행동하는 것처럼 보였던 많은 강력한 행위자들이 이제는 더 공개적이고 공격적으로 개인 또는 부족의 이기심을 추구하고 있습니다.

그러나 이러한 도전에는 희망이 있습니다. 첫째, 우리는 이제 나머지 작업을 더 빠르게 수행할 수 있는 매우 강력한 도구를 갖게 되었습니다.

• 현재와 가까운 미래에 AI는 다른 기술을 구축하는 데 사용될 수 있으며 거버넌스의 구성 요소로 사용될 수 있습니다(예: 심층 금융 또는 정보 금융). 또한 그 자체로 생산성을 더욱 향상시킬 수 있는 BCI와도 매우 관련이 있습니다.

• 대규모 협력이 그 어느 때보다 가능해졌습니다. 인터넷과 소셜 미디어는 조정의 범위를 확장했고, 글로벌 금융(암호화폐 포함)은 그 힘을 키웠으며, 정보 방어 및 협업 도구는 이제 그 질을 향상시킬 수 있고, 곧 인간 대 인간 형태의 BCI가 그 깊이를 더할 수 있을 것입니다.

• 정식 인증, 샌드박싱(웹 브라우저, Docker, Qubes, GrapheneOS 등), 보안 하드웨어 모듈 및 기타 기술은 지속적으로 개선되어 사이버 보안을 강화할 수 있습니다.

• 2년 전보다 모든 유형의 소프트웨어를 작성하는 것이 훨씬 쉬워졌습니다.

• 바이러스 작용 메커니즘에 대한 최근의 기초 연구, 특히 바이러스 확산에 대한 가장 중요한 방어 형태가 공기 중이라는 간단한 이해는 생물학적 방어를 개선하는 방법에 대한 보다 명확한 길을 제시합니다.

• 최근 생명공학의 발전(예: 크리스퍼, 바이오 이미징의 발전)은 방어, 장수, 초행복, 다양한 새로운 생물학적 가설의 탐구, 또는 정말 멋진 일을 하는 등 모든 종류의 생명공학의 실현 가능성을 높여주고 있습니다.

• 컴퓨팅과 생명공학의 발전으로 건강을 조정하고 모니터링하며 개선하는 데 사용할 수 있는 합성 생물학적 도구의 출현이 가능해졌습니다. 암호화와 같은 사이버 방어 기술은 개인화를 더욱 실현 가능하게 만들었습니다.

둘째, 우리가 소중히 여기는 많은 원칙들이 더 이상 보수적인 소수에 의해 지켜지지 않고, 전 세계 누구나 참여할 수 있는 광범위한 연합에 의해 재확보될 수 있게 되었습니다. 이는 아마도 최근 전 세계의 정치적 '재편'의 가장 큰 혜택일 것이며, 이를 활용할 가치가 있습니다. 암호화폐는 이미 이를 활용하여 전 세계적으로 인기를 얻고 있으며, d/acc도 마찬가지입니다.

이미지 src="https://img.jinse.cn/7144133_watermarknone.png" title="7144133" alt="vauiHZJjmomBuXSRnDAQdy4fkFXmqUdRb8cfF0Eg.png">< /p>

도구를 획득한다는 것은 생물과 환경에 적응하고 개선할 수 있다는 것을 의미하며, d/acc의 '방어'는 타인의 자유를 침해하지 않고 이를 수행할 수 있다는 것을 의미합니다. 자유적 다원주의의 원칙은 우리가 이를 수행하는 방식에서 매우 다양한 다양성을 가질 수 있으며, 인류 공동의 목표에 대한 우리의 헌신은 이를 달성해야 한다는 것을 의미합니다.

우리 인간은 여전히 가장 빛나는 별입니다. 더 밝은 21세기를 건설하고 인류의 생존과 자유, 자율성을 지키며 별을 향해 나아가는 일은 어려운 과제입니다. 하지만 저는 우리가 해낼 수 있다고 믿습니다.