AI 기반 DAO가 부상하고 있습니다: 주목해야 할 5가지 과제

윌리엄 M. 피스터 지음, 뱅크리스, 화이트워터 편찬, 골든 파이낸스

이더리움 창립자 비탈릭 부테린은 대부분의 사람들에게 아직 먼 꿈이었던 2014년에 자율 에이전트와 DAO에 대해 생각하기 시작했습니다.

부테린의 초기 비전에서 그는 "DAO, DAC, DA 등: 용어에 대한 불완전한 가이드"DAO는 "중앙에 자동화가 있고 가장자리에 사람이 있는 탈중앙화된 실체"로서, "중앙에 자동화와 가장자리에 사람이 있는 가장자리"에 있는 탈중앙화된 조직으로, 효율성과 투명성을 유지하기 위해 사람이 아닌 코드 계층 구조에 의존하는 조직입니다.

10년 후, Variant의 제시 월든은 비탈릭의 초기 작업 이후 DAO가 실제로 어떻게 발전해왔는지 되돌아보는 "DAO 2.0"을 출간했습니다. 비탈릭의 초기 작업 이후 DAO가 실제로 어떻게 진화해왔는지 되돌아봅니다.

요약하자면, 월든은 초기의 DAO는 협동조합, 즉 인간 중심의 디지털 조직과 유사했으며 자동화에 중점을 두지 않은 경우가 많았다고 지적합니다.

그럼에도 불구하고 월든은 인공지능의 새로운 발전, 특히 대규모 언어 모델(LLM)과 생성 모델 및 생성 모델 등 인공지능의 새로운 발전은 비탈릭이 10년 전에 예견했던 탈중앙화된 자율성을 더 잘 구현할 수 있게 해줄 것입니다.

그러나 DAO 실험에 AI 에이전트가 점점 더 많이 사용됨에 따라 새로운 의미와 문제에 직면하게 될 것입니다. 아래에서 DAO가 AI를 접근 방식에 통합할 때 반드시 해결해야 할 5가지 핵심 영역을 살펴보겠습니다.

거버넌스의 변화

비탈릭의 원래 프레임워크에서 DAO는 체인에 거버넌스 규칙을 인코딩하여 계층적 인간 의사결정에 대한 의존도를 줄이는 것을 목표로 했습니다.

초기에는 인간이 여전히 '가장자리'에 있었지만, 복잡한 판단을 내리는 데는 여전히 중요했습니다. 월든이 묘사하는 DAO 2.0 세계에서는 인간은 여전히 자본과 전략적 방향을 제공하는 가장자리에서 맴돌지만, 점차 권력의 중심은 더 이상 인간이 아닙니다.

이러한 변화는 많은 DAO의 거버넌스를 재정의할 것입니다. 여전히 인간 연합이 협상하고 결과에 대해 투표하지만, 모든 종류의 운영 결정은 점점 더 AI 모델의 학습 패턴에 따라 이루어질 것입니다. 이러한 균형을 어떻게 달성할 것인지는 현재 열린 질문이자 설계의 영역입니다.

모델 오정렬 최소화

초기 DAO의 비전은 투명하고 불변하는 코드를 통해 인간의 편견, 부패, 비효율성에 대응하는 것을 목표로 했습니다.

이제 핵심 과제는 신뢰할 수 없는 인간의 의사 결정에서 벗어나 AI 에이전트가 DAO의 목표에 '부합'하도록 하는 것입니다. 여기서 가장 큰 취약점은 더 이상 인간의 담합이 아니라 모델 오정렬, 즉 AI 기반 DAO가 인간의 예상 결과에서 벗어나는 지표나 행동에 최적화될 수 있는 위험입니다.

DAO 2.0 패러다임에서는 이러한 일관성 문제(처음에는 AI 안전 분야에서 철학적 문제였던)가 경제성과 거버넌스 측면에서 실용적인 문제가 됩니다.

이 문제는 기본적인 AI 도구를 실험하는 오늘날의 DAO에게는 중요한 문제가 아닐 수 있지만, AI 모델이 더욱 발전하고 탈중앙화된 거버넌스 구조에 깊숙이 통합됨에 따라 면밀한 검토와 개선이 필요한 주요 영역이 될 것으로 예상됩니다.

새로운 공격 표면

인간 p0pular.eth가 AI 에이전트인 프레이사를 속여 "approveTransfer "함수를 잘못 해석하도록 속여 47,000달러의 이더 상금을 획득했습니다.

상금을 절대 보내지 말라는 명확한 지침과 같은 프레이사의 내장된 보호 장치에도 불구하고 인간의 창의력은 결국 힌트와 코드 로직 간의 상호 작용을 악용하여 모델을 능가했습니다. AI가 자금을 풀어줍니다.

이 초기 콘테스트 사례는 DAO가 더 정교한 AI 모델을 통합함에 따라 새로운 공격 표면도 생겨날 것이라는 점을 강조합니다. 비탈릭이 인간에 의한 DO 또는 DAO의 담합을 우려했던 것처럼, 이제 DAO 2.0은 AI 학습 데이터에 대한 적대적인 입력이나 즉각적으로 조작된 공격을 고려해야 합니다.

LLM의 추론 과정을 조작하거나 잘못된 온체인 데이터를 제공하거나 매개변수에 미묘한 영향을 미치는 것은 새로운 형태의 '거버넌스 탈취'가 될 수 있으며, 전장이 인간의 다수결 투표 공격에서 보다 교묘하고 정교한 형태의 AI 악용으로 전환될 수 있습니다.

새로운 중앙화 문제

DAO 2.0의 진화는 특정 DAO의 기본 AI 모델을 생성, 훈련, 제어하는 사람들에게 상당한 권한을 이전하고 있으며, 이는 새로운 형태의 중앙집중식 초크로 이어질 수 있는 역학 관계로 이어집니다.

이것은 이해할 수 있는 일입니다. 하지만 앞으로 AI 실험을 추적하는 DAO가 모델 업데이트, 매개변수 튜닝, 하드웨어 구성과 같은 문제에 어떻게 대응하는지 지켜보는 것은 흥미로울 것입니다.

전략 대 전략 운영 역할 및 커뮤니티 지원

월든의 "전략 대 운영" 구분은 장기적인 균형을 제시합니다. 일상적인 DAO 작업은 AI가 처리하고, 전략적 방향은 인간이 제공한다는 것입니다.

그러나 AI 모델이 더욱 정교해짐에 따라 점차 DAO의 전략적 계층을 침범할 수도 있습니다. 시간이 지남에 따라 '맨 온 더 엣지'의 역할은 더욱 축소될 수 있습니다.

그렇다면 많은 경우 인간은 그저 자금을 지원하고 옆에서 지켜보는 역할만 하게 될 AI 기반 DAO의 다음 물결에서는 어떤 일이 일어날까요?

이 패러다임에서 인간은 브랜드의 공동 소유권에서 벗어나 AI가 관리하는 자율 경제 기계에 더 가까운 것으로 옮겨가면서 영향력이 가장 적은 대체 가능한 투자자가 될까요?

저는 DAO 시나리오에서 인간이 적극적인 관리자보다는 수동적인 주주의 역할을 하는 조직 모델이 더 많이 등장할 것이라고 생각합니다. 그러나 인간에게 의미 있는 결정이 점점 줄어들고 다른 곳에서 온체인 자본을 제공하는 것이 더 쉬워짐에 따라 커뮤니티 지원을 유지하는 것은 시간이 지남에 따라 지속적인 과제가 될 수 있습니다.

DAO가 능동적으로 대처하는 방법

좋은 소식은 위의 모든 과제를 능동적으로 해결할 수 있다는 것입니다. 예를 들어:

• 거버넌스 측면에서 DAO는 인간 유권자 또는 인간 전문가가 순환하는 거버넌스 메커니즘을 실험해볼 수 있습니다. 위원회를 구성하여 영향력이 큰 특정 결정을 유보할 수 있습니다.

• 불일치성 - 일관성 점검을 반복적인 운영 비용(예: 보안 감사)으로 처리함으로써 DAO는 AI 에이전트의 공공 목표에 대한 충실성을 일회성 문제가 아닌 지속적인 책임으로 보장할 수 있습니다.

• 중앙성 - DAO는 커뮤니티 구성원의 광범위한 기술을 구축하는 데 투자할 수 있습니다. 시간이 지나면 소수의 'AI 마법사'가 거버넌스를 통제하는 위험을 완화하고 기술 관리에 대한 탈중앙화된 접근 방식을 촉진할 수 있습니다.

• 지원 - 인간이 DAO의 수동적인 이해관계자가 되면서, 이러한 조직은 즉각적인 자본 배분의 논리를 넘어 장기적인 지원을 유지하기 위해 스토리텔링, 공유 미션, 커뮤니티 의식을 위한 노력을 배가할 수 있습니다.

앞으로 어떤 일이 벌어지든 미래가 활짝 열려 있는 것은 분명합니다.

최근 비탈릭이 오픈소스 이더리움 개발을 위한 새로운 펀딩 메커니즘을 개척하기 위해 AI와 인간 심사위원을 활용하는 딥 펀딩을 시작한 것을 생각해 보십시오.

새로운 실험이지만, 이는 AI와 탈중앙화된 협업의 교차점이 가속화되고 있다는 보다 광범위한 추세를 보여줍니다. 새로운 메커니즘이 등장하고 성숙해짐에 따라, DAO는 이러한 AI 아이디어를 점점 더 적용하고 확장할 것으로 예상할 수 있습니다. 이러한 혁신은 독특한 도전과제를 제시할 것이므로 지금부터 준비를 시작해야 할 때입니다.