탈중앙화 AI: 허가 없는 인텔리전스의 힘

'탈중앙화 AI: 무허가 지능의 힘'이라는 제목의 패널에서는 다음과 같이 설명했습니다.2023년 9월 18일 TOKEN2049 싱가포르, 사회를 맡은 SRS의 매니징 파트너 산티아고 R 산토스, 셸링 AI의 창립자 에마드 모스타크, 사하라 AI의 공동 창립자 겸 CEO 션 렌, 건틀릿의 창립자 겸 CEO 타룬 치트라, NEAR AI의 공동 창립자 알렉스 스키다노프로 구성된 패널이 건강한 암호화폐 채택과 향후 3년간 암호화폐의 전망에 대해 심도 있게 논의합니다.

탈중앙화된 AI가 필요한가요? 개인정보 보호 문제, 소유권 및 사용자 데이터

Santos패널 시작 지난 10년 동안 만들어진 모든 기술은 오늘날 모두 대기업에 의해 통제되고 있다는 점을 지적하면서 말입니다.

그리고 모든 경우에 일어나는 일은 이러한 기업이 모든 데이터를 수집하여 수익을 창출하고 판매한다는 것입니다.

사용자는 사실상 고객이 아니라 제품입니다.

그리고 인공지능(AI)도 같은 방향으로 나아가고 있습니다.

가장 큰 차별화 요소는 사용자가 데이터를 제어할 수 있고 사용자가 AI 기반 애플리케이션을 사용하는 방식을 제어할 수 있어야 한다는 '사용자 소유 AI'입니다.

렌에 따르면 현재 AI 생태계에는 AI 개발자나 모델 제작자, AI 사용자 등 주의가 필요한 사용자 그룹이 뚜렷이 구분되어 있습니다.

오늘날 모델 아이디어를 프로토타이핑하는 데는 비용과 시간이 많이 소요됩니다.

개발자는 데이터를 소싱하고, 컴퓨팅 공급업체를 찾고, 벤처 캐피털리스트(VC)로부터 자본을 조달해야 합니다.

이 과정은 아이디어를 테스트하기 시작하기까지 3개월에서 6개월 정도 소요될 수 있습니다.

개발자들은 필요한 자원과 자본에 접근하는 데 상당한 어려움을 겪고 있으며, 이는 블록체인 기반 플랫폼과 탈중앙화 금융(DeFi) 시장이 이 과정을 간소화하고 혁신을 가속화할 수 있는 분명한 기회를 제시합니다.

또한, AI 사용자들은 ChatGPT에서 제공하는 무료 서비스를 이용하는 대가로 자신도 모르게 환경설정, 개인 데이터, 금융 정보 등 다양한 개인 및 사적인 정보를 공유하는 경우가 많습니다.

시간이 지남에 따라 OpenAI와 같은 회사는 이러한 방대한 양의 사용자 데이터를 축적하고 이러한 집단 지식을 활용하여 모델을 개선합니다.

이는 혁신을 촉진하는 동시에 개인정보 보호, 소유권, 사용자의 데이터 사용 방식, 심지어는 업무 자동화나 대체에 대한 심각한 우려를 불러일으키기도 합니다.

렌이 표현했습니다:

"그리고 시간이 지나면 개별 도메인 전문가들을 모두 모아 더 나은 버전을 만들어 일부 작업을 자동화하고 수익 창출 기회까지 제공할 수 있게 될 것입니다. 그리고 여기서 우리는 개인정보 보호와 중앙 집중식 제공업체에 제공한 정보에 대한 일종의 사용자 소유권 문제로 돌아갈 것입니다. 그리고 이것이 우리가 해결해야 할 두 가지 주요한 큰 문제라고 생각합니다."

이러한 문제를 해결하려면 더 강력한 개인정보 보호와 데이터에 대한 사용자 소유권으로 전환해야 합니다.

블록체인과 암호화폐 생태계는 탈중앙화된 대안을 제공하고 개발자와 사용자 모두에게 권한을 부여함으로써 이러한 문제를 해결할 수 있는 유망한 해결책을 제시합니다.

분산형 AI가 중앙 집중식 솔루션과 경쟁할 수 있을까요?

AI 산업의 요구는 엄청나며, 탈중앙화와 사용자 프라이버시는 종종 찬사를 받지만, 현실은 대부분의 사용자가 이러한 이상보다 효율성과 비용을 우선시한다는 것입니다.

여기서 중요한 질문이 생깁니다: Can분산형 AI 기능 및 가격 측면에서 중앙 집중식 솔루션과 현실적으로 경쟁할 수 있을까요?

모스테이크는 Stability AI를 개발할 당시, 당시 세계에서 10번째로 빠른 슈퍼컴퓨터이자 NASA 컴퓨팅 성능의 8배에 달하는 10,000대의 NVIDIA A100이 필요했다고 밝혔습니다.

이미지, 비디오 및 오디오 분야의 최첨단 모델을 구축하는 데 필요한 이 설정에는 4억 달러의 가격표가 붙어 있습니다.

이에 비해엘론 머스크 최첨단 모델을 훈련하도록 설계된 최신 슈퍼컴퓨터는 30만 대의 A100을 사용하며 가격은 30억 달러에 달합니다.

이 엄청난 수치는 고급 AI 모델 학습에 수반되는 재정적 위험을 반영합니다.

흥미롭게도 IQ 120점을 달성한 OpenAI의 o1 모델과 같은 최근의 발전은 컴퓨팅 요구가 진화하고 있음을 보여줍니다.

백만 개의 GPU를 활용한 테두리 렌더링과 같은 사례를 통해 분산형 병렬 컴퓨팅의 실현 가능성이 점점 더 높아지고 있습니다.

그러나 이러한 발전에도 불구하고 탈중앙화 AI는 여전히 상당한 도전에 직면해 있으며, 특히 중앙화된 솔루션과 대규모로 경쟁하는 데 있어서는 더욱 그러합니다.

예를 들어 비트코인은 특수 인프라를 사용하여 연간 160테라와트시의 에너지를 소비하는데, 이는 전 세계 모든 데이터 센터의 에너지 소비량을 합친 것보다 거의 절반에 가까운 양입니다.

이는 탈중앙화가 일부 영역에서는 효과가 있을 수 있지만, AI에서 동일한 수준의 성능을 달성하는 것은 여전히 복잡하고 비용이 많이 든다는 것을 보여줍니다.

그는 의문을 품었습니다:

"그래서 우리가 경쟁할 수 있는 몇 가지 요소가 있다고 생각하지만 지금은 최첨단 모델을 구축하기 위해 수십억 달러의 투자가 필요하기 때문에 매우 어렵습니다. 문제는 이러한 상황이 바뀌어 수십억 달러를 분산해서 사용할 수 있게 될까요? 아니면 이러한 클러스터를 만든 다음 일반적으로 한 가지 관점만 반영하는 완전히 중앙화된 솔루션에 대한 개방형 대안을 만들 수 있는 메커니즘을 만들 수 있을까요? 스모 선수를 입력하면 인도 여자 스모 선수가 나오는 Google 이미지 생성과 같은 것이죠."

치트라는 고려해야 할 몇 가지 중요한 사항을 지적했습니다.

첫째, 과학 연구와 같이 즉각적인 재정적 수익이 발생하지 않을 수 있는 엣지 애플리케이션은 잠재적 성과에 비해 모델 학습 비용이 높기 때문에 상당한 장벽에 직면하는 경우가 많습니다.

알파폴드를 예로 들어보겠습니다.

처음 출시되었을 때, 딥마인드 내부에서는 필요한 자원의 일부라도 할당할 가치가 있는지에 대한 논쟁이 있었습니다.

사람들이 일반적인 텍스트, 비디오 또는 상업적으로 실행 가능한 애플리케이션 이외의 영역에 대한 AI 모델 개발의 가치를 인식하는 데는 시간이 걸렸습니다.

그 결과, 이러한 엣지 프로젝트는 비용 효율성에 초점을 맞춘 논의에서 소외되고 상업적으로 더 확실한 모델에 관심이 집중되는 경우가 많습니다.

둘째, AI 아키텍처에 변화가 일어나고 있습니다.

대규모 초기 데이터 세트를 기반으로 하나의 대규모 모델을 구축하는 대신 강화 학습과 게임 이론을 사용하는 모델에 대한 관심이 높아지면서 지연 시간과 대역폭 간에 다른 절충안을 도출할 수 있습니다.

이 접근 방식에서는 모델이 복잡성을 줄이면 추론 시간이 길어질 수 있습니다.

이러한 변화는 클러스터 개발 방식을 변화시키고 시간이 지남에 따라 추론이 처리되는 방식에도 영향을 미칠 것입니다.

이러한 아키텍처 변경에 대한 논쟁은 아직 끝나지 않았으며 계속 발전해 나갈 것입니다.

그는 이렇게 말했습니다:

"알파폴드의 경우 저는 알파폴드의 오픈소스 복제를 수행한 오픈폴드의 저자 중 한 명이었고, 알파폴드의 모든 컴퓨팅도 제공했습니다. 블랙박스였기 때문에 오류가 많았고, 저희도 이해하지 못한 부분이 많았습니다. 그래서 저는 오픈소스가 매우 흥미롭고 탈중앙화되어 있어 더 많은 사람이 볼 수 있고, 앞으로 우리 삶에서 점점 더 많은 부분을 차지하게 될 이러한 모델의 오류를 알아낼 수 있다고 생각합니다."

AI의 실제 적용 사례

의 실제 적용에 대해AI 컴퓨팅 마켓플레이스와 모델 수익화 분야에서 괄목할 만한 발전이 있었습니다.

이는 중요한 질문을 제기합니다. 가까운 미래에 확장되고 널리 채택될 수 있는 사용 사례는 무엇일까요?

지난 몇 년간의 발전을 되돌아보면, AI 모델 개발의 많은 성공은 GPU를 한데 모으고, 머신을 데이터 센터에 풀링하고, 최고의 AI 연구자들로 구성된 팀을 모으는 등 중앙 집중화에서 비롯되었습니다.

중앙 집중식 리소스는 혁신을 촉진하고 AI를 발전시키는 데 중추적인 역할을 해왔습니다.

여기서 중요한 점이 떠오릅니다. AI 개발의 모든 측면이 즉시 탈중앙화되어야 하는 것은 아니라는 점입니다.

이 입증된 접근 방식을 너무 일찍 중단하면 이미 이룬 진전이 훼손될 수 있습니다.

그러나 GPU 마켓플레이스는 현 단계에서 블록체인을 통합할 필요 없이 글로벌 GPU 리소스를 더 잘 분배할 수 있는 유용한 솔루션이 될 수 있습니다.

탈중앙화가 더욱 강력한 힘을 발휘하는 분야는 데이터 세트와 모델과 같은 AI 자산의 소유권과 거버넌스입니다.

여러 당사자가 리소스를 제공하여 모델을 구축하는 경우, 그에 따라 소유권을 분배하는 것은 어떨까요?

예를 들어, 프로젝트에 현금이 부족해 A100 GPU를 전액 구매할 수 없어 100시간의 시간을 제공하는 경우, 그 대가로 해당 모델의 일정 비율을 받을 수 있습니다.

모델의 고유성을 크게 향상시킬 수 있는 데이터 제공자에게도 동일한 원칙이 적용됩니다.

이러한 접근 방식은 AI 모델의 크라우드 소싱을 가능하게 하는 새로운 거버넌스 및 경제 프레임워크를 요구하며, 소유권은 기여자들에게 분산됩니다.

모델이 수익을 창출하기 시작하면 모든 이해관계자가 공정하게 보상을 받을 수 있도록 투명하고, 신뢰가 필요 없으며, 허가 없는 방식으로 수익을 창출해야 합니다.

바로 이 지점에서 블록체인 기술이 중요한 역할을 할 수 있으며, 탈중앙화된 신뢰와 귀속 시스템을 촉진할 수 있습니다.

스키다노프는 현재 AI에서 가장 흥미로운 사용 사례 중 하나는 여러 회사에서 실제로 구현되고 있는 분산형 추론이라고 언급했습니다.

예를 들어, 내부적으로는 가격과 속도 면에서 Fireworks와 경쟁하는 회사인 Hyperbolic과 협력하고 있습니다.

하이퍼볼릭의 차별점은 다양한 참여자가 제공하는 대규모 분산형 GPU 네트워크에 인프라가 구축되어 있다는 점입니다.

전통적으로 웹2.0 분야에서 수요가 높은 서비스인 추론은 AI 분야에서 가장 상업적으로 실행 가능한 분야 중 하나이며, 탈중앙화 접근 방식은 높은 경쟁력을 입증하고 있습니다.

또 다른 흥미로운 발전은 스마트 컨트랙트 또는 애플리케이션의 엔드투엔드 개발을 목표로 하는 'AI 개발자'를 만들기 위한 지속적인 작업입니다.

2021년에 시작된 이 이니셔티브는 대규모 데이터 주석에 크게 의존하고 있습니다.

이러한 노력에 기여하는 개발자와 주석가 네트워크가 있으며, 이들 중 다수는 전통적인 결제 방식이 어려운 지역에서 일하고 있습니다.

여기서 블록체인은 중추적인 역할을 합니다.

블록체인을 활용하면 근로자는 노력에 대한 즉각적인 보상을 받을 수 있어 프로세스를 원활하고 효율적으로 진행할 수 있습니다.

그는 설명했습니다:

"블록체인이 없었다면 지금과 같은 방식으로 구축하는 것은 사실상 불가능했을 것입니다."

이는 탈중앙화 기술이 AI 인프라를 재편할 뿐만 아니라 글로벌 인력 참여의 실질적인 문제도 해결하고 있음을 보여줍니다.

실제 사용 사례를 고려할 때 기술이 미디어 제작에 미치는 영향은 특히 두드러진다고 치트라는 말합니다.

AI의 발전으로 내년에는 비동기식으로 제작되는 장편 할리우드 영화 제작이 가능해질 것입니다.

영화는 평균 2.5초의 샷으로 구성되어 있기 때문에 실시간 생성은 진행 상황을 검토하는 데 상당한 대기 시간이 필요하기 때문에 비현실적일 수 있습니다.

미디어 변환은 추론 컴퓨팅의 가장 중요한 응용 분야 중 하나이지만, 지적 재산(IP) 어트리뷰션과 지식 흐름 리믹싱의 과제는 여전히 남아 있습니다.

또한, 헬스케어 영역에서는AI의 잠재력 는 엄청납니다.

암과 같은 질환에 초점을 맞춘 모델은 최신 의학 지식을 통합하고 인간 의사보다 높은 공감 수준을 보여줌으로써 환자가 여정 내내 도움을 받는다고 느낄 수 있도록 합니다.

분산 원장 기술을 적용하면 의료 데이터에 대한 보호 계층이 하나 더 추가되어 엣지에서 안전한 AI 분석이 가능합니다.

예를 들어, Apple의 온디바이스 AI는 다양한 지식 기능을 통합하면서 개인 건강 정보를 분석할 수 있습니다.

특히 이 분야의 혁신가들의 이니셔티브를 통해 인프라가 계속 발전함에 따라, 우리는 전인적 의료와 개인화된 교육 분야에서 획기적인 발전을 목전에 두고 있습니다.

최근 비트코인 백서를 기반으로 팟캐스트 토론을 순식간에 생성할 수 있는 구글의 노트북 LM이 소개된 것은 이러한 발전의 예시입니다.

그러나 이러한 AI 에이전트의 효과를 극대화하려면 복잡한 문제를 해결할 때 추적성, 검증 가능성 및 조정을 위한 시스템을 구축하는 것이 중요합니다.

탈중앙화된 AI가 인간을 파괴할 것인가, 아니면 상관없을 것인가?

AI의 무허가 혁신이라는 개념은 흥미로운 가능성과 함께 상당한 위험을 동시에 내포하고 있습니다.

AI가 궁극적으로 인류를 위협할 수 있다는 우려를 표명하는 사람들도 있지만, 보다 낙관적인 전망을 유지하는 사람들도 있습니다.

문제는 다음과 같습니다.AI 개발이 잠재적인 피해 가능성에 어떤 영향을 미칠까요?

오픈 소스 AI는 사용자가 상당한 양의 데이터 세트에 자유롭게 액세스하고 수정할 수 있는 비허가형 혁신을 구현합니다.

그러나 진짜 문제는 거버넌스와 표준화에 있을 수 있습니다.

예를 들어, 펌웨어 업데이트 결함으로 인해 로봇을 대규모로 배포했다가 중앙 집중식 제어에 뿌리를 둔 문제로 인해 치명적인 상황이 발생하는 가상의 시나리오를 생각해 볼 수 있습니다.

또한, '슬리퍼 에이전트'에 대한 Anthropic의 연구는 악의적인 수정이 어떻게 방대한 언어 모델을 손상시켜 제어할 수 없게 만드는지 강조합니다.

무허가 모델은 새로운 취약점을 야기할 수 있지만, 회복력을 키울 수도 있습니다.

중앙 집중식 시스템의 역사는 수많은 공격 지점과 실패를 드러내며 개방형 인프라가 더 견고함을 제공할 수 있음을 시사합니다.

따라서 AI 거버넌스에 대한 논의는 무허가 접근 방식에 내재된 위험만을 다루기보다는 탈중앙화 시스템의 안전과 신뢰성을 높이는 데 초점을 맞춰야 합니다.

산토스는 스키다노프가 OpenAI의 일원이었다는 점을 지적했습니다.

스키다노프는 OpenAI가 로고도 정립하기 전인 2016년에 입사했다고 말했습니다.

그곳에서 잠시 근무한 후 그는 니어(Near)를 공동 설립하기 위해 떠났습니다.

니어 출시 이후인 2022년, 그는 지난 3년 동안의 침묵에 흥미를 느끼며 상당한 진전이 있었을지도 모른다는 의심을 품고 OpenAI로 돌아왔습니다.

그는 이렇게 주장했습니다:

"2022년까지 3년 동안 침묵을 지키고 있던 OpenAI가 특이점에 도달했을지도 모른다는 생각이 들었고, 저도 그 일부가 되고 싶었기 때문에 잠시 다시 근무한 적이 있습니다. 그리고 제가 했던 일 중 하나는 회사 복도를 걸으며 사람들의 눈을 바라보며 그들이 악한지 아닌지 판단하려고 노력했는데, 악한 사람들은 보통 자신이 악하다는 것을 드러내지 않는 데 능숙하기 때문에 매우 어려웠습니다. 그래서 결국 저는 이 사람들이 인공지능이 우리를 전멸로부터 구해줄 것이라는 100% 확신을 가질 수 없었습니다."라고 말했습니다.

그는 최고 수준의 연구를 소수의 단체가 독점하는 것이 아니라 공동으로 소유할 때 사회가 더 큰 이익을 얻을 수 있다고 주장합니다.

그는 현재 미국에서 대형 모델을 훈련하는 다른 사람들의 능력을 심각하게 제한할 수 있는 규제를 도입하려는 노력에 대해 우려를 표명했습니다.

아직 위험도가 높은 애플리케이션에는 적합하지 않은 비허가형 AI

렌은 주관적으로 다음과 같은 질문에 대해 배포하는 것이 편할지 묻는 질문에AI 허가받지 않은 방식이라면 컨퍼런스에 참석한 대부분의 AI 연구자들은 주저할 것입니다.

이러한 거부감은 크게 두 가지 우려에서 비롯됩니다.

첫째, 이러한 모델이 어떻게 작동하고 의사 결정을 내리는지에 대한 근본적인 이해가 부족합니다.

명시적인 지침을 따르는 기존 프로그램과 달리, AI 모델은 확률적 시스템으로 작동하여 학습 데이터와 배포되는 특정 상황에 따라 확률적 예측을 생성합니다.

그 결과, 학습 매개변수를 벗어나는 입력 데이터의 사소한 변화로 인해 예기치 않은 오류가 발생할 수 있습니다.

둘째, 인간의 중요한 가치와 상식적인 제약 조건이 이러한 모델에 완전히 통합되지 않았습니다.

이러한 격차는 특히 이력서 필터링이나 신용 신청서 평가와 같이 중요도가 높은 애플리케이션에서 문제가 됩니다.

이러한 문제는 수십 년 동안 AI 관련 문헌에서 논의되어 왔지만, 실제 시나리오에서 효과적으로 해결하기는 여전히 어렵습니다.

그는 이렇게 조언했습니다:

"이 문제가 훨씬 더 포괄적인 방식으로 이해되기 전에는 위험도가 높은 애플리케이션에 무허가 방식으로 AI를 배포할 준비가 되어 있다고 생각하지 않지만, 위험도가 낮은 애플리케이션의 경우 약간의 위험을 감수하고 실행하는 것이 좋다고 생각합니다."

미래의 기축통화가 될 인텔리전스

암호화폐와 AI의 교차점에 있는 다양한 제품 범주에는 트레이딩 봇이나 위험 완화 솔루션과 같이 AI 기능으로 강화된 암호화폐 애플리케이션이 포함됩니다.

다른 하나는 스테이블코인을 통해 작동하는 AI 에이전트와 같이 암호화폐 속성을 활용하는 AI 시스템입니다.

그러나 가장 흥미로운 분야는 암호화폐와 AI의 시너지 효과로, 이 두 가지의 결합이 독특한 기회를 창출하는 분야입니다.

비트코인으로 대표되는 암호화폐의 원래 비전은 허가 없는 분산형 통화 시스템을 만드는 것이었습니다.

이제 초점은 노동 이후의 경제 프레임워크를 구상하는 데로 옮겨갑니다.

AI와 지능형 시장 조성자로 강화된 지능형 화폐는 경제의 작동 방식을 재정의할 수 있습니다.

의료, 교육, 거버넌스, 금융 분야에서 개방형 시스템을 구축하는 것이 이러한 진화의 핵심이 될 것입니다.

또한, 암호화폐가 효과적인 조정 계층 역할을 하는 동안, 미래 통화 시스템에서 인텔리전스가 어떤 역할을 할 것인가라는 질문이 제기됩니다.

컴퓨팅 자원이 확장됨에 따라 AI 에이전트의 역량도 확장되어 인간을 능가할 수 있게 되면서 전통적인 인간 노동 모델은 곧 붕괴될 것입니다.

모스탁은 이렇게 결론을 내렸습니다:

"다시 한 번 말하지만, 일을 처리하는 데 필요한 컴퓨팅의 양에 제한을 받고, 에이전트가 성숙해짐에 따라 더 많은 컴퓨팅을 실행할 수 있다면 사람보다 경쟁에서 앞설 수 있다는 점에 눈을 뜨게 됩니다. 따라서 우리는 이것이 새로운 경제 시스템의 토대가 될 것이라고 생각합니다. AI가 더 많은 일을 하게 될 때 왜 대학원 프로그래머나 대부분의 콘텐츠 작가를 고용하겠습니까? 사회 구조가 재편되어야 합니다. 그리고 그 변화는 엄청나게 빠르게 진행되고 있습니다."