샘 알트먼의 AI의 미래에 대한 20,000단어: GPT-5와 OpenAI의 사명

저자: SkyCity-CityMaster, 출처: Web3 SkyCity

호스트:

이제 곧 소개할 게스트인 샘 알트먼을 처음 만난 것은 약 20년 전 Loop라는 네이티브 모바일 앱을 개발하던 시절이었습니다. . 사실 우리는 둘 다 세쿼이아 캐피털의 지원을 받았으며, 세쿼이아 캐피털의 첫 보이스카우트 대원이었습니다.

그는 잘 알려지지 않은 핀테크 회사인 Stripe에 투자했고, 저는 Uber에 투자했습니다.그 작은 실험에서...

샘:

Uber에 투자하셨나요? 들어본 적도 없는데요.

예, 그런 것 같습니다.

책을 써야 해, 제이콥.

나 자신과 샘, 보이스카우트로서의 삶. 샘과 제가 참여했던 소규모 실험 펀드는 세쿼이아 캐피탈의 최고 수익률 펀드였습니다. 수백만 달러가 2억 달러 이상이 되었다고 들었습니다. 또한 2014년부터 2019년까지 대표를 역임한 Y Combinator에서 일했으며, 2016년에는 범용 AI가 모든 인류에게 혜택을 주는 것을 목표로 하는 OpenAI를 공동 설립했고, 2019년에는 YC를 떠나 OpenAI의 풀타임 CEO로 합류했습니다.

2022년 11월 30일, 상황이 정말 흥미로워졌습니다. 2023년 1월, Microsoft는 100억 달러를 투자했고, 2023년 11월, 5일 만에 샘은 OpenAI에서 해고되었습니다. 모두 Microsoft에서 일하게 됩니다. X와 트위터에서 수많은 하트 이모티콘이 입소문을 타기 시작했고, 사람들은 이 팀이 일반 AI에 도달했다고 추측하기 시작했습니다. 세상은 곧 끝날 것 같았죠. 그런데 며칠 후, 갑자기 그는 OpenAI의 CEO로 돌아왔습니다.

2023년 2월, 샘은 AI 칩 프로젝트를 위해 7조 원을 모금할 계획인 것으로 알려졌습니다. 이는 샘이 아이폰 공동 창업자 조니 아이브와 함께 아이폰 킬러를 만들기 위해 마사요시 산으로부터 10억 달러를 모금할 계획이라는 보도에 따른 것입니다.

한편, ChatGPT는 점점 더 개선되어 유명세를 타고 있습니다. 업무 방식과 업무 수행 방식에 큰 영향을 미치고 있습니다. 단 두 달 만에 1억 명의 사용자를 달성한 역사상 가장 빠른 제품이라고 합니다.

오픈AI의 놀라운 매출 성장세를 살펴보세요. 작년에 ARR이 20억 달러에 달했다고 합니다. 올 액세스 팟캐스트에 오신 것을 환영합니다.

업계 전체가 GPT-5의 출시를 초조하게 기다리고 있는 것을 목격했습니다. 아마 올여름쯤에 출시될 것으로 알고 있는데, 그 기간이 꽤 긴 것으로 알고 있습니다. 좀 더 구체적으로 설명해 주시겠어요?

샘:

< span style="color: rgb(0, 112, 192);">이 주요 새 모델을 출시하는 데는 시간이 좀 걸릴 것입니다. 출시가 되면 정말 멋질 것이라고 확신합니다. 어떻게 진행할지 신중하게 생각해보겠습니다. 아마도 이전 모델 출시와는 다른 방식으로 출시할 것 같습니다. 또한 GPT-5라고 부를지도 잘 모르겠습니다.

저희가 출시한 이후로 특히 지난 몇 달 동안 많은 분들이 GPT-4가 얼마나 좋은지 알아봐 주셨습니다. 단순히 1, 2, 3, 4, 5, 6, 7이 아니라 전체 시스템이 계속해서 더 좋아지는 AI 시스템을 사용하는 과정이라는 세상의 본질을 더 잘 드러낸다고 생각합니다. 저는 이것이 기술의 더 나은 방향이자 사회가 적응하기 쉬운 방향이라고 생각합니다.

주최자:

그렇다면 훈련 주기가 길지 않고 대신 하위 모델을 지속적으로 재훈련하거나 훈련하게 된다는 뜻인가요, 샘? 앞으로 대형 모델을 위해 구조적으로 어떤 변화가 생길 수 있는지 공유해 주실 수 있을까요?

Sam:

< span style="color: rgb(0, 112, 192);">상상할 수 있는 한 가지 시나리오는 항상 모델을 훈련시키는 것입니다. 합리적인 접근 방식인 것 같습니다.

이번에는 퍼블리싱에 대한 다른 접근 방식에 대해 이야기하고 있습니다. 유료 구독자에게 먼저 출시할지, 아니면 지금은 너무 위험하기 때문에 출시 시기를 늦춰서 레드팀을 긴장시킬지 고민 중이신가요? 사실 유료 구독자가 너무 많고 모든 사람이 모든 단계를 지켜보고 있습니다. 지금은 더 신중해야 하겠죠?

예, 현재로서는 유료 구독자만 GPT-4를 사용할 수 있지만, 저희가 정말 하고 싶은 일 중 하나는 무료 구독자들도 고급 기술을 이용할 수 있도록 하는 것입니다. 무료 사용자들도 고급 기술을 이용할 수 있도록 하는 것입니다. 이것이 저희의 사명에서 매우 중요한 부분이라고 생각합니다. 우리의 목표는 하늘에 있는 마법의 인공지능이 미래를 만들어서 우리에게 던져주는 것이 아니라, 사람들이 미래를 만드는 데 사용할 수 있도록 무료이든 저렴하든 상관없이 AI 도구를 만들어 널리 사용할 수 있도록 하는 것입니다. 그것이 더 나은 길이고 더 고무적인 길인 것 같습니다. 저는 상황이 실제로 그런 방향으로 나아가고 있다고 굳게 믿습니다. 그래서 무료 사용자들이 GPT-4 수준의 기술을 사용할 수 있는 방법을 찾지 못해 유감스럽게 생각합니다. 저희가 정말 하고 싶은 일입니다. 비용이 많이 드는 것은 인정합니다.

Sam, 사람들이 많이 이야기하는 두 가지 큰 요인은 아마도 잠재적 비용과 지연 시간일 것이고, 이것이 킬러 앱의 비율을 제한하는 것 같습니다. 그리고 두 번째 요인은 오픈 소스 세계와 폐쇄 소스 세계에서 사람들이 장기적으로 구축할 수 있는 능력이라고 생각합니다. 오픈 소스 커뮤니티의 열정은 이 분야의 가장 큰 장점이라고 생각합니다. 그 놀라운 예로 5, 6주 전에 Devon을 위해 정말 미친 데모를 했는데 정말 훌륭하게 작동했습니다. 그러자 몇몇 젊은이들이 이 프로젝트를 MIT의 오픈 라이선스인 OpenDevon으로 공개했습니다. 다른 비공개 소스 프로젝트와 거의 비슷할 정도로 매우 잘 작동하고 있습니다. 그렇다면 이 질문으로 논의를 시작할 수 있을까요? 이러한 모델을 비공개 소스로 유지해야 하는 비즈니스적 결정은 무엇일까요? 앞으로 몇 년 안에 어떤 일이 일어날 것이라고 생각하시나요?

질문의 첫 번째 부분인 속도와 비용은 저희에게는 매우 중요한 부분입니다. 연구가 어렵기 때문에 언제쯤 지연 시간을 대폭 줄일 수 있을지에 대한 타임라인을 제시하고 싶지는 않지만, 할 수 있다고 생각합니다. 저희는 지연 시간을 크게 줄이고 비용을 크게 절감하고자 합니다. 그렇게 될 것이라고 믿습니다. 아직은 어떻게 작동하는지 이해하기 위한 과학적 개발의 초기 단계에 있습니다. 또한 엔지니어링적인 측면에서도 많은 도움을 받고 있습니다. 따라서 측정하기에는 너무 저렴하고 우리뿐만 아니라 다른 모든 사람들이 즉각적이라고 생각할 정도로 빠른 인텔리전스를 언제쯤 얻을 수 있을지는 모르겠습니다. 하지만 저는 우리가 상당히 높은 수준의 인텔리전스에 도달할 수 있다고 믿습니다. 이는 우리에게도 중요하고 사용자들에게도 중요하며 많은 것을 열어줄 것입니다.

오픈 소스 대 폐쇄 소스에 관해서는 두 가지 모두 장점이 있다고 생각합니다. 저희는 일부 프로젝트를 오픈소스화했고 앞으로 더 많은 프로젝트를 오픈소스화할 것입니다. 하지만 실제로 우리의 임무는 AI의 방향으로 나아가고 그 이점을 광범위하게 배포하는 방법을 찾는 것입니다. 저희의 전략은 많은 사람들의 공감을 얻을 수 있을 것 같습니다. 물론 모든 사람에게 적합한 것은 아닙니다. 그리고 이것은 거대한 생태계입니다. 오픈 소스 모델과 그런 방식으로 구축하는 사람들도 있을 것입니다.

오픈소스에서 개인적으로 특히 관심이 있는 분야 중 하나는 다음과 같은 최상의 오픈소스 모델을 원한다는 것입니다. 내 휴대폰에서 실행되는 것입니다. 전 세계가 좋은 버전을 개발할 만큼 충분한 기술을 가지고 있지 않다고 생각합니다. 하지만 언젠가는 해야 할 매우 중요한 일인 것 같습니다.

해 주시겠어요? 게시하시겠습니까?

우리도 그럴지, 누가 그럴지 모르겠어요.

라마 3는 어때요?

모바일에서 라마 3는?

아마 70억 개의 파라미터(모바일) 버전이 있는 것 같아요.

예. 휴대폰에 맞는지는 모르겠지만 ......

휴대폰에 맞을 겁니다.

하지만 잘 모르겠어요, 아직 플레이해 보지 않아서 잘 모르겠습니다. 제가 고려하고 있는 것을 달성하기에 충분한지 잘 모르겠습니다.

그래서 라마 3가 출시되었을 때 많은 사람들이 가장 크게 느낀 점은 '와, GPT-4를 따라잡았구나'였던 것 같아요. 모든 면에서 동등하다고 생각하지는 않지만 전반적으로 매우 매우 비슷하죠. 질문은 얼마 전에 4를 출시하셨고, 5 또는 4의 업그레이드 작업을 진행 중이신 것 같습니다. 오픈 소스 환경에서 어떻게 하면 앞서 나갈 수 있는지, 이에 대해 어떻게 생각하시는지 듣고 싶습니다. 매우 어려운 작업인 경우가 많은데 어떻게 생각하시나요?

우리의 목표는 가장 똑똑한 가중치를 만드는 것이 아니라 사람들이 유용한 인텔리전스 계층을 만들어 사용하는 것입니다. 모델은 그 중 하나에 불과합니다. 저는 우리가 이 분야에서 계속 앞서 나갈 것이라고 믿으며, 다른 나라들보다 훨씬 앞서 나갈 수 있기를 바랍니다. 하지만 전체 시스템에는 모델 가중치보다 훨씬 더 많은 것이 있습니다. 다른 비즈니스와 마찬가지로 전통적인 방식으로 지속적인 가치를 구축해야 합니다. 훌륭한 제품과 이를 고수해야 하는 이유를 제시하고, 이를 합리적인 가격에 제공해야 합니다.

이 조직을 시작할 때 목표나 논의한 내용 중 하나는 어느 한 회사에 너무 중요하기 때문에 개방적이어야 한다는 것이었습니다. 그러다가 '아무나 보기에는 너무 위험하기 때문에 폐쇄해야 한다'로 바뀌었는데요. 그게 사실인지 궁금합니다. 냉소적인 쪽에서는 자본주의적 조치라고 말하겠죠. 그렇다면 개방으로 시작하기로 한 결정이 무엇인지 궁금합니다. 세상은 그것을 볼 필요가 있습니다. 폐쇄성은 정말 중요합니다. 우리만 그걸 볼 수 있죠. 그렇다면 어떻게 그런 결론에 도달하셨나요?

ChatGPT를 공개하는 이유 중 하나는 전 세계가 이 사실을 알기를 원하기 때문입니다. 저희는 사람들에게 AI가 정말 중요하다는 것을 알리고자 노력해왔습니다. 2022년 10월로 거슬러 올라가면 당시만 해도 AI가 그렇게 중요할 것이라고 생각하거나 실제로 그렇게 될 것이라고 생각한 사람은 많지 않았습니다. 우리가 시도한 일의 큰 부분은 사람들의 손에 기술을 쥐어주는 것이었습니다. 이제 다시 말하지만, 이를 실현하는 방법에는 여러 가지가 있습니다. 예를 들어 '이런 식으로 하면 이런 일이 일어날 수 있다'는 식의 중요한 역할이 있다고 생각합니다.

하지만 사실 저희는 무료 버전의 ChatGPT를 사용하는 사람들이 너무 많아서 광고를 하지 않고 있습니다. 또한 이를 통해 수익을 창출하려고 하지도 않습니다. 사람들이 이 도구를 사용하기를 바라기 때문에 출시하는 것뿐입니다. 많은 일을 하고 있고, 많은 가치를 제공하고, 사람들에게 낚시하는 방법을 가르쳐주고, 세상이 지금 무슨 일이 일어나고 있는지에 대해 진지하게 생각하게 만드는 역할을 하고 있다고 생각합니다. 현재로서는 아직 모든 해답을 찾지 못했습니다. 저희도 다른 사람들과 마찬가지로 앞으로 나아갈 길을 고민하고 있습니다. 새로운 것을 배우면서 전략을 여러 번 변경할 것입니다.

우리가 OpenAI를 시작할 때, 우리는 정말 일이 어떻게 될지 몰랐고, 우리가 이렇게 될지 몰랐습니다. 언어 모델을 만들게 될지, 제품을 만들게 될지 몰랐죠. 첫날에 '이제야 여기까지 왔구나'라고 생각했던 기억이 생생합니다. 이 모든 것을 준비하기가 정말 힘들었죠. 하지만 이제 어떻게 될까요? 논문을 써야 할지도 모르죠. 화이트보드에 둘러앉아서 회의를 해야 할지도 모르죠. 우리는 단계별로 다음 단계, 다음 단계, 다음 단계가 무엇인지 알아내기 위해 노력해 왔습니다. 앞으로도 계속 그렇게 할 것입니다.

내 말이 제대로 들리는지 다시 한 번 확인해 봐도 될까요? 오픈 소스든 비공개 소스든 이러한 모든 모델은 어떤 비즈니스 의사 결정을 내리든 정확도가 점진적으로 향상된다는 점을 이해합니다. 모든 기업이 적절한 자본력을 갖춘 것은 아니지만, 메타, 구글, 마이크로소프트 등 4~5개 기업 또는 다른 스타트업 한 곳이라고 가정해 보겠습니다. 이 회사들은 모두 오픈 웹에서 운영됩니다. 그러면 매우 빠르게 해당 모델의 정확도나 가치가 사용자가 액세스할 수 있거나 액세스할 수 없는, 또는 다른 사람은 액세스할 수 있지만 사용자는 액세스할 수 없는 이러한 독점적인 학습 데이터 소스로 이동할 수 있습니다.

이렇게 될 것 같나요? 오픈 웹으로 인해 모든 사람이 특정 임계값에 도달하면 데이터에 대한 군비 경쟁이 벌어질까요?

나는 그렇게 생각하지 않습니다. 모델이 충분히 똑똑해진다면 더 많은 데이터를 확보하는 것이 목적이 되어서는 안 되며, 적어도 학습에 사용되는 데이터는 아니기 때문에 데이터 경쟁으로 이어지지 않을 것이라고 단언합니다. 데이터는 가치가 있기 때문에 중요할 수 있습니다. 이 모든 과정에서 제가 배운 가장 중요한 것 중 하나는 향후 몇 년 동안 우리가 어디로 갈지 자신 있게 예측하기 어렵다는 것이므로 지금 당장 시도하고 싶지 않다는 것입니다. 제가 말씀드리고 싶은 것은 전 세계에 매우 유능한 모델들이 많이 등장할 것으로 기대한다는 것입니다. 새로운 자연적 또는 과학적 사실을 발견한 것일 수도 있고, 우리가 만들어낼 수 있는 사실이라고 할 수도 있습니다. 문자 그대로는 아니지만 정신적 요점 같은 것이죠. 지능은 물리학의 법칙과 같은 물질의 새로운 속성입니다. 그래서 사람들은 그것을 알아낼 것입니다. 하지만 시스템을 설계하는 데는 다양한 방법이 있을 것입니다. 사람들은 다양한 선택을 하고 새로운 아이디어를 떠올릴 것입니다. 다른 산업과 마찬가지로 다양한 접근 방식이 존재할 것이고, 사람마다 좋아하는 접근 방식이 다를 것이라고 생각합니다. 어떤 사람들은 아이폰을 좋아하고 어떤 사람들은 안드로이드폰을 좋아하죠. 그렇게 될 것이라고 생각합니다.

이제 첫 번째 부분으로 돌아가서 비용과 속도에 대해 논의해 보겠습니다. 여러분 모두 NVIDIA 처리량에 약간의 비트 전송률 제한이 있으며, 여러분과 대부분의 사람들이 이미 생산할 수 있는 최대 용량을 발표했다고 생각합니다. 컴퓨팅 비용을 실제로 줄이고 속도를 높이며 더 많은 에너지를 얻으려면 기판에서 어떤 일이 일어나야 할까요? 업계가 이러한 문제를 해결하도록 어떻게 도울 수 있을까요?

우리는 분명 알고리즘에서 큰 진전을 이룰 것입니다. 그걸 과소평가하고 싶지 않아요. 저는 칩과 에너지에 관심이 많습니다. 하지만 같은 품질의 모델에서 효율을 두 배로 높일 수 있다면 컴퓨팅 성능이 두 배로 향상되는 것이죠. 앞으로 해야 할 일이 엄청나게 많다고 생각합니다. 실제로 그 결과를 볼 수 있기를 바랍니다. 게다가 전체 공급망은 매우 복잡합니다. 논리적 공장 용량이 있습니다. 허가를 받고, 콘크리트를 타설하고, 데이터 센터를 세우고, 모든 라인을 연결하기 위해 인력을 배치해야 합니다. 마지막으로 에너지가 큰 걸림돌입니다. 하지만 에너지가 인류에게 매우 가치 있는 것이라면 전 세계가 무언가를 할 것이라고 생각합니다. 우리는 더 빨리 실현하기 위해 노력할 것입니다. 가능성은 존재하며 구체적인 확률을 말씀드릴 수는 없지만, 말씀하신 것처럼 이것이 근본적으로 큰 돌파구라고 생각합니다. 이미 더 효율적인 컴퓨팅 방식이 있지만, 저는 그것에 너무 의존하거나 그것에 대해 너무 많은 시간을 소비하고 싶지 않습니다.

기기 측면에서는 휴대폰에 설치할 수 있는 모델을 언급하셨습니다. 당연히 LLM이든 SLM이든 그런 것을 생각하고 계실 거라고 생각합니다. 하지만 디바이스 자체가 바뀔까요? 아이폰처럼 비쌀 필요가 있을까요?

저는 이에 대해 매우 관심이 많습니다. 저는 새로운 형태의 컴퓨팅을 좋아하고 모든 주요 기술 발전은 새로운 것을 가져다주는 것 같습니다. 휴대폰은 정말 훌륭하기 때문에 기대치가 매우 높다고 생각합니다. 개인적으로 아이폰은 인류 역사상 가장 위대한 기술 제품이라고 생각하며, 정말 환상적인 제품입니다.

다음은 무엇인가요?

모르겠어요. 그 이상이면 좋겠지만 기준이 너무 높은 것 같아요.

저는 Johnny Ivey와 함께 일하면서 아이디어에 대해 이야기해 왔지만 새로운 디바이스가 더 복잡해야 하는지, 아니면 더 저렴하고 단순해야 하는지 잘 모르겠습니다. 거의 모든 사람들이 휴대폰에 기꺼이 돈을 지불하기 때문에 더 저렴한 기기를 만들 수 있다면 두 번째 장비를 휴대하거나 두 번째 장비를 사용하는 데 대한 장벽이 상당히 높다고 생각합니다. 따라서 우리 모두가 휴대전화에 기꺼이 비용을 지불할 의향이 있거나 대부분이 그렇다는 점을 고려할 때 더 저렴한 것이 정답은 아니라고 생각합니다.

그렇다면 어떤 차이가 있을까요?

휴대폰에서 실행되고 휴대폰 크기의 AI 모델을 잘 구동할 수 있는 특수 칩이 있을까요?

아마 그럴 수도 있겠지만, 핸드셋 제조업체는 확실히 그럴 것이며 새로운 디바이스가 필요하지 않습니다. 이 기술이 구현할 수 있는 정말 다른 상호작용 패러다임을 찾아야 한다고 생각합니다. 그것이 무엇인지 알았다면 지금 바로 작업을 시작했을 것입니다.

이제 앱에서 음성을 사용할 수 있습니다. 실제로 저는 휴대폰의 동작 버튼을 ChatGPT의 음성 앱으로 바로 이동하도록 설정하고 아이들과 함께 사용하고 있는데, 아이들도 이 앱과 대화하는 것을 좋아합니다. 대기 시간 문제가 있지만 정말 훌륭합니다.

더 잘할 수 있을 것 같아요. 음성은 다음 단계의 힌트라고 생각합니다. 예를 들어 음성 인터랙션을 정말 잘 만들 수 있다면 컴퓨터를 사용하는 또 다른 방식이 될 것입니다.

그러나 이미 겪었던 문제, 즉 왜 반응하지 않는가 같은 문제와 비슷합니다. 그리고 계속 반복되는 CB처럼 느껴집니다. 사용하기는 정말 짜증나지만 정답을 알려줄 때는 정말 훌륭합니다.

이 문제를 해결하기 위해 노력 중입니다. 지금은 투박하고 느리며 유동적이거나 사실적이거나 자연스럽지 않은 느낌이 듭니다. 개선해 나가겠습니다.

컴퓨터 비전은 어떻게 되나요? 관련 장비를 착용할 수 있습니다. 시각 또는 영상 데이터와 음성 데이터를 결합할 수 있습니다.

오늘날의 인공지능은 주변에서 일어나는 모든 일을 이해할 수 있습니다. 예를 들어 "내가 지금 무엇을 보고 있니?"와 같이 멀티모달 디바이스에서와 마찬가지로 ChatGPT에 질문할 수 있습니다. 또는 "이건 어떤 종류의 식물이야?"라고 물어볼 수 있습니다. 이 기능은 매우 강력하다는 것을 인정하지 않을 수 없습니다. 이것은 분명 또 다른 힌트입니다.

하지만 안경을 착용하거나 필요할 때 어떤 종류의 기기를 사용하든 관계없이 많은 대인관계에 많은 문제를 야기하며, 컴퓨터 기기를 착용하는 것은 매우 복잡해질 수 있습니다.

우리는 이미 구글 글래스에서 이러한 문제를 경험한 바 있습니다. 사람들은 작업을 수행할 때 불편함을 경험할 수 있습니다. 구체적인 내용을 잊어버렸네요.

사람들의 휴대폰 등 모든 곳에 AI가 있다면 어떤 앱을 잠금 해제할 수 있을까요? 그런 생각을 해본 적이 있나요? 어떤 앱을 보고 싶으신가요?

저는 항상 켜져 있고, 음성이나 문자를 통해 사용할 수 있는 초저소음 디바이스를 원합니다. 다른 방식으로 상호작용할 수 있는 기기요. 제가 원하는 것이 무엇인지 파악하고 하루를 보내는 데 도움이 되는 지속적인 존재감만 있으면 됩니다. 마치 세상에서 가장 훌륭한 비서처럼 가능한 한 많은 배경 정보를 가지고 있습니다. 그 존재감이 저를 더 나은 사람으로 만들어 줍니다.

사람들은 AI의 미래에 대해 이야기할 때 두 가지 다른 방식을 상상할 수 있습니다. 크게 다르지 않을 것 같습니다. 하지만 실제로는 매우 다른 방식으로 시스템을 설계하게 될 것이라고 생각합니다. 저는 유령이나 분신처럼 자아를 확장하거나, 저를 대신해 행동하고 이메일에 응답하며 저에게 말할 필요도 없는 진짜 저와 같은 무언가를 원합니다. 저를 닮아 점점 더 저를 닮아가는 것 같아요. 반면에 저는 훌륭한 선배 직원을 원합니다. 아마도 저를 잘 알고 있어서 제가 위임할 수 있을 정도일 것입니다. 제 이메일에 접속하면 한계를 말씀드릴 수 있습니다. 하지만 저는 이 조직을 별도의 법인으로 봅니다. 저는 개인적으로 독립된 법인 방식을 선호하며, 그것이 우리가 나아갈 방향이라고 생각합니다.

그러니 그런 의미에서, 그것은 당신이 아니라 항상 준비가 되어 있고, 항상 멋지고, 매우 유능한 조감독이죠.

어떤 면에서 보면, 여러분이 원하는 것을 이해하고, 여러분이 원하는 것을 예측하고, 여러분의 말을 이해하는 에이전트와 같은 존재입니다.

대리인적인 행동이 있을 거라고 생각하지만 선임 직원과 대리인 사이에는 차이가 있습니다.

저는 원하고, 선배 직원들의 장점 중 하나는 저에게 반기를 든다는 점이라고 생각해요. 제가 시키는 대로 하지 않을 때도 있고, 원한다면 그렇게 해도 된다고 말할 때도 있죠. 하지만 제가 그렇게 하면 이런 일이 벌어집니다. 그다음에는 이것, 그다음에는 저것.

정확한가요?

저는 확실히 그런 분위기를 원하고, 제가 임무를 주고 맹목적으로 수행하는 것이 아니라 그런 분위기가 필요합니다. 추론하고 반박할 수 있습니다. 추론할 수 있고, 실제로 유능한 사람과 함께 일할 때 기대할 수 있는 관계처럼 저와 공감대를 형성할 수 있는, 아첨꾼과는 다른 사람입니다.

자비스처럼 추론 능력을 갖춘 도구가 있다면 오늘날 우리가 사용하는 많은 고부가가치 제품의 인터페이스에 영향을 미칠 수 있다는 것은 분명한 사실입니다. 예를 들어, 전 세계 80억 명의 사람들을 대신하여 일하는 유비쿼터스 지능형 에이전트 그룹에 일련의 API를 제공하는 서비스인 Instacart, Uber, DoorDash를 생각해 보세요. 그렇다면 에이전트로서 세상과 상호작용하는 이 새로운 세상에 적응하기 위해 앱의 작동 방식과 전체 경험 인프라에 대한 이해를 어떻게 바꿔야 할까요?

개인적으로는 인간과 AI가 모두 사용할 수 있는 세상을 디자인하는 데 관심이 많습니다. 해석 가능성, 핸드오프의 유동성, 피드백을 제공할 수 있는 기능이 마음에 듭니다. 예를 들어 DoorDash는 향후 개발할 AI 비서에 일부 API를 노출하여 주문 등을 수행할 수 있도록 할 수 있습니다. 저는 휴대폰을 들고 "좋아, AI 어시스턴트, DoorDash에서 주문해줘"라고 말할 수 있습니다. 앱이 열리고 물건이 클릭되는 것을 보고 "아니, 이건 안 돼"라고 말할 수 있습니다. 인간과 AI가 동등하게 사용할 수 있는 세상을 디자인하는 것은 흥미로운 개념이라고 생각합니다.

같은 이유로 저는 다른 형태보다 휴머노이드 로봇에 더 관심이 많습니다. 세상은 인간을 위해 설계되었고 앞으로도 그렇게 유지되어야 한다고 생각해요. 공유 인터페이스는 좋은 생각입니다.

그 결과 음성, 채팅 등의 모드가 앱을 대체하는 것을 볼 수 있을 것입니다. 초밥을 원한다고 말하기만 하면 어떤 초밥을 좋아하는지, 어떤 초밥을 싫어하는지를 알아서 만족시키기 위해 최선을 다할 것입니다.

저는 우리가 완전히 다른 세상에 들어왔다고 상상하기 어렵습니다."라고 말하는 것을 상상하기 어렵습니다. ChatGPT, 초밥 좀 줘"라고 말하는 것은 상상하기 어렵습니다. 그러면 "네, 이 레스토랑에서 주문하시겠습니까? 어떤 종류로, 몇 시에, 뭐든지요."라고 대답합니다. 사용자 입장에서는 시각적 사용자 인터페이스가 여러모로 유용하다고 생각합니다. 화면을 보지 않고 음성 모드만 사용하는 세상은 상상하기 어렵습니다. 하지만 저는 그런 세상을 많이 상상할 수 있습니다.

Apple은 Siri를 시도했습니다. Siri를 사용하면 자동으로 우버를 주문할 수 있다고 하는데, 아무도 그렇게 해본 적이 없는 것 같아요... ...왜 휴대폰에 없는 위험을 감수하겠어요? 말씀하신 것처럼 품질이 좋지 않습니다. 하지만 품질이 충분히 좋으면 실제로 더 가볍기 때문에 더 선호 할 것입니다. 휴대폰을 꺼낼 필요가 없습니다. 앱을 검색해서 누를 필요도 없습니다. 아, 자동으로 로그아웃됩니다. 잠깐, 다시 로그인하세요. 정말 귀찮네요.

Siri로 타이머를 설정하는 것과 같습니다. 정말 잘 작동하기 때문에 매번 이 기능을 사용합니다. 그리고 더 이상의 정보는 필요하지 않습니다. 하지만 우버를 주문할 때는 몇 가지 옵션의 가격을 확인하고 싶었습니다. 이 기술이 얼마나 널리 사용되는지 알아보고 싶어요. 어딘가를 걸어서 갈 수도 있기 때문에 지도상에서 정확히 어디에 있는지 알고 싶기도 합니다. Uber 주문 화면을 보면 오디오 채널을 통해 정보를 얻을 때보다 더 짧은 시간에 더 많은 정보를 얻을 수 있을 것 같아요. 일어나는 일을 지켜보자는 아이디어가 정말 마음에 들어요. 앞으로는 작업마다 다른 인터페이스를 사용하게 되는 변화가 생길 것 같아요. 이런 추세는 계속될 것이라고 확신합니다.

OpenAI로 앱과 경험을 구축하는 개발자 중 눈에 띄는 개발자가 있나요? 비록 장난감 앱일지라도 매우 흥미로운 방향이라고 생각하셨나요? 하지만 여러분이 지적하고 이것이 정말 중요하다고 말한 것이 있나요?

오늘 아침, 사실 아직 회사라고 할 수도 없는 새로운 회사를 만났습니다. 여름 프로젝트에 참여할 두 사람이 실제로 AI 멘토가 되기 위해 노력하는 회사입니다. 저는 항상 이 분야에 관심이 많았어요. 우리 플랫폼에서 많은 사람들이 훌륭한 일을 하고 있죠. 하지만 누군가가 제가 좋아하는 방식으로 전달할 수 있다면, 그리고 제가 좋아하는 문구를 사용했다면, 이것은 사람들이 무언가를 배우는 방식을 몬테소리 수준으로 재창조하는 것과 같을 것입니다. 하지만 사람들이 스스로 새로운 방법을 탐색하고 배울 수 있는 새로운 방법을 찾을 수 있다면 개인적으로 매우 기대가 됩니다.

데본, 앞서 언급하신 많은 코딩 관련 내용들은 정말 멋진 미래의 비전이라고 생각해요. 그 결과 의료 분야도 상당히 많이 바뀔 거라고 생각해요. 하지만 개인적으로 가장 기대되는 것은 더 빠르고 더 나은 과학적 발견입니다. GPT-4가 아직 큰 효과를 발휘하지는 못했지만, 과학자들의 생산성을 높여 과학적 발견을 가속화할 수 있을 것입니다.

Sam ...... 그러면 성공할 수 있을 것입니다. 이러한 모델은 언어 모델과는 다르게 학습되고 구축됩니다. 물론 일부 모델에는 많은 유사점이 있습니다. 하지만 화학적 상호 작용 모델링과 같은 특정 문제 집합, 특정 애플리케이션에 적용되는 일종의 스크래치 아키텍처를 가진 모델도 많이 있습니다. 이러한 모델 중 일부는 반드시 필요할 것입니다.

우리가 논의해 온 많은 것들에서 일반적으로 놓치고 있는 것은 추론할 수 있는 모델이라고 생각합니다. 추론할 수 있는 능력이 생기면 이를 화학적 자극기나 다른 어떤 것과도 연결할 수 있습니다.

예, 이것이 바로 제가 오늘 이야기하고자 하는 모델 네트워크의 중요한 개념입니다. 사람들은 종종 에이전트에 대해 마치 선형적인 호출 함수 집합이 있는 것처럼 이야기합니다. 하지만 생물학에서 등장하는 것 중 하나는 상호 작용이 있는 시스템 네트워크이며, 이 시스템이 저 시스템을 호출하고 저 시스템이 또 다른 시스템을 호출하는 것이 아니라 시스템 ...... 네트워크의 집합이 출력을 생성하는 것입니다. 이 아키텍처에서 추론을 사용하여 더 큰 문제 집합을 해결하기 위해 함께 작동하는 특수 모델 또는 네트워크 모델이 등장하고 있나요? 화학이나 산술과 같은 작업을 수행할 수 있는 계산 모델이 있으며, 모든 것을 지배하는 순전히 일반화된 모델보다는 이를 수행할 수 있는 다른 모델들이 있습니다.

이 추론이 얼마나 널리 일반화된 형태로 변환되는지 잘 모르겠습니다. 저는 회의적이며, 직감과 기대에 가깝고, 만약 그렇다면 훌륭할 것입니다. 잘 모르겠습니다 ......

단백질 모델링을 예로 들어 보겠습니다. 우리는 대량의 훈련 데이터, 단백질 이미지, 서열 데이터를 보유하고 이를 기반으로 예측 모델을 구축하며, 이를 달성하기 위한 일련의 과정과 단계가 있습니다.

문제 해결에 필요한 데이터를 확보하여 하위 모델을 구축하고 문제를 해결하는 방법을 파악하여 문제를 해결하는 일반화된 AI 또는 훌륭한 추론 모델의 존재를 상상해 본 적이 있나요?... ...

이를 달성하는 방법에는 여러 가지가 있습니다. 텍스트 모델을 학습시킬 수도 있고, 대규모 모델만 알고 있을 수도 있습니다. 필요한 다른 학습 데이터를 선택하고 질문을 한 다음 업데이트할 수 있습니다.

진짜 질문은 이 스타트업들이 모두 폐업하는 것일까요? 왜냐하면 많은 스타트업이 특수 데이터를 확보한 다음 그 특수 데이터로 새로운 모델을 처음부터 학습시키는 모델로 일하고 있기 때문입니다. 그리고 나서 한 가지 일만 합니다. 그리고 그 한 가지만 잘 작동합니다. 다른 어떤 것보다 더 잘 작동합니다.

이미 그 버전을 보실 수 있을 것 같습니다.

생물학과 복잡한 시스템 네트워크에 대해 이야기할 때 제가 이해할 수 있는 유일한 이유는 제가 최근에 많이 아팠기 때문입니다. 정말 아팠어요. 지금은 훨씬 나아졌어요. 하지만 몸이 한 번에 한 시스템씩 무너지는 것 같아요. 마치 연쇄적으로 일어나는 것 같아요. 생물학에 대해 이야기할 때, 문제가 생기기 전까지는 이러한 시스템이 서로 얼마나 상호 작용하는지 알 수 없다는 말이 생각납니다. 좀 흥미롭죠.

그러나 당시 저는 무슨 일이 일어나고 있는지 파악하기 위해 ChatGPT를 사용하고 있었어요. 확신할 수 없었어요. 그리고는 논문을 읽어보지도 않고 논문을 발표했죠. '아, 그건 잘 모르겠구나'라고 생각했는데 지금은 그렇게 생각하게 됐죠. 그래서 지금 말씀하신 것처럼 '나는 이것에 대해 잘 모르겠다, 더 많은 정보를 추가할 수 있다, 여기 문맥에 추가하기 위해 모델러를 다시 훈련시킬 필요가 없다'라고 말할 수 있는 작은 버전과 같습니다.

예를 들어 단백질 구조를 예측하는 모델, 예, 이것이 전체 기반입니다. 이제 AlphaFold3에는 다른 분자가 있습니다. 그렇게 할 수 있을까요? 예, 기본적으로 최고의 일반화된 모델이 들어와서 학습 데이터를 얻은 다음 스스로 문제를 해결하는 세상인가요?

소라를 예로 들어 설명해 주시겠어요? 동영상 모델은 놀라운 움직이는 이미지, 움직이는 동영상을 생성하고, 그곳의 아키텍처에 대해 어떤 점이 다른지, 공유하고자 하는 것이 무엇이든, 어떻게 다르게 만들 수 있는지 알려주세요.

그래요, 일반적인 것부터 말씀드리자면 특수 시뮬레이터, 커넥터, 데이터 스니펫 등이 분명히 필요하지만 제게는 직관. 다시 말하지만, 과학적 근거는 없지만 제 직감은 일반화된 추론의 핵심에 도달하여 새로운 문제 영역에 연결할 수 있다면 인간은 일반화된 추론자이기 때문에 더 빨리 풀릴 수 있다고 생각합니다. 하지만 네, 언어 모델에서 시작하지 않습니다. 비디오에 맞게 맞춤화된 모델입니다. 하지만 우리는 아직 그런 세상에 있지 않습니다.

예를 들어, 훌륭한 비디오 모델을 구축하기 위해 여러분은 처음부터 다른 아키텍처와 다른 데이터를 사용했을 것입니다. 하지만 일반화된 추론 시스템, 일명 AGI의 미래에는 시스템이 무엇이든 이론적으로는 이를 달성하는 방법을 이해함으로써 도달할 수 있습니다.

예, 제가 알 수 있는 한 세계 최고의 텍스트 모델은 모두 자동 회귀 모델이라는 점을 예로 들 수 있습니다. 최고의 이미지 및 동영상 모델은 확산 모델입니다. 어떻게 보면 조금 이상하죠.

그래서 훈련 데이터에 대해 많은 논란이 있습니다. 모든 회사 중 가장 배려심이 깊다고 생각하며 현재 FT 등과 라이선스 계약을 체결한 상태입니다. 뉴욕 타임즈 소송에 연루되어 있기 때문에 트레이닝 데이터에 대한 합의에 도달할 수 없을 것 같아서 조금 조심스러워요.

공정 사용의 공정성에 대해 어떻게 생각하시나요? 팟캐스트에서 열띤 토론을 벌였습니다. 라이선스 계약을 통해 공정성을 달성하기 위해 노력하는 것은 분명한 사실입니다. 그렇다면 아름다운 음악, 가사, 책을 창작하는 아티스트의 권리에 대한 개인적인 입장은 무엇인가요? 이러한 권리를 이용해 파생 상품을 만든 다음 수익을 창출하는 것에 대해 어떻게 생각하시나요? 무엇이 공정한가요? 아티스트가 콘텐츠를 만든 다음 다른 사람들이 그 콘텐츠로 무엇을 하기를 원하는지 결정하는 것을 어떻게 허용할 수 있을까요?

이 문제에 대해 사려 깊은 분이라는 것을 알기에 개인적인 소신이 궁금할 뿐입니다. 우리 업계의 다른 많은 사람들이 콘텐츠 크리에이터에 대해 사려 깊은 시각을 가지고 있지 않다는 것을 알고 있습니다. 따라서 사람에 따라 매우 다를 것이라고 생각합니다.

공정 사용에 관해서는 현행법상 매우 합리적인 입장을 가지고 있다고 생각하지만, AI는 매우 다르다고 생각합니다. 하지만 예술과 같은 것들에 대해서는 다르게 생각해야 합니다.

하지만 인터넷에서 수학을 많이 읽고 수학하는 방법을 배웠다고 가정하면 대부분의 사람들에게 탄핵할 수 없을 것 같습니다. 하지만 다르게 볼 수 있는 또 다른 그룹이 있습니다. 사실 이 답변이 너무 길어지지 않도록 하기 위해 이에 대해서는 자세히 설명하지 않겠습니다.

그래서 저는 인간 지식의 범위가 넓다고 말하는 사람들이 있다고 생각하는데, 이런 말을 할 수 있습니다. 피타고라스의 정리를 배우면 그게 바로 열린 분야라고 말할 수 있습니다. 이것이 스펙트럼의 한쪽 끝입니다. 스펙트럼의 다른 극단은 예술이라고 생각하는데, 좀 더 구체적으로 말하자면 다른 예술가의 스타일이나 닮은꼴로 예술을 제작하는 시스템인 메이킹이 가장 극단적이라고 할 수 있습니다. 그리고 스펙트럼의 중간에는 훨씬 더 많은 경우가 있습니다.

역대에는 학습 데이터에 대한 논의가 주를 이루었지만, 학습 데이터의 가치가 감소함에 따라 추론할 때 어떤 일이 일어나는지에 대한 논의로 점점 더 옮겨갈 것입니다. 시스템이 실시간으로 상황에 맞는 정보에 액세스하거나 유사한 조치를 취하는 것, 추론할 때 어떤 일이 일어나는지, 새로운 경제 모델이 어떻게 될 것인지에 대해 더 많은 논의가 이루어질 것입니다.

예를 들어 테일러 스위프트 스타일로 나를 작곡해줘요. 노래를 작곡해 달라고 하면 모델이 테일러 스위프트 노래에 대해 훈련받은 적이 없더라도 모델이 테일러 스위프트에 대해 읽었을 수도 있고, 그녀의 주제, 테일러 스위프트의 의미를 알고 있을 수도 있다는 문제에 부딪히게 됩니다. 다음 질문은 모델이 테일러 스위프트 노래에 대해 훈련받은 적이 없는데도 이 작업을 수행하도록 허용해야 할까요? 그렇다면 테일러 스위프트에게 그에 따른 보수는 어떻게 지급해야 할까요?

이 상황에 대해서는 우선 옵트인 또는 옵트아웃이 있어야 하고, 그다음에는 경제적인 모델이 있어야 합니다. 음악을 예로 들어 역사적 관점에서 살펴볼 가치가 있는 흥미로운 것이 있는데, 바로 샘플링과 샘플링과 관련된 경제학이 작동하는 방식입니다. 똑같은 것이지만 흥미로운 출발점입니다.

샘, 제가 한번 도전해 보겠습니다.

자신이 제시한 예시에서 무엇이 다른가요? 모델은 노래의 구조, 리듬, 멜로디, 화음, 관계를 학습하고 음악을 작동하게 하는 모든 기본 구조를 발견한 다음 학습 데이터를 사용하여 새로운 음악을 만듭니다. 반면 인간은 많은 음악을 들으면 두뇌가 모두 동일한 예측 모델을 처리하고 구축하는데, 이는 모두 동일한 발견 또는 이해입니다. 여기서 차이점은 무엇일까요? 아티스트에게 고유한 대가를 지불해야 한다고 말하는 이유는 샘플링 상황도 아니고, AI가 출력물을 가지고 있지 않으며, 모델에 실제 원곡이 저장되어 있지 않기 때문입니다.

예, 학습 구조입니다.

그래서 저는 인간이 다른 인간으로부터 영감을 받는 것처럼, 그 점을 강조하려고 하는 것이 아닙니다. 테일러 스위프트 스타일의 곡을 만들어달라고 말하는 거라면 말이죠.

알겠습니다. 그래서 일부 아티스트를 활용하라는 팁이 나온 것 같아요.

개인적으로는 다른 상황이라고 생각합니다.

음악을 입력한 아티스트에게 로열티를 지불하지 않고 인간이 만든 전체 음악 코퍼스를 사용하여 음악 모델을 훈련시키는 것이 더 낫다고 생각하시나요?

그렇다면 아티스트에게 특정 단서를 요청할 수 없다면, '상당히 현대적이고 가슴 아픈 이야기를 담은 멋진 팝송을 여성의 목소리로 들려주세요'라고 말할 수 있습니다

우리는 지금은 음악을 만들지 않기로 결정했습니다. 부분적으로는 어디에 선을 긋는가 때문이죠.

최근 제가 정말 존경하는 뮤지션 몇 명을 만났는데, 이런 극단에 대해 이야기하고 싶어서요. 만약 우리가 훌륭한 트레이닝 세트를 만들기 위해 10,000명의 뮤지션에게 돈을 주고 음악을 만든다고 가정하면, 음악 모델은 강력한 노래 구조에 대한 모든 것을 배울 수 있습니다. 좋은 비트와 캐치한 비트를 만드는 방법 등 모든 것을 배울 수 있습니다. 그리고 우리가 여전히 멋진 음악 모델을 만들 수 있다고 가정하고 그것에 대해서만 훈련하면 됩니다. 저는 뮤지션들에게 사고 실험의 일환으로 이 방법을 제시했습니다. 그 당시에는 어떤 원칙에 대해서도 반대할 수 없었죠. 하지만 여전히 마음에 들지 않았어요. 그렇다고 해서 안 할 이유가 없는 것은 아닙니다. 하지만 그렇죠.

아마 어제쯤에 공개된, 인류의 모든 것을 압축한 광고 Apple를 보신 적이 있나요? 창의력을 아주 얇은 iPad에 압축한 광고를 보셨나요?

어떻게 생각하시나요?

사람들은 이에 대해 매우 흥분하고 있습니다.

예. 생각보다 반응이 뜨겁습니다.

저는 분명히 AI에 대해 매우 낙관적이지만 인간의 창의성과 인간의 예술적 표현에는 놀라운 점이 있다고 생각합니다. 과학 연구를 더 잘할 수 있는 AI가 있다면 정말 멋진 일이죠. 하지만 AI가 인간의 깊고 아름다운 창의적 표현 수준에 도달할 수 있다면, 어떻게 그렇게 될지 명확히 해야 한다고 생각합니다. 인공지능은 우리를 더 높은 창의성의 경지로 이끄는 도구가 될 것입니다. 하지만 우리 모두가 소중히 여기는 정신을 보존하는 방식으로 이를 실현할 수 있는 방법을 찾아야 한다고 생각합니다.

당신의 행동은 매우 설득력이 있다고 생각합니다. 저희는 스타워즈에 등장하는 캐릭터를 DALL-E에 표현하려고 노력하고 있습니다. 다스 베이더에게 물어보면 '그건 안 돼요'라고 말할 거예요. 그래서 내부적으로 레드 팀이나 다른 이름으로 부르면 되겠죠. 그런 시도는 해봤어요. 네, 다른 사람의 지적 재산을 사용하는 것을 허용하지 않습니다. 그래서 그렇게 결정하셨군요.

p> 이제 제다이 불독이나 시스 로드 불독을 만들어 달라고 요청하면 (제가 했던 것처럼) 제 불독이 시스 불독으로 바뀝니다.

님 말씀에 대한 흥미로운 질문이네요, 맞습니다. 어제 저희는 모델이 어떻게 작동해야 하는지 명시한 사양이라는 것을 발표했습니다. 어려운 작업입니다. 매우 긴 문서입니다. 각각의 경우에 정확히 어디까지가 한계인지 명시하는 것은 매우 어렵습니다. 더 많은 의견이 필요한 논의라고 생각합니다.

다스 베이더가 아닌 시스 고귀한 마스터, 시스 스타일의 물건 또는 Jedi. 기사 아이디어는 현재 문화의 일부처럼 여겨지고 있으며, 이는 어려운 결정입니다.

예, 맞습니다. 음악 업계에서는 이번 기회를 테일러 스위프트의 노래를 자신의 것으로 만들 수 있는 기회라고 생각할 것입니다. 이는 기존 예술의 새로운 혁신을 활용하는 네 부분으로 구성된 공정 사용 테스트의 일부입니다. 디즈니는 소라의 아쇼카 버전이나 오비완 케노비를 만들려고 한다면 디즈니에게도 기회가 될 수 있다고 주장합니다. 훌륭한 파트너십이죠.

이 섹션은 AI와 법률로 표시할 것 같아요.

그렇다면 좀 더 수준 높은 질문을 해보겠습니다. 사람들이 AI를 규제한다는 것은 무엇을 의미하나요? 원하신다면 캘리포니아에서 새로 제안한 규제에 대해 의견을 말씀해 주실 수도 있습니다.

저는 이에 대해 매우 우려하고 있습니다. 많은 규정이 제안되었지만 캘리포니아에 관한 내용은 대부분 제가 우려하는 내용입니다. 또한 각 주에서 자체적으로 이러한 규제를 시행할 것이라는 점도 우려됩니다.

사람들이 AI를 규제하고 싶다고 말할 때 특정 한 가지를 의미하지는 않는다고 생각합니다. 어떤 사람들은 모든 것을 금지해야 한다고 생각합니다. 어떤 사람들은 오픈 소스를 허용하지 말고 오픈 소스로만 사용해야 한다고 말할 것입니다. 제가 개인적으로 가장 관심 있는 것은 제가 틀릴 수도 있다고 말하는 사람들이 있을 거라는 점입니다. 저는 그것이 미래지향적인 발언이라는 것을 알고 있습니다. 그리고 그런 발언을 하는 것은 항상 위험합니다. 하지만 머지않은 미래에, 그리고 지금부터 수십 년 후를 말하는 것이 아니라 최첨단 AI 시스템이 전 세계적으로 심각한 해를 끼칠 수 있다고 말하는 날이 올 것이라고 생각합니다. 이러한 시스템의 경우 핵무기나 합성 생물학처럼 한 국가를 훨씬 넘어서는 매우 부정적인 영향을 미칠 수 있는 것들에 대해 전 세계적으로 감독을 받고 있습니다. 저는 가장 강력한 시스템을 다루고 합리적인 안전 테스트가 수행되도록 보장하는 국제기구를 기대합니다. 이러한 시스템은 자동으로 회피하거나 스스로 개선되지 않습니다.

그러나 이에 대한 비판은 호의를 이끌어내고 로비하고 관여할 수 있는 자원이 있고 정치인들과 가깝지만, 스타트업의 경우 열정과 투자에도 불구하고 이에 대응할 수 있는 충분한 자원이 없습니다. 이러한 규제 포획 현상은 작년 연설에서 빌 걸리(Bill Gurley)가 지적한 바 있습니다.

이 문제를 정면으로 다룰 수 있을 것입니다. 100억 달러 이상 또는 1000억 달러 이상의 가치가 있는 컴퓨터로 훈련된 모델에만 집중한다면 저는 그것에 만족할 것입니다. 그 정도는 감수할 수 있는 선입니다. 스타트업에 대한 규제 부담은 전혀 없다고 생각합니다.

p>핵폭탄을 만들 수 있는 핵 물질을 인구의 일부만 가지고 있다면 핵 사찰관 상황과 비슷한 비유를 사용할 수 있습니다. 흥미로운 지적이라고 생각합니다.

한 가지 더 말씀드려도 될까요? 물론이죠. 저는 과도한 규제에 대해 매우 우려하고 있습니다. 우리가 너무 많은 일을 하고 있는 것 같고, 조금이라도 지나치면 모든 것이 잘못될 수 있다고 생각합니다. 우리가 충분히 하지 않으면 잘못될 수 있다고 생각합니다. 하지만 다른 영역에서 규제의 과잉이나 통제가 정말 나빠지는 것을 보았기 때문에 그 중 일부는 ...... 이라고 생각합니다.

그리고 어쩌면 아무 일도 일어나지 않을 수도 있습니다. 하지만 일어날 수 있다고 생각하는 일과 그 일을 실현하기 위해 무엇이 필요한지에 대해 이야기하는 것이 우리의 의무이자 사명이라고 생각합니다.

샘, 문제는 우리에게는 사람들을 보호하고 커뮤니티 전체를 보호하는 법령이 있다는 것입니다.

그러나 우리가 추진 중인 법령은 정부에 영업 비밀에 대한 접근 및 감사 권한을 부여하고 있습니다. 이런 수준의 법안은 이전에 본 적이 없습니다. 기본적으로 캘리포니아에서 제안되고 있는 법안과 연방에서 제안되고 있는 일부 법안은 기본적으로 정부가 모델을 감사하고, 소프트웨어를 감사하고, 모델의 매개변수와 가중치를 감사하고 검토하도록 요구합니다. 그런 다음 상업적 또는 공공용으로 배포하려면 이러한 절차를 거쳐야 합니다.

저에게 이것은 정부 기관을 통제하여 공포를 조성하려는 것처럼 느껴집니다. 사람들은 이를 이해하기 어렵고 그 영향을 두려워하기 때문에 이를 통제하고 싶어 합니다. 그리고 그것을 통제할 수 있는 유일한 방법은 공개하기 전에 감사 권한을 주는 것입니다.

그래요, 그들은 아무것도 몰라요. 이 사람들은 아무것도 몰라요. 이런 글을 읽으면 기겁을 하게 되죠. 아시다시피 12개월이 지나면 이런 내용들은 어차피 말이 안 되니까요. 제가 큰 그림의 문제에 대해 법률처럼 작성하는 대신 에이전트 기반 접근 방식을 추진하는 이유는

저는 이 사람들이 이 사람들이 실제 전문가라고 해도 12개월 또는 24개월 안에 제대로 할 수 있다고 생각하지 않습니다. 저는 그렇게 생각하지 않습니다. 저희는 이러한 정책을 검토하고, 모든 소스 코드를 전체적으로 점검하고, 소유권 가중치를 하나하나 살펴볼 것입니다. 특히 모델이 지속적으로 재교육되고 더욱 역동적으로 변하고 있기 때문에 말도 안 되는 제안이 많이 나온다고 생각합니다. 그렇기 때문에 저는 이것이 합리적이라고 생각합니다.

항공기가 인증을 받기 전에 일련의 안전 테스트를 진행하여 해당 테스트를 통과하도록 합니다. 이는 모든 코드를 읽는 것과는 완전히 다른 과정입니다. 모델 내부를 들여다보는 것이 아니라 모델의 결과물을 검토하는 것입니다.

그래서 안전 테스트를 하는 것이 합리적이라고 생각합니다.

그래서 샘, 어떻게 해야 할까요?

저는 OpenAI뿐만 아니라 업계 전체, 더 나아가 인류를 대표해서 이 자리에 왔습니다. 저는 성장 잠재력이 크고 인류에게 큰 혜택을 줄 수 있는 이 기술을 제한하면 암흑기에 빠질 수 있다고 우려합니다. 그렇다면 이를 어떻게 바꾸고 실현할 수 있을까요?

정부 차원의 개발 속도가 너무 빠르다 보니 사람들이 잘못 이해하고 있는 것 같고, 저는 그런 점이 걱정됩니다. 그런 점에서 샘, 예를 들어 라마의 아키텍처 결정은 매우 흥미롭습니다. 저희는 라마가 최대한 제약을 적게 받으면서 성장할 수 있도록 할 것이기 때문입니다. 또한 라마 가드라고 부르는 보호용 가드레일도 있습니다.

문제 해결을 위한 올바른 방법은 무엇이라고 생각하시나요?

지금과 같은 모델의 강점으로는 분명 문제가 있습니다. 저는 이를 가볍게 여기거나 심각하게 받아들이고 싶지 않습니다. 하지만 GPT-4 수준의 모델과 관련된 치명적인 위험에 대해서는 걱정하지 않습니다. 배포를 위한 안전한 옵션이 많이 있다고 생각합니다.

그렇게 표현하면 공통점을 더 많이 찾을 수 있을 것 같습니다. 저는 그런 식으로 사용되지 않더라도 재귀적으로 자기 개선하거나 생물학적 무기를 자율적으로 설계하고 배치할 수 있는 능력과 기술력을 갖춘 모델의 구체적인 예가 마음에 듭니다. 아니면 새로운 모델을 만들 수도 있습니다. 이것이 바로 재귀적 자기 개선의 핵심입니다.

우리는 국제적 차원에서 모델의 결과물을 보안 테스트해야 합니다. 위협이 될 수 있기 때문입니다. 물론 GPT-4와 같은 것이 위협이 없다고 생각하지는 않습니다. 위협이 없다고 말하는 것은 우리가 생각하지 않기 때문에 위협이 없다고 말하는 것이 아닙니다. 이런 모델을 출시할 수 있는 안전한 방법이 많이 있다고 생각합니다.

그러나 비행기나 다른 사례처럼 큰 인명 손실이 발생할 가능성이 있는 경우에는 비행기를 탈 때 비행기에 대해 생각하지 않고 안전할 것이라고 가정하는 것과 같은 일종의 테스트 프레임워크가 있으면 좋겠다고 생각합니다.

샘, 지금 고용에 대해 많은 우려가 있습니다. YC에 있는 동안 UBI에 대한 테스트를 많이 하셨잖아요. 곧 결과가 나올 거예요. 이 연구는 5년 전에 끝났거나 시작된 연구라는 점을 말씀드리고 싶어요. 처음에는 베타 연구였다가 장기 연구로 이어졌습니다. 하지만 이 모든 과정을 통해 무엇을 배웠나요?

실제로 이 모든 것을 시작하게 된 이유는 무엇인가요? 보편적 기본소득(UBI) 연구를 시작한 이유를 설명해 주시겠어요?

우리는 2016년에 인공지능에 대해 진지하게 생각하기 시작했을 때쯤 이 문제에 대해 생각하기 시작했습니다. 사회와 경제에서 고용의 변화로 인해 발생할 수 있는 변화의 규모, 그리고 더 깊은 의미(예: 사회 계약이 어떻게 변화할 것인가)에서 우리는 이러한 새로운 변화를 조직하는 방법에 대한 아이디어를 탐구하는 많은 연구를 수행해야 한다는 이론입니다.

저는 가난한 사람들을 돕기 위해 고안된 대부분의 정책에 대한 정부의 열렬한 지지자는 아니라는 사실을 인정해야 합니다. 저는 사람들에게 돈을 줄 수 있다면 그들이 올바른 결정을 내릴 것이고 시장이 작동할 것이라고 믿는 편입니다. 저는 빈곤을 없애지는 못하더라도 최저 생활 수준을 높이고 빈곤을 줄이는 데 매우 찬성합니다. 하지만 기존의 사회안전망보다 더 나은 방법과 대처 방안이 있는지 관심이 있습니다.

저는 사람들에게 돈을 준다고 해서 모든 문제가 해결될 것이라고 생각하지 않으며, 모든 사람들이 행복해지지도 않을 것이라고 생각합니다. 하지만 일부 문제를 해결하고 사람들이 스스로를 도울 수 있는 더 나은 관점을 갖게 할 수는 있습니다. 저는 그 점에 관심이 있습니다.

2016년은 아주 오래 전의 일이지만, 이제 우리는 그 실현 가능성을 몇 가지 보고 있다고 생각합니다. 이제 AI가 진화하는 몇 가지 방법을 보고 있으니 전통적인 UBI 개념보다 더 나은 방법이 있지 않을까 궁금합니다. 예를 들어, 미래는 기본소득보다는 일반 기본소득에 더 가깝지 않을까 싶습니다. 모든 사람이 GPT-7 컴퓨팅의 일부를 받고, 이를 사용하거나 재판매하거나 암 연구를 위해 누군가에게 기부할 수 있습니다. 하지만 달러 대신 생산성의 일부를 얻게 됩니다. 예, 생산성의 일부를 소유하게 됩니다.

오케이, 가십을 이야기해 봅시다. 지난 11월로 돌아가 봅시다. 실제로 무슨 일이 있었나요?

구체적인 질문이 있으시면 기꺼이 답변해 드리고, 언젠가 그 얘기를 하겠다고 말씀드린 적이 있습니다.

그래요, 그게 요점입니다. 무슨 일이 있었나요? 해고되었다가 돌아와 보니 궁궐의 음모였어요. 누가 뒤통수를 쳤나요? 궁극의 인공 지능(AGI)을 발견하셨나요? 무슨 일이 있었나요? 안전한 공간이에요.

저 해고됐어요. 다시 돌아오겠다고 말했는데, 너무 좌절해서 무엇을 하고 싶은지 잘 모르겠더라고요. 하지만 저는 OpenAI와 그곳의 사람들이 정말 마음에 들었고, 다시 돌아올 거라는 것을 깨달았고, 힘들 거라는 것도 알았어요. 생각했던 것보다 훨씬 더 힘들었어요. 하지만 저는 괜찮다고 생각했어요. 저는 돌아오기로 결정했죠. 이사회가 결정을 내리는 데 시간이 좀 걸렸어요. 그리고 나서 고객을 위한 일을 계속하기 위해 팀을 하나로 모으는 과정이었죠. 그런 다음 다른 계획을 세우기 시작했고, 이사회는 다른 임시 CEO를 고용하기로 결정했습니다. 세상에, 그 사람 이름이 뭐였죠? 그의 존재감은 위협적이었는데 정말 대단했어요. 좋은 말밖에 할 말이 없네요.

해고 소식은 어디서 들으셨나요?

주말에 라스베이거스의 호텔 방에 있을 때 알게 되었습니다. 문자 메시지를 받았는데 화재 픽업이라고 하더군요. 제가 해고되었는지 아닌지 생각하기도 전에 이런 일이 일어난 것 같아요. 이 상황이 지겨운 것 같아요. 네, 문자를 받았어요 아뇨, 그냥 이상한 일이었어요.

그래, 누가 이 문자를 보냈나요?

사실은 전날 밤에 문자를 받았습니다. 그리고 이사회에 전화를 걸었죠. 그리고 그게 끝이었죠. 그리고 나서 모든 게 미쳐버렸어요. 제 전화기가 작동하지 않았어요. 문자나 전화처럼 계속 진동이 울렸어요.

기본적으로는 트윗으로 인해 해고된 것이죠. 트럼프 행정부에서 이런 일이 몇 번 있었습니다.

그들이 트윗을 올리기 전에 저에게 전화를 했지만 괜찮았어요. 그 후 저는 호텔 방에서 몇 시간 동안 완전히 정신이 나간 상태로 지냈어요. 너무 혼란스러워서 어떻게 해야 할지 몰랐어요. 정말 이상했어요.

그런 다음 집으로 돌아와 오후 3시쯤 비행기를 탔을 거예요. 여전히 정신없이 전화가 계속 울리고 또 울렸어요. 몇몇 사람들을 직접 만났어요. 하루가 끝날 무렵 저는 AGI 연구를 해야겠다고 생각했고, 미래에 대해 매우 행복했습니다. 네, 저에게는 선택권이 있습니다.

그리고 다음 날 아침, 저는 이사회 멤버 몇 명과 전화 통화를 하며 다시 돌아오는 것에 대해 이야기했습니다. 며칠간 혼란스러웠죠. 그러다가 일이 잘 풀린 것 같아요. 그 사이에는 정말 정신없는 일이 많았죠.

그 중 얼마나 많은 부분이 비영리 이사회 멤버들 때문이었나요?

우리는 비영리 이사회가 한 명뿐입니다. 그래서 모두 비영리 이사회 멤버입니다. 이사회는 6명으로 줄었습니다. 그러자 이사회에서 그렉을 해임하고 저를 해고했어요.

그렇다면 이사회에 비영리 단체 경험만 있는 사람들과 기업가 경험이 있는 사람들 사이에 문화 충돌이 있을까요? 원한다면 이사하게 된 동기를 공유할 수 있을까요?

문화적인 충돌은 항상 있었다고 생각합니다. 물론 모든 이사회 멤버가 제가 좋아하는 사람들은 아니지만, 저는 그들이 AGI에 접근하는 진지함과 AI 보안의 중요성에 대해 많은 존경심을 가지고 있습니다. 그들의 결정과 행동에 완전히 동의하지 않을 때에도 안전하고 유익한 AGI라는 공동의 사명에 대한 그들의 진실성이나 헌신을 의심해 본 적은 없습니다.

이 과정에서 올바른 결정을 내렸다고 생각하나요? 가 모든 옳은 일을 해야 한다고 생각하나요? 아니요. 하지만 저는 그들이 의도를 가지고 있었고, AGI 규모에서 의도를 가지고 있었고, 제대로 해냈다고 생각합니다.

사실, 하나만 물어보겠습니다. OpenAI의 미션은 명백히 AGI를 만드는 것인데, 정말 흥미롭다고 생각해요. 많은 사람들이 인공 지능(AGI)을 만들면 무언가 잘못되어 의도치 않은 결과가 나올 것이라고 생각하죠. 그들은 그것을 극도로 두려워합니다. 하지만 OpenAI는 이를 실제 임무로 보고 있습니다. 그래서 자신이 하고 있는 일에 더 두려움을 느끼나요? 그것이 동기를 부여할 수도 있다는 것을 이해하지만 어떻게 조정할 수 있을까요? 왜 이것이 미션인지 궁금합니다.

먼저 대답하고 싶은 것은 두려움을 많이 유발한다는 것입니다. 전 세계의 많은 사람들이 AGI는 물론 현재의 인공지능에 대해 매우 두려워하고 있으며, 동시에 인공지능이 어디로 가고 있는지에 대해 매우 흥분하고 있고, 더 나아가 두려움과 흥분을 동시에 느끼고 있다고 생각합니다. 저희도 그 점에 대해 고민하고 있습니다. 하지만 피할 수 없는 변화라고 생각합니다. 또한 큰 도움이 될 것이라고 생각합니다. 하지만 우리는 합리적인 방식으로 거기에 도달하는 방법을 찾아야 합니다. 많은 것이 바뀔 것이고, 변화는 사람들을 불편하게 만들 수 있습니다. 그래서 우리는 바로잡아야 할 것들이 많이 있습니다.

다른 질문을 해도 될까요? 여러분은 가장 핫한 회사 중 하나를 만들었습니다. 그리고 여러분은 그 중심에 서 계십니다. 하지만 경제적 관점에서 볼 때, 당신은 그 가치를 모두 피하고 있다는 점이 매우 독특합니다. 이에 대해 조금 더 자세히 말씀해 주시겠어요?

예, 그 당시에 주식이 있었다면 그 질문에 답할 필요가 없었을 텐데 하는 아쉬움이 남습니다. 시간을 되돌릴 수 있다면 ......

왜 지금 보조금을 주지 않나요? 왜 이사회는 당신에게 마땅히 받아야 할 거액의 옵션 보조금을 주지 않나요? 당시의 결정은 무엇이었나요? 그게 왜 그렇게 중요했나요?

당시의 결정은 처음에는 단순히 우리 비영리 단체의 구조 때문이었습니다. 동기 부여 측면에서는 괜찮았죠. 하지만 우리 이사회에는 대부분 무관심한 이사들이 필요했어요. 그래서 저는 괜찮다고 생각했습니다. 지금은 지분은 필요 없으니까요. 저는 조금 ...... 하지만 ......

그러나 이런 이상하게도 회사를 운영하면서 진짜 동기가 뭐냐는 이상한 질문이 떠오르기도 하죠 ......

정확히 맞습니다.

이것은 너무 심오하다 ...... 제가 느낀 것 중 하나는 사람들이 "돈이 더 필요 없어요"라고 말하는 것을 상상하기 어렵다는 것입니다. 얼마나 무신경한 말투인지도 알고 있습니다... 사람들이 불순한 동기가 있다고 생각하는 것 같아요. 맞아요 그럼... 돈을 벌기 위해 또 뭘 하고 있냐고요? 그냥 OpenAI로 1조 달러를 벌겠다고 하면 모두가 더 쉽게 이해할 수 있을 것 같아요. 음모론도 많이 사라질 겁니다.

샘, 당신은 대단한 거래 설정자입니다. 저는 당신의 커리어 전체를 지켜봤어요. 당신은 이 일을 잘해요. 당신은 이 모든 관계를 가지고 있죠. 당신은 돈을 모으는 데 정말 능숙해요. 정말 잘하시죠. 조니 아이비도 있었고, 회사에 투자하고, 공을 굴리고, 팹을 짓기 위해 7조 달러를 모금하고, 그런 모든 것들을 하셨죠. 이 모든 요소를 합치면...

농담입니다. 물론 7조 달러를 모금하지 않았으니 시가총액이나 그와 비슷한 수준일 수도 있습니다. 하지만 그건 제쳐두고, 중요한 건 이 모든 거래를 성사시켰다는 점입니다. 어떤 동기로 인해 사람들이 여러분을 불신하게 되었나요? OpenAI에서 결국 떠나게 된 기회는 무엇인가요? 샘이 가져야 할 기회 중 비영리 단체 사람들이 당신을 신뢰하지 않는 기회는 무엇인가요? 그런 일이 있었나요?

우리가 디바이스 회사이거나 칩 제조 회사와 무언가를 하고 있다면 그건 샘의 프로젝트가 아닙니다. OpenAI가 그 지분을 갖게 되는 것처럼요. 그들이 가져갈 겁니다.

그러나 대중의 인식은 그렇지 않아요. 여러분처럼 하루 종일 이런 일에 댓글을 다는 사람들의 인식이 아닙니다. 아직 발표하지 않았기 때문에, 완료되지 않았기 때문에 그럴 수 있습니다. 전 세계 대부분이 이에 대해 생각하고 있지 않다고 생각합니다. 하지만 기술 논객들 사이에서 많은 음모론을 불러일으켰다는 점에는 동의합니다.

시간을 되돌릴 수 있다면 저는 공정하게 이 문제를 관점으로 바라보겠다고 말할 것입니다. 그리고 저는 여전히 AGI를 정말 좋아하고 세상에서 가장 흥미로운 직업이라고 생각하기 때문에 이 일을 계속할 것입니다. 하지만 최소한 모두에게 경종을 울릴 수는 있겠죠.

그래서 칩 프로젝트는 무엇인가요? 7조 달러입니다. 7조 달러라는 수치는 어디에서 나온 것일까요?