26세 전 OpenAI 연구원의 ChatGPT와 저작권 문제에 관한 마지막 글, 사망 후 새로운 주목을 받다

전 OpenAI 연구원의 비극적인 죽음으로 AI 윤리에 대한 의문 제기

26세의 전 OpenAI 연구원 수치르 발라지의 사망으로 인공지능 개발을 둘러싼 윤리적 딜레마가 다시금 주목받고 있습니다.

지난 11월 26일 샌프란시스코 아파트에서 숨진 채 발견된 발라지는 최근 AI 기업의 저작권 자료 사용에 대한 우려를 제기하는 데 앞장섰던 인물입니다.

샌프란시스코 경찰국은 그의 죽음을 자살로 규정했으며, 타살의 증거는 없다고 밝혔습니다.

AI에 대한 열정을 가진 젊은 신동

발라지는 캘리포니아 쿠퍼티노에서 자란 인도계 미국인입니다.

어릴 때부터 프로그래밍에 두각을 나타낸 그는 2018 ACM ICPC 월드 파이널 31위, 2017 태평양 북서부 지역 및 버클리 프로그래밍 경연대회 우승 등의 영예를 안았습니다.

그의 성과는 미국 교통안전국(TSA)이 후원하는 캐글의 '승객 검색 알고리즘 챌린지'에서 7위를 차지하며 10만 달러의 상금을 획득하는 데까지 이어졌습니다;

발라지는 10대 시절 신경망에 관한 뉴스 기사에서 영감을 받아 AI에 입문하게 되었습니다.

10월에 뉴욕 타임즈와의 인터뷰에서 그는 다음과 같이 말했습니다,

"저는 AI가 질병 치료나 노화 방지와 같은 풀리지 않는 문제를 해결하는 데 사용될 수 있다고 생각했습니다. 이런 문제를 해결하는 데 도움을 줄 수 있는 일종의 과학자를 발명할 수 있다고 생각했습니다."

그의 열정은 2020년에 OpenAI에 합류하기 전 Scale AI와 Quora에서 근무하는 것으로 이어졌습니다.

핵심 기여자에서 보컬 비평가로

발라지는 OpenAI에서 4년간 근무하는 동안 회사의 챗봇인 ChatGPT를 학습시키는 데 사용되는 방대한 데이터 세트를 큐레이팅하는 작업을 했습니다.

처음에는 공개적으로 사용 가능하고 저작권이 있는 데이터를 AI 학습에 사용하는 것을 지지했지만, 2022년 말 ChatGPT가 공개된 후 그의 견해가 바뀌었습니다.

발라지는 이러한 관행이 크리에이터에게 해롭고 법적으로도 문제가 있다고 생각하기 시작했습니다.

2024년까지 발라지는 저작권이 있는 자료의 사용에 대해 깊은 우려를 표명하며, 이러한 행위가 법률을 위반하고 인터넷 생태계에 부정적인 영향을 미친다고 공개적으로 밝혔습니다.

출처:수치르 발라지의 블로그

그는 지난 10월 X(구 트위터)에 올린 글에서 AI 기업들이 '공정 사용'에 의존하는 것에 대한 정당성에 의문을 제기하며 다음과 같이 썼습니다,

"공정 사용은 학습된 데이터와 경쟁하는 대체물을 만들 수 있다는 기본적인 이유 때문에 많은 생성형 AI 제품에 대해 꽤나 믿을 수 없는 방어책처럼 보입니다."

발라지는 지난 8월 다른 일자리를 구하지 못한 채 OpenAI에서 사임했다고 뉴욕타임스에 설명했습니다,

"내가 믿는 것을 믿는다면 그냥 떠나야 합니다."

이후 그는 개인 프로젝트를 진행하기 시작했고, AI 개발의 윤리적 관행을 공개적으로 옹호하기 시작했습니다.

AI 개발을 둘러싼 법적, 윤리적 갈등

발라지의 비판은 OpenAI를 비롯한 AI 기업들이 직면하고 있는 법적 문제와 맞물려 있습니다.

출판사, 작가, 예술가들이 제기한 소송의 물결은 이 거대 기업이 저작권이 있는 자료를 불법적으로 사용했다고 비난했습니다.

주목할 만한 원고로는 뉴욕 타임즈와 존 그리샴 같은 작가가 있으며, 이들은 ChatGPT와 같은 AI 모델이 자신들의 상업적 생존 가능성을 위협한다고 주장하고 있습니다.

그러나 OpenAI는 이러한 관행을 옹호합니다.

이러한 비난에 대해 회사는 다음과 같이 밝혔습니다,

"저희는 공정 사용 및 관련 원칙에 따라 보호되고 오랫동안 널리 받아들여진 법적 판례의 지원을 받아 공개적으로 사용 가능한 데이터를 사용하여 AI 모델을 구축합니다."

다보스 행사에서 연설한 OpenAI의 CEO 샘 알트먼은 이렇게 말했습니다,

"우리는 실제로 그들의 데이터로 학습할 필요가 없습니다. 특정 트레이닝 소스가 있다고 해도 그다지 큰 도움이 되지 않습니다."

이러한 안심에도 불구하고 발라지는 생성형 AI 시스템이 모방한 저작권이 있는 저작물과 직접 경쟁하여 콘텐츠 제작자에게 피해를 입히는 경우가 많다고 주장했습니다.

블로그와 인터뷰를 통해 공유된 그의 비판은 부정확하거나 조작된 정보, 즉 연구자들이 '환각'이라고 부르는 정보를 생성하는 AI 기술의 위험성을 강조했습니다;

출처:수치르 발라지의 블로그

법적 압박으로 인한 사망

발라지의 사망 시기는 OpenAI와 관련된 법적 소송이 진행 중인 시기와 맞물려 주목을 받았습니다.

발라지는 세상을 떠나기 하루 전, 회사를 상대로 제기한 소송과 관련된 법원 서류에 이름을 올렸습니다.

당국은 사인을 자살로 결론 내렸지만, 정황상 그가 직면한 개인적, 직업적 압박에 대한 추측이 이어지고 있습니다.

업계, 발라지의 유산을 되돌아보다

발라지의 갑작스러운 죽음은 기술 커뮤니티에 충격파를 불러일으키며 AI 연구자와 기업의 윤리적 책임에 대한 성찰을 촉구했습니다.

Stability AI의 전 부사장도 비슷한 우려를 표명하며 생성 AI 시스템 개발 방식에 더 큰 책임감을 요구했습니다.

OpenAI의 대변인은 다음과 같이 슬픔을 표했습니다,

"오늘 이 믿을 수 없을 정도로 슬픈 소식을 접하게 되어 큰 충격을 받았으며, 이 어려운 시기에 수치르의 사랑하는 가족들에게 위로의 마음을 전합니다."

발라지의 가족, 친구, 동료들에게 그의 죽음은 뛰어난 인재이자 윤리적 AI 관행에 대한 열정적인 옹호자를 잃은 것을 의미합니다.

사회에서 AI의 역할에 대한 논의가 계속되는 가운데, 저작권 자료에 대한 업계의 의존도에 대한 발라지의 비판과 더 엄격한 윤리적 감독에 대한 그의 요구는 AI의 미래에 대한 지속적인 논의의 중심이 되고 있습니다.