2024년 글로벌 AI 개발에서 주목할 만한 트렌드는 무엇인가요?

출처: 메타버스의 심장

예측이란 언제나 어려운 일이며, 특히 AI처럼 빠르게 진화하는 산업에서는 더욱 그렇습니다. 하지만 새해를 맞이하여 지난 12개월 동안 AI가 얼마나 발전했는지, 그리고 2024년에는 어떤 일이 벌어질지 되돌아보는 것은 좋은 일입니다.

2023년은 의심할 여지 없이 AI의 획기적인 해이지만, 두려움과 추측이 헤드라인을 지배하는 경향이 있습니다.

01. AI '종말론자'

2023년은 AI가 인류에게 실존적 위험을 초래할 수 있다고 경고하며 이름을 알린 Eliezer Yudkowsky와 같은 온라인 논객이 등장하면서 AI 종말론자들이 부상한 해였습니다. 명성을 얻었습니다.

기술 업계의 리더들은 많은 기대를 모았던 공개 서한을 발표하며 이러한 비관적 분위기에 힘을 보탰습니다. 공개 서한은 전문가들이 위험을 평가하고 안전 프로토콜을 개발할 수 있도록 가장 강력한 인공지능 연구를 6개월간 유예할 것을 촉구했습니다.

이 제안의 장점이 무엇이든 간에, AI에 제동을 걸기는 쉽지 않을 것입니다. 설령 정치적으로 AI의 진로를 막는 것이 가능하다고 해도, 그렇게 하는 것은 전략적 실수가 될 수 있습니다.

또한, 인공지능을 멈춰야 한다고 적극적으로 주장하는 사람들조차 이 아이디어를 진지하게 받아들이지 않는 것 같습니다. 엘론 머스크와 같이 서한에 서명한 사람들은 이와 상관없이 여전히 자체 AI 모델을 추진하고 있습니다. 머스크의 xAI 회사에서 개발한 AI 챗봇인 Grok이 가장 최근의 예입니다.

둠사이징을 둘러싼 분위기는 2023년 대중의 관심을 한 몸에 받고 있는 효과적인 이타주의(EA) 운동에 의해 크게 촉진되었습니다. 그러나 이 운동은 막대한 자금력과 권력 구조에 대한 영향력 확대에도 불구하고 지난 몇 년 동안 좋은 성과를 거두지 못했습니다.

오픈AI의 CEO 알트먼이 해고되었다가 EA 계열사 이사회에 의해 다시 고용된 무능함과 암호화폐 사기꾼 샘 뱅크먼-프라이드와 EA의 밀접한 관계는 이 운동이 항상 광고만큼 효과적이거나 이타적인 것은 아니라는 것을 보여줬습니다. 둠사이징의 흥망성쇠는 모호한 사이비 철학과의 연관성 여부에 달려 있지 않습니다. 많은 AI 위험이 실제로 존재하며 어쨌든 심각하게 받아들여야 한다는 것은 의심의 여지가 없습니다. 특히 국가 안보에 대한 AI의 영향은 가장 우려되는 분야일 것입니다.

AI는 핵심 인프라에 대한 새로운 유형의 사이버전을 가능하게 하고, 위험한 생화학 무기 개발을 촉진할 수도 있습니다. 또한 AI는 고도화된 선전과 심도 있는 위조를 통해 정보 전쟁을 새로운 차원으로 끌어올릴 것입니다.

다시 말해, 생체인식 기술이 일상 생활에 스며들기 시작하면서 할리우드 공상 과학 영화에나 등장하던 일이 빠르게 현실이 되고 있습니다. 공항에서는 이미 안면 인식 기술이 보편화되고 있고, 법 집행 기관에서는 인공지능이 널리 사용되고 있으며, 이는 어쩌면 '대량 감시 국가'의 도래를 예고하고 있는지도 모릅니다.

넷플릭스의 종말론적 신작 '디스커넥트'는 미스터리한 파괴 기술에 직면한 사회의 붕괴를 묘사합니다. 예술은 삶을 모방하고 삶은 예술이 아닌 방법을 보여줍니다.

02. 논란은 계속된다

내년 주요 격전지 중 하나는 개방형과 폐쇄형 인공지능 시스템 간의 싸움이 될 것이다.

아이러니하게도 OpenAI와 그 파생 모델인 Anthropic은 폐쇄적인 블랙박스 모델을 대표하는 반면, Meta와 같은 기업은 개방성을 추구합니다. 불투명한 시스템(예: ChatGPT)이 널리 보급될지, 아니면 투명한 시스템(예: Meta의 LLaMa)이 널리 보급될지는 규제가 큰 영향을 미칠 것입니다.

유럽연합의 곧 발표될 인공지능 법안은 정책 입안자들이 규제와 혁신의 균형을 맞추는 데 직면한 트레이드 오프(trade-off)를 드러냅니다. 과도한 규제는 실리콘밸리의 거대 기술 기업에게는 유리할 수 있지만, 스타트업과 오픈소스 경쟁자들에게는 피해를 줄 수 있습니다.

유럽이 AI 분야에서 혁신을 이루기 위해서는 프랑스의 미스트랄 AI와 같은 신생 기업이 번창할 수 있는 경쟁 시장을 조성해야 합니다. 반대로 EU의 관련 법안은 이러한 유망한 기업을 사라지게 만들 수도 있습니다.

미국의 경우, 조 바이든 대통령이 최근 발표한 AI 관련 행정명령은 대부분 구체적인 내용을 담고 있지 않지만 2024년까지 시행될 규제를 담고 있어 미국의 AI 정책 지형을 뒤흔들 것으로 보인다.

편견과 차별과 같은 일부 이슈를 둘러싼 논쟁은 예측 가능한 당파적 노선을 따라 진행될 가능성이 높지만, 저작권과 지적 재산권을 둘러싼 까다로운 문제는 더 복잡합니다.

뉴욕타임즈는 획기적인 사건이 될 수 있는 첫 번째 저작권 소송을 OpenAI와 그 파트너인 Microsoft를 상대로 제기했습니다.

이 소송은 신문사의 기사를 AI 알고리즘 훈련에 사용한 것에 대한 것으로, 뉴욕타임스는 이것이 저작권 침해라고 주장하고 있습니다. 이 문제가 해결되기까지 1년간 치열한 법적, 규제적 다툼이 벌어질 것으로 예상됩니다.

또 다른 논란은 AI 모델에 전력을 공급하기 위해 거대한 데이터 센터가 필요하고, 이는 많은 양의 전력을 소비하기 때문에 업계의 에너지 사용 증가와 관련해서도 일어날 것입니다.

AI 에너지 사용에 대한 논쟁은 암호화폐 자산 채굴로 인한 환경 피해에 대한 논쟁과 밀접하게 연관될 가능성이 높습니다. '컴퓨팅'에 대한 경쟁이 새로운 차원에 도달함에 따라 이 문제는 더욱 분열될 것입니다.

03. 향후 전망

이러한 논란에도 불구하고 2024년은 합리성과 뉘앙스가 다시 AI 정책의 중심으로 돌아오는 해가 될 것입니다.

미국과 유럽은 여전히 자유를 보호하면서 AI의 이점을 보장하는 신중한 거버넌스 전략을 개발할 수 있습니다. 하지만 그러기 위해서는 지도자들이 근거 없는 감정이 아닌 사실과 증거에 기반한 논의를 해야 합니다.

맹목적인 낙관주의와 지나친 비관주의는 신중한 해결책을 찾는 데 방해가 될 수 있습니다. 2024년은 인공지능이라는 양날의 검에 대한 사회의 대응에 있어 중추적인 해가 될 것입니다.