주요 AI 변경 사항이 구현되지 않으면 지구상의 모든 사람이 죽을 것이라고 인공 지능 전문가에게 경고

인공 지능 과학자가 빠르게 확장되는 기술의 미래에 대해 중대한 경고를 하고 있습니다. Time Magazine의 최근 사설에서 AI 선구자 Eliezer Yudkowsky는 AI를 구축하는 데 사용되는 기존 방법과 구조가 인류를 심각한 위험에 빠뜨리고 있다고 주장합니다.

Yudkowsky는 AI 개발 중단을 촉구하는 Future of Life Institute의 공개 서한을 인용합니다. 그는 편지가 불충분하다고 느끼기 때문에 편지에 서명하지 않았다고 주장합니다.

"저를 포함하여 이러한 문제에 몰두한 많은 연구자들은 현재 상황과 원격으로 유사한 모든 환경에서 초인간적으로 똑똑한 AI를 구축하면 문자 그대로 지구상의 모든 사람이 죽을 것이라고 믿습니다."

Yudkowsky는 AI가 인간을 전멸시킬 가능성이 희박하거나 심지어 통계적으로 유의미한 가능성을 언급하는 것이 아니라고 주장합니다. 오히려 당연한 결과라고 주장한다.

"현재 상황에서 나는 누군가가 지나치게 강력한 AI를 개발한 직후 인류의 모든 구성원과 지구상의 모든 생물학적 생명체가 죽을 것으로 예상합니다."

Yudkowsky에 따르면 자기 인식 및 강력한 신흥 AI 시스템에 대한 잘못된 정보가 많이 있으므로 엔지니어는 즉시 일시 중지하고 보호 장치를 설치하여 기술과 지구상의 생명을 보존하는 방법을 알아낼 것을 권장합니다.

Elon Musk를 포함하여 1,000명 이상의 AI 전문가, 학계, 지지자 및 기술 기업가가 AI 개발 중단을 요구하는 공개 서한에 서명했습니다. Midjourney와 같은 AI 기반 그림 생성 도구의 사용 증가와 OpenAI의 대규모 언어 모델 ChatGPT의 빠른 채택으로 인해 최근 몇 달 동안 인공 지능의 힘, 약속 및 가능한 위험이 폭발적으로 증가했습니다.

OpenAI와 100억 달러 규모의 합병에 이어 Microsoft는 ChatGPT 사용 사례를 Bing 및 Office 365와 통합하여 확장하는 데 앞장서고 있습니다.