인간이 AI에 대한 통제력을 상실할 경우 필요한 비상 계획

9월 16일, 주요 기업 연합이AI 과학자들의문 는 AI 시스템이 인간의 통제를 벗어날 경우 발생할 수 있는 '재앙적 결과'의 위험을 완화하기 위해 글로벌 감독 시스템을 구축할 것을 촉구했습니다.

이들은 자신들이 개발한 기술이 제대로 관리되지 않으면 심각한 위협이 될 수 있다는 우려를 표명했습니다.

그리고문 읽습니다:

"이러한 인공지능 시스템을 인간이 통제하지 못하거나 악의적으로 사용하면 인류 전체에 재앙적인 결과를 초래할 수 있습니다. 안타깝게도 우리는 아직 이러한 첨단 지능의 사용을 통제하고 보호하는 데 필요한 과학을 개발하지 못했습니다."

과학자들은 국가 당국이 AI 관련 사고와 위험을 감지하고 대처할 수 있는 역량을 갖춰야 한다고 강조했습니다.

그들은 또한 다음과 같은 사태를 방지하기 위해 '글로벌 비상 계획'을 개발해야 한다고 주장했습니다.AI 모델 잠재적인 글로벌 재앙적 위험을 안고 있습니다.

그들이 말했듯이:

"장기적으로 국가는 전 세계에 재앙적 위험을 초래할 수 있는 모델의 개발을 막기 위해 국제 거버넌스 체제를 개발해야 합니다."

AI 안전은 글로벌 공공재

이 성명은 미국의 비영리 연구 기관인 Safe AI Forum이 주최한 세 번째 행사로, 9월 초 베니스에서 열린 AI 안전에 관한 국제 대화에서 논의된 내용을 바탕으로 작성되었습니다.

존스 홉킨스 대학교의 길리안 해드필드 교수는 다음 게시물에서 이 문제의 시급성을 강조했습니다.X(이전의 트위터) :

"우리는 재앙적인 AI 사건의 발생 가능성에 동의할 필요는 없으며, 국제적인 AI 사건 발생 시 공동 대응이 필요한 글로벌 프로토콜을 마련해야 한다는 데 동의해야 합니다."

그리고문 는 다음과 같이 강조합니다.AI 안전은 글로벌 공공재이므로 국제적인 협력과 거버넌스가 필요합니다:

"AI로 인한 이러한 위험의 글로벌한 특성으로 인해 AI 안전을 글로벌 공공재로 인식하고 이러한 위험에 대한 글로벌 거버넌스를 위해 노력해야 합니다. 우리는 함께 힘을 모아 언제 닥칠지 모르는 재앙적 위험을 피할 수 있도록 준비해야 합니다."

AI 개발자들은 세 가지 중요한 프로세스를 설명했습니다:

미국, 캐나다, 중국, 영국, 싱가포르 및 기타 국가의 30명 이상의 서명자가 지지한 이 성명서에는 최고의 AI 연구 기관, 대학 및 여러 튜링상 수상자의 전문가가 포함되어 있습니다.

과학자들은 초강대국 간의 과학적 균열이 커지고 미국과 중국 간의 불신이 증가함에 따라 다음에 대한 합의에 도달하기가 더 어려워 졌다고 지적했습니다.AI 위험.