18개국, 안전한 AI 시스템 개발을 위한 글로벌 가이드라인 발표

코인텔레그래프에 따르면 미국, 영국, 호주 및 기타 15개 국가가 AI 모델이 변조되지 않도록 보호하는 데 도움이 되는 글로벌 가이드라인을 발표하고 기업들이 모델을 "설계부터 안전하게" 만들 것을 촉구했습니다. 11월 26일, 18개국은 빠르게 변화하는 업계에서 "보안은 종종 부차적인 고려사항이 될 수 있다"고 주장하면서 AI 기업이 AI 모델을 개발하거나 사용할 때 사이버 보안을 어떻게 처리해야 하는지 설명하는 20페이지 분량의 문서를 발표했습니다. 이 가이드라인은 AI 모델의 인프라를 엄격하게 관리하고, 출시 전후에 모델의 변조 여부를 모니터링하며, 사이버 보안 위험에 대한 직원 교육을 실시하는 등 대부분 일반적인 권장 사항으로 구성되었습니다. 이미지 생성 모델과 딥페이크의 사용, 데이터 수집 방법 및 학습 모델에서의 사용 등 AI 분야에서 논란이 되고 있는 특정 이슈에 대해서는 언급하지 않았는데, 이는 여러 AI 기업이 저작권 침해 소송을 제기한 바 있는 문제입니다. 알레한드로 마요르카스 미국 국토안보부 장관은 성명에서 "우리는 우리 시대의 가장 중요한 기술이 될 수 있는 인공 지능 개발의 변곡점에 서 있습니다."라고 말했습니다. "사이버 보안은 안전하고 안전하며 신뢰할 수 있는 AI 시스템을 구축하는 데 있어 핵심입니다." 이 가이드라인은 이달 초 런던에서 열린 AI 안전 서밋에서 정부와 AI 기업이 만나 AI 개발에 대한 합의를 조율하는 등 AI와 관련된 다른 정부 이니셔티브에 이어 나온 것입니다. 한편, 유럽연합은 이 분야를 감독할 AI 법안의 세부 사항을 마련 중이며, 조 바이든 미국 대통령은 10월에 AI 안전 및 보안에 대한 표준을 설정하는 행정 명령을 발표했지만, 두 법안 모두 혁신을 저해할 수 있다는 AI 업계의 반발을 불러일으키고 있습니다. 캐나다, 프랑스, 독일, 이스라엘, 이탈리아, 일본, 뉴질랜드, 나이지리아, 노르웨이, 한국, 싱가포르 등이 새로운 '설계상 보안' 가이드라인에 공동 서명했습니다. OpenAI, Microsoft, Google, Anthropic, Scale AI를 비롯한 AI 기업들도 가이드라인 개발에 기여했습니다.