로그인/ 가입하기

시카고 대학교 연구진, AI로부터 아티스트의 디지털 작품을 보호하는 나이트셰이드 도구 개발

24/10/2023 05:56

코인텔레그래프에 따르면, 시카고 대학교의 연구원들은 개발자가 인공지능(AI) 시스템을 훈련하는 데 사용하는 것을 막기 위해 아티스트가 디지털 아트를 '포이즌'할 수 있는 나이트쉐이드라는 도구를 만들었다고 합니다. 이 도구는 AI 학습에 사용되는 데이터 세트를 잘못된 정보로 오염시켜 AI 시스템이 이미지를 잘못 해석하도록 하는 방식으로 이미지를 변경합니다. 예를 들어, 이 툴은 AI가 고양이 사진을 실제로는 개라고 믿게 만들 수 있으며, 그 반대의 경우도 마찬가지입니다. 결과적으로 정확하고 합리적인 결과물을 생성하는 AI의 능력이 손상될 수 있습니다. 사용자가 오염된 AI에 '고양이' 이미지를 요청하면 고양이로 표시된 개 또는 AI 학습 세트에 있는 모든 '고양이'의 조합(실제로는 Nightshade가 수정한 개 이미지 포함)을 받을 수 있습니다. 코넬 대학교의 교수인 비탈리 슈마토코프는 연구자들이 '아직 이러한 공격에 대한 강력한 방어책을 찾지 못했다'고 말하며, OpenAI의 ChatGPT와 같은 강력한 모델도 취약할 수 있음을 시사했습니다.시카고 대학교의 교수인 벤 자오가 이끄는 나이트셰이드 연구팀은 기존의 아티스트 보호 소프트웨어인 Glaze를 확장했습니다. 이전 연구에서는 아티스트가 작품의 스타일을 난독화하거나 '글레이즈'할 수 있는 방법을 개발했습니다. 나이트셰이드는 현재 웹에서 무료로 사용하거나 다운로드할 수 있는 글레이즈에 통합될 예정입니다.

강세

약세