오토바이를 탄 원숭이 왕? 중국, 문화 고전을 왜곡하는 AI 조작 동영상 단속에 나서다

중국, 고전 영화와 드라마를 노린 AI 조작 동영상 단속에 나서다

중국 정부는 짧은 동영상 플랫폼을 대상으로 미디어에서 인공지능(AI) 사용을 통제하기 위한 노력을 강화하고 있습니다.

중국 당국은 특히 중국 고전 영화와 드라마를 AI로 변형한 동영상이 원작을 왜곡하고 지적 재산권을 침해하고 있다고 주장하며 집중하고 있습니다.

최근 미국 라디오 및 텔레비전 관리국(NRTA)은 인기 있는 단편 동영상 플랫폼에 전통 이야기나 문화적 아이콘을 잘못 표현하는 AI 제작 콘텐츠를 식별하고 삭제할 것을 요청했습니다.

이러한 움직임은 엔터테인먼트 분야에서의 인공 지능 사용에 대한 중국의 면밀한 조사를 반영합니다.

이 공지는 서유기의 전설적인 인물인 손오공이 오토바이를 타는 장면이 등장하는 등 이야기의 서사를 기괴하게 왜곡하는 등 문제가 되는 사례를 지적했습니다.

또 다른 예로는 서유기의 중심인 승려 당산장이 여성과 키스하는 등의 행위를 하는 장면을 묘사한 작품이 있습니다.

이러한 묘사는 단순히 전통적이지 않을 뿐만 아니라 종교적, 문화적 규범과도 충돌합니다.

클래식을 왜곡하는 AI 동영상

NRTA의 단속은 AI의 창의적 조작에 대한 다른 사례로 확대됩니다.

'총격 액션 영화'로 변신한 '전환의 전설', 무협 스릴러로 재탄생한 '붉은 방의 꿈' 등 유명 드라마의 AI 버전이 소개됩니다.

이러한 변화는 원작의 내러티브에서 크게 벗어난 것으로, 이러한 상징적인 작품의 정신을 훼손할 위험이 있습니다.

정부는 이러한 변경을 문화 모독 행위로 규정하며 직접적으로 비판했습니다.

NRTA에 따르면 이러한 AI 생성 동영상은 온라인 조회수와 트래픽을 쫓는 데 사용되고 있지만, 전통적인 내러티브를 잘못 표현하고 왜곡하여 윤리적 경계를 넘나들고 있다고 합니다.

또한 지적 재산권을 침해할 수 있습니다.

이 문제를 해결하기 위한 구체적인 방안이 마련되었습니다.

이제 플랫폼은 2024년 12월 10일까지 AI가 생성한 동영상 콘텐츠에 대한 감사를 실시해야 하며, 그 결과와 오해의 소지가 있는 자료를 삭제하기 위한 노력을 보고해야 하는 기한이 정해져 있습니다.

또한 플랫폼은 AI 생성 콘텐츠에 대한 엄격한 검토 절차를 준수해야 하며, AI 편집 기술이나 효과와 같은 생성 AI 도구의 사용이 정부 규정을 준수하는지 확인해야 합니다.

이러한 도구에는 콘텐츠가 AI로 생성된 것인지 시청자에게 명확하게 표시해야 합니다.

AI 조작의 법적 의미

법률 전문가들은 AI가 생성한 적응의 침해 위험에 대해 우려를 제기하고 있습니다.

상하이의 변호사 샤하이롱은 이러한 변경은 원작자의 네트워크 배포권이나 각색권을 침해하여 저작권을 침해할 수 있다고 지적했습니다.

또한 AI가 생성한 장면에서 실제 배우의 초상을 무단으로 사용하는 것은 개인의 초상권 침해 및 명예 훼손에 해당할 수 있습니다.

소위 'AI 키스' 동영상이 널리 사용되는 것에 대한 우려도 있습니다.

AI를 사용하여 캐릭터가 친밀한 상호작용을 하는 장면을 인위적으로 생성하는 이 영화는 단편 동영상 플랫폼에서 입소문을 타고 있습니다.

조사에 따르면 이러한 콘텐츠의 대부분은 승인되지 않은 제3자 계정에 의해 생성되며, 종종 부적절한 영역으로 넘어가는 선정적이거나 저속한 자료를 홍보하는 것으로 나타났습니다.

이러한 동영상을 개발하는 한 회사는 대중의 반발과 정부의 압력에 대응하여 이미 특정 키워드를 검열하기 시작했습니다.

대중 미디어에 대한 AI의 광범위한 영향력

더우인(중국판 틱톡, 바이트댄스 소유)과 콰이쇼우 같은 플랫폼의 인기로 인해 두 회사 모두 콘텐츠 제작을 위한 자체 AI 기술을 개발하면서 이슈가 증폭되고 있습니다.

바이트댄스는 최근 지멩 AI, 씨위드, 픽셀댄스라는 AI 도구 세트를 출시했으며, 콰이쇼우는 올해 초 자체 제너레이티브 AI 플랫폼인 클링을 출시했습니다.

두 플랫폼 모두 온라인 네트워크에 넘쳐나는 AI 생성 미디어의 양에 기여하는 도구로 인해 면밀한 조사가 이루어지고 있습니다.

중국은 AI를 규제하기 위해 전 세계에서 가장 엄격한 접근 방식을 채택하고 있으며, 특히 콘텐츠 제작에 있어 AI의 오용 문제를 해결하고 있습니다.

2023년 8월에 도입된 '생성적 AI 서비스 관리를 위한 임시 조치'에 따라 기업은 '사회주의적 가치'에 부합하는 가치를 유지해야 합니다;

또한 2024년 3월, 중국은 오해의 소지가 있는 AI 생성 콘텐츠를 제거하고 루머 유포나 마케팅 조작에 AI를 악용하는 계정을 차단하는 캠페인을 시작했습니다.

이번 단속은 중국이 '불건전'하다고 간주하는 AI 생성 미디어 사용을 겨냥한 것으로, 역사, 문화 또는 전통 이야기를 왜곡하는 동영상이 온라인에서 널리 퍼지는 것을 방지하는 것을 목표로 하고 있습니다.