孫悟空がバイクに？中国、文化的古典を歪曲するAI操作動画を標的に

中国、古典映画やドラマを狙ったAI操作動画を取り締まる

中国政府は、メディアにおける人工知能（AI）の利用を規制するため、短編動画プラットフォームをターゲットにした取り組みを強化している。

当局が特に注目しているのは、中国の古典的な映画やテレビドラマをAIがアレンジした動画で、原作を歪曲し、知的財産権を侵害していると主張している。

全米ラジオ・テレビ局（NRTA）は最近、人気のある短編動画プラットフォームに対し、伝統的な物語や文化的アイコンを誤って表現するAIが作成したコンテンツを特定し、削除するよう求めた。

この動きは、エンターテインメント空間における人工知能の使用に対する北京の監視の高まりを反映している。

例えば、『西遊記』に登場する伝説の人物、孫悟空がオートバイに乗っているシーンなどだ。

また、『西遊記』の中心人物である唐僧・三蔵法師が女性にキスをするなどの行為をしている描写もある。

このような描写は単に伝統的でないだけでなく、宗教的・文化的規範と衝突する。

クラシックを歪めるAIビデオ

NRTAの取り締まりは、AIの独創的な操作の他の例にも及んでいる。

たとえば、『ゼン・ファン伝説』を銃撃戦アクション映画に、『紅楼夢』を武侠スリラーに、といった具合だ。

この変更はオリジナルの物語から大きく逸脱しており、これらの象徴的な作品の精神を損なう危険性がある。

政権側は、このような改造を文化的冒涜行為だと真っ向から批判した。

NRTAによれば、こうしたAIが生成した動画は、オンライン上の再生回数やトラフィックを追うために使用されているが、従来の物語を誤って表現したり歪曲したりすることで、倫理的な境界を越えている。

さらに、知的財産権を侵害する可能性もある。

この問題に対処するための具体的な方策が示されている。

各プラットフォームは、AIが生成した動画コンテンツの監査を実施し、2024年12月10日を期限として、調査結果と誤解を招く素材を削除する努力を報告することが義務づけられた。

プラットフォームはまた、AI編集技術やエフェクトなどの生成的AIツールの使用が政府の規制に準拠していることを保証し、AI生成コンテンツの厳格な審査プロセスを遵守しなければならない。

これらのツールは、コンテンツがAIによって生成されたものであるかどうかを視聴者に明確に示す必要がある。

AI操作の法的意義

法律の専門家たちは、AIが生成する翻案の侵害リスクについて懸念を示している。

上海の夏海龍弁護士は、このような改変は原作者のネットワーク配信権や翻案権を侵害し、著作権を侵害する可能性があると指摘した。

さらに、AIが生成したシーンで本物の俳優の肖像を無断で使用することは、個人の肖像権の侵害や風評被害にもなりかねない。

いわゆる "AIキス "ビデオの蔓延も懸念されている。

AIを使って登場人物が親密なやりとりをするシーンを人工的に生成したこれらの作品は、ショートビデオプラットフォームで大流行した。

調査によると、このようなコンテンツの多くは無許可の第三者アカウントによって作成されており、多くの場合、不適切な領域に踏み込んだセンセーショナルな内容や低俗な内容を宣伝している。

こうしたビデオを開発している企業のひとつは、世論の反発や政府の圧力に応えて、すでに特定のキーワードの検閲を始めている。

大衆メディアへのAIの幅広い影響力

Douyin（ByteDanceが所有するTikTokに相当する中国語）やKuaishouのようなプラットフォームの人気は問題を増幅させており、両社はコンテンツを作成するために独自のAI技術を開発している。

ByteDanceは最近、Jimeng AI、Seaweed、PixelDanceと呼ばれる一連のAIツールを発表し、Kuaishouは今年初めに独自のジェネレーティブAIプラットフォームKlingを発表した。

両プラットフォームは、そのツールがオンライン・ネットワークに溢れるAI生成メディアの量に貢献しているとして、批判の的となっている。

中国はAIを規制するために世界的に最も厳しいアプローチを採用しており、特にコンテンツ制作におけるAIの悪用に取り組んでいる。

2023年8月に導入された「ジェネレーティブAIサービスの管理に関する暫定措置」では、企業は社会主義的価値観に沿った価値観を維持することが求められている；

さらに2024年3月、北京はAIが生成した誤解を招くコンテンツを一掃するキャンペーンを開始し、AIを風説の流布やマーケティング操作に悪用するアカウントをブロックした。

今回の取り締まりは、北京がAIを使ったメディアを不健全なものと見なし、歴史や文化、伝統的な物語を歪曲するような動画がネット上で広く拡散するのを防ぐことを目的としている。