グーグル、検索結果のAIディープフェイクの管理を強化

グーグルは、無許可でAIが生成したディープフェイクを管理する取り組みを強化している。同社は、そのようなコンテンツをホストするウェブサイトを検索結果から降格または削除する新たな対策を実施している。

ディープフェイクを理解する

ディープフェイクとは、ジェネレーティブAIを使用して作成されたメディアで、本物そっくりの動画、写真、音声クリップを生成する。これらは、スカーレット・ヨハンソンやジョー・バイデンのような公人をフィーチャーすることが多く、驚くべきことに、時には子どもを巻き込むこともある。

グーグルによる削除プロセスの強化

最近のブログ投稿でグーグルは、人々は以前から同意のない露骨な画像の削除を要求することができたと説明した。現在、このプロセスを合理化する新しいシステムが導入され、ユーザーがより広い規模でこの問題に対処できるようになっている。

ウェブサイトの可視性への影響

Googleの広報担当者は、複数の削除要請を受けたサイトは、その可視性に影響が出る可能性があるとDecryptに伝えた。これらのサイトは低品質とみなされる可能性があり、Googleはこれをランキングシステムに反映させ、検索結果におけるサイトの優位性を低下させます。

明示的検索結果のフィルタリング

グーグルは、非合意のディープフェイク・コンテンツの削除要請を受けると、類似の検索結果もフィルタリングし、露骨なコンテンツが表示されにくくなるようにする。このシステムは、有害なコンテンツが検索結果に表示されるのを防ぎ、なりすまされた個人を保護するレイヤーを提供することを目的としている。

SAG-AFTRAが支持を表明

エンターテインメント業界は、グーグルの新しいポリシーを賞賛している。SAG-AFTRAのような組織は、無許可のデジタル複製から保護する措置を支持し、業界全体の協力にとって重要な成果であると評価している。

課題への取り組み

グーグルが直面している課題のひとつは、非合意のディープフェイクと、映画のヌードシーンのような合意または合法的なコンテンツを区別することである。にもかかわらず、グーグルは、本物のコンテンツと露骨な偽物をよりよく区別するためにアルゴリズムを改良し続けている。

コラボレーションと業界標準

グーグルは、他のAI開発企業とともに、自社のモデルが児童性的虐待素材（CSAM）のような有害なコンテンツを生成しないようにすることを約束した。同社はCSAMを検出しブロックするために、業界標準に準拠したハッシュ技術を採用している。

専門家の意見

Media MedicのCEOであるベン・クレイトン氏は、ディープフェイク対策は継続的な課題であると指摘する。グーグルのアップデートは前向きな一歩ですが、有害なコンテンツの拡散を防ぐためには継続的な改善が必要です。この技術はプライバシーやセキュリティ、さらにはディープフェイクが証拠を捏造する可能性のある司法制度にもリスクをもたらす。

立法への取り組み

政策立案者も反応している。マリア・キャントウェル上院議員はCOPIED法を提出し、AIが生成したコンテンツに電子透かしを入れる標準的な方法を提案した。このイニシアチブは、個人の肖像を無断利用から保護することを目的としている。