WeChat、AIを使って有名人の推薦を偽装したとして209のアカウントを閉鎖

WeChat、AIが生成した有名人のモノマネによる詐欺マーケティングを取り締まる

中国のソーシャルメディア・プラットフォームWeChatは、AIが生成した有名人のなりすましが悪質なマーケティング行為に利用される問題が拡大していることに対処するため、断固とした措置をとった。

2024年12月15日、同プラットフォームは公式アカウント「WeChat Coral Security"」を通じて、消費者の信頼を操作し、不正なトラフィックを獲得することを目的とした、非倫理的なAIベースのマーケティング戦術に関与した209のアカウントを閉鎖したことを明らかにした。

AIが不適切なプロモーション目的で有名人になりすますために使用された一連の違反行為に迅速に対処した。

同プラットフォームは、ユーザーから複数の報告を受け、定期的なチェックを行った結果、このような欺瞞的行為を迅速に特定し、削除することができたと述べている。

WeChatは声明の中でこう述べている：

ユーザーの権利を保護し、消費者詐欺を防止するため、我々はAI技術を悪用した詐欺的なマーケティングに断固とした態度で臨んでいる；

AI技術が欺瞞的行為に拍車をかける

有名な公人を模倣するAI技術の利用は、特に商業的な目的で人気を博している。

こうしたAIを駆使したツールは、有名タレントの似顔絵をクローンすることで、説得力のある偽の動画や音声を作成することができ、ネット上で悪評が広まっている。

WeChat'の取り締まりは、ユーザーからの複数の報告と日常的な監視が引き金となり、この技術を悪用するアカウントが特定された。

WeChatは現在、このような詐欺的なマーケティング活動を撲滅するための幅広いイニシアチブの一環として、532の有害なコンテンツを削除している。

同プラットフォームの消費者保護向上へのコミットメントは明らかで、同社は今後もこのような欺瞞的行為の抑制に注力していくと表明している。

増加するAIのなりすまし詐欺の傾向

AIが生成するコンテンツが高度化するにつれ、捏造された推薦文によって消費者を操作することが可能になり、懸念が高まっている。

有名人の声や画像が本人の同意なしに商品の宣伝に使われるなど、AIのなりすましによる有名な事例はすでに表面化している。

そのようなケースのひとつに、香港の俳優レイモンド・ウォンが関わっており、AIが生成した広告に彼のイメージと声が不正に使用されたことを公に非難した。

ウォンはソーシャルメディアに投稿した声明の中でこう述べた：

「この行為は純粋な詐欺だ。国民を欺き、そこから利益を得ることを目的としている。

この状況は、AIを利用したなりすましの危険性を露呈している。信頼が操作され、偽の推薦文によって消費者を騙して商品を買わせるのだ。

AIを利用した詐欺をめぐる法的・倫理的懸念

専門家は、AIによるなりすましが個人の権利を侵害する可能性があると警告している。

北京のJingdu法律事務所の徐偉弁護士は、商業目的のためにAIを使って無断で肖像を変更することは、その人の肖像権を侵害すると指摘した。

AIが作成した推薦文を通じて宣伝される製品が誇張されていたり、価格が高すぎたりする場合、消費者がこれらの虚偽の推薦文に基づいて購入するよう惑わされる可能性があるため、詐欺を構成する可能性さえある。

また、攻撃的なコンテンツを作成したり、不適切な文脈で誰かの顔を出したりするような悪意のあるAIの使用は、個人の権利侵害につながる可能性があると指摘し、レピュテーションダメージの可能性を強調した。

プラットフォームの責任と今後の対策

WeChatのようなプラットフォーム・プロバイダーの役割も精査されている。

各プラットフォームは、自社のサイトでホストされているコンテンツに責任を持ち、AIが生成した動画がユーザーの混乱を避けるために明確に表示されるようにすることが求められている。

この規制は、サービスプロバイダーに対し、テキスト、音声、画像、動画など様々なフォーマットにおいて、AIが生成したコンテンツを、開始、終了、その他の目立つ場所などの重要なポイントに、目に見える指標で明確に表示することを義務付けている。

主要なプラットフォームはすでに、視聴者が現実のメディアと合成メディアを区別しやすくするために、「AIが生成したコンテンツ」や「AIによる作成の疑い」といった免責事項を追加し始めている。

しかし、プラットフォームが適切なラベル付けや誤解を招くコンテンツの削除を怠った場合、詐欺的な内容の拡散を助長したとして責任を問われる可能性がある。

WeChatは、そのようなコンテンツがユーザーに届くのを防ぐための取り組みを強化し、規制をさらに強化すると表明している。

AI合成サービスへの規制強化

中国当局の最近のガイドラインによると、ディープフェイク・コンテンツを生成するAIサービスは、コンテンツが混乱につながる可能性がある場合、それを明示しなければならない。

WeChatはガバナンスをさらに強化し、ユーザーとサービス・プロバイダーの双方がAI技術を使って生成されたコンテンツについて説明責任を果たせるようにすることを約束する。

詐欺的なAIコンテンツを特定し、報告するための一般市民の役割も、安全で信頼できるオンライン環境を維持する上で極めて重要である。

AIツールがより広く利用できるようになった今、デジタル世界での搾取や欺瞞を防ぐ責任は、プラットフォーム・プロバイダーとユーザーの双方にある。