メタ、AIによるコンテンツ・ラベリングに新たなアプローチ
Metaは、自社のプラットフォーム上でAIツールによって編集または修正されたコンテンツのラベル付け方法を大幅に変更する。インスタグラム フェイスブック、スレッド。
以前は、「AI情報」ラベルがユーザー名の下に直接表示され、AIツールがコンテンツ作成に関与しているかどうかを視聴者に即座に警告していた。
しかし、このラベルは現在、ポストのメニュー内のもっとわかりにくい場所に移動している。
Metaは、この調整によって「コンテンツに使用されているAIの程度をよりよく反映することができる」と主張しているが、ラベルを見つけにくくすることは、AIを搭載した編集ツールがより高度になるにつれて、より大きな混乱につながるかもしれないという意見もある。
完全生成コンテンツのAIラベルは依然として目立つだろう
編集されたコンテンツに対するAI情報ラベルの再配置にもかかわらず、Metaは、完全にAIツールによって生成されたコンテンツについては、ラベルが依然として目立つように表示されることをユーザーに保証した。
と同社は述べている、
"AIツールによって生成されたことを検出したコンテンツについては、引き続き「AI情報」ラベルを表示し、そのコンテンツが業界共有のシグナルによってラベル付けされたものなのか、誰かが自己申告したものなのかを共有する。"
この区別は、軽微なAI調整と完全なAI生成コンテンツを区別し、ユーザーが消費するメディアについて十分な情報を得た上で意思決定できるようにするというMeta'の意図を強調している。
AI情報」ラベルをめぐる論争とカメラマンからの苦情
Meta'の転換は、「Made with AI.".」という旧バージョンのラベルをめぐる批判と混乱を受けたものだ;
7月、メタはフォトグラファーからの懸念の声を受け、ラベルを「AI info"」に変更せざるを得なかった。
実際の画像のなかには、AIによるちょっとした編集のためにAIが作成したものとタグ付けされ、コンテンツの出所について誤解を招くものもあった。
特に写真家たちは、自分たちの本物の作品がAIによって作られたものだと指摘されることへの不満を口にした。
メタ社はこうした懸念を認め、当初の表現ではユーザーが本物の写真とAIツールで編集した画像を区別するのに十分明確ではなかったと説明した。
今回の変更は、このような苦情の直接的な結果であり、ユーザーが閲覧しているコンテンツの性質について誤解されないようにするためのメタの努力を示すものである。
業界共有のシグナルとAI検知メカニズム
メタ社の更新されたポリシーのもうひとつの重要な要素は、コンテンツがAIによって生成されたかどうかを同社がどのように判断するかである。
メタ社によれば、このラベリングは、アドビ社のFireflyのようなAIツールがいつ使用されたかを追跡・開示する、アドビ社のContent Credentialsのようなプラットフォームからのメタデータなど、「業界共有のシグナル」に起因するという。
Meta社は、コンテンツ制作へのAIの関与を検出するために同様のメカニズムを統合しているが、どのシステムを採用しているかは完全には公表していない。
例えばグーグルのSynthIDは、AIが生成したコンテンツに電子透かしを埋め込み、AIツールの使用に関する透明性を確保する。
Metaとこれらのシステムとの協力は、AIが生成したメディアを識別する際に業界標準を利用するという同社の幅広い意図を示すものだ。
AIが編集したコンテンツの識別が難しくなるかもしれない
メタの変更をめぐる重要な懸念のひとつは、AIツールで編集されたコンテンツによってユーザーがより簡単に騙される可能性があることだ。
AI情報ラベルを目につきにくい場所に移動させることは、特にジェネレーティブAIツールがより洗練されるにつれて、課題を生むかもしれない。
AIが写真やビデオに加える微妙な調整は、すぐには認識できないかもしれない。
メタのAI搭載編集ツールが進化を続け、より高度になるにつれ、これらのラベルにアクセスしにくくするという決定は、この問題を悪化させる可能性がある。
しかし同社は、この変更はコンテンツ制作におけるAIの関与の度合いをより正確に反映したものになると考えている。
Meta'のAIラベル:明確さか混乱か?
メタ社がAIラベルを移設することを決めたのは、孤立した動きではなく、同社がAIの検出と透明性にアプローチする方法における、より広範な進化の一部である。
メタ社はブログの中で、AIの利用度合いの違いに対応できるよう、ラベル表示の必要性を強調している。
完全にAIが生成したコンテンツと、軽く編集された写真やビデオとの区別は、メタが今回の変更で明確にしようとしていることのひとつだ。
ユーザーがこの新しいシステムに順応するにつれて、Meta'の今後のステップは、AIが生成したコンテンツのラベル付けやプラットフォーム間でのコミュニケーション方法をさらに改良していくことになるだろう。
しかし、疑問は残る。
これらのラベルを見えにくくすることで、AI操作ツールの検出が難しくなり、解決するよりも多くの問題を引き起こすことになるのだろうか?