YouTube、AIによるディープフェイク検出ツールを公開

ユーチューブ への対策を強化している。AIによるディープフェイク 肖像や音声が無許可のコンテンツに使用された場合、クリエイターやパブリッシャーに通知するように設計された新しい検出プロセスを持つ。

アーティストや政治家をCGで描写するディープフェイクの危険性が高まる中、YouTubeの検出機能のアップグレードは、プラットフォーム上の虚偽表示や誤報を軽減することを目的としている。

YouTube'の新しいAIディープフェイク技術は顔や声のためにある

YouTubeが計画を発表 からクリエイターの知的財産を保護することを目的とした2つの革新的なツールを導入する。生成AIモデルによる無断使用。

これらのツールの具体的なリリース日はまだ発表されていないが、同社はその機能性を詳しく説明している。

YouTubeのクリエイター・プロダクツ担当副社長、アムジャド・ハニフ氏、ブログ記事 :

「AIは可能性の世界を広げ、クリエイターが革新的でエキサイティングな方法で自分自身を表現する力を与えています。YouTubeでは、クリエイターとパートナーがこの進化する環境で成功できるよう尽力しています。これは、顔や声を含む自分の肖像がどのように表現されるかをコントロールしながら、AIの創造的な可能性を活用するために必要なツールを提供することを意味します。"

最初のツールは、合成歌唱識別技術で、YouTubeの既存のコンテンツIDシステムと統合するように設計されている。

この新機能により、クリエイターやパブリッシャーは、自分のボーカルパフォーマンスを模倣したAI生成コンテンツを検出し、管理できるようになる。

高度なオーディオ・マッチングを利用することで、このテクノロジーは、潜在的な模倣品や無許可の複製品を浮き彫りにし、アーティストや出版社が作品の虚偽表示に対処する能力を高める。

現在、オンラインでの著作権保護の監視と執行に多大な資源を投入している音楽出版社にとって、この開発は大きな財産となる。

このツールは当初、声楽家の中でも知名度の高いミュージシャンに焦点を当てる予定だが、その声は頻繁にAIに模倣された しかし、知名度の低いアーティストに対する有効性はまだ不明である。

とはいえ、大手レーベルや、ドレイクやアーティストのような人気アーティストにとっては、貴重なリソースになることは間違いない。テイラー・スウィフト 自分たちの声を模倣したAI生成コンテンツに対抗するためだ。

現在開発中の2つ目のツールは、インフルエンサー、俳優、スポーツ選手、アーティストなど、公人の肖像をAIが生成したメディアを対象とする。

この機能により、タレント・エージェントやセレブリティは、彼らの画像の無断使用を特定し、報告することができるようになる。

政治団体もまた、公人の肖像の悪用に関連する問題に対処する上で、このツールが有益であると考えるかもしれない。

しかし、そのような結果になるかどうかはまだわからない。ユーチューブ は、このツールを積極的に導入し、あまり著名ではない人物が関与するAI生成コンテンツを検出する。

これらの進歩は、YouTubeの現在の著作権保護手段を強化するもので、すでに広く活用されている。

YouTubeのクリエイター・プロダクツ担当バイス・プレジデントであるアムジャド・ハニフ氏は、AIトレーニングのためにクリエイターのコンテンツをスクレイピングすることはYouTubeの利用規約違反であると強調した。

しかし彼は、サードパーティのAI開発者とのコラボレーションについて、クリエイターがより大きなコントロールを求める可能性があることを認めた。ハニフ氏は、この点に関するさらなるアップデートが今年後半に予定されていることを示唆した。

YouTube、イノベーションのための環境育成へのコミットメントを強調

によるとユーチューブ 代表的には、最近改定されたプライバシーポリシーで、ディープフェイクやAIが生成したなりすましコンテンツの削除を個人が要求できるようになった。

この変化は、「震災の影響を受けた個人」が、「震災の影響を受けなかった個人」になることを意味する。ディープフェイク そのようななりすましを排除するためには、積極的に探し出して報告する必要がある。

ハニフはこう締めくくった：

「AIが進化するにつれ、AIは人間の創造性を高めるものであって、それに取って代わるものではないと信じています。私たちは、将来の進歩がパートナーの声を増幅させるよう、パートナーと協力することを約束し、懸念に対処し、共通の目標を達成するためのガードレールを開発し続けます。YouTubeの初期から、私たちはクリエイターや企業がYouTube上で活気あるコミュニティを築けるよう支援することに注力してきました。"責任あるイノベーションが花開く環境を育成することに、私たちは引き続き注力していきます。

AIによる "偽装 "を排除する確実な方法はない？

としてAIによるディープフェイク これらの進歩により、非常に説得力のあるリアルなコンテンツが作成できるようになったからだ。

このような操作を特定するために開発された、より高度な検出技術が発達しているとはいえ、これらの方法は絶対的なものではない。

ディープフェイク技術の絶え間ない進化は、しばしば検出能力を上回り、合成メディアの作成と検出における技術革新の間の絶え間ない競争につながる。

その結果、最新のツールでさえ、ますます巧妙化するディープフェイクの性質に対応するのに苦労する可能性があり、正確で信頼できる識別を保証する上で、永続的なギャップを残すことになる。