AIが生成する悪用コンテンツ

主要なソーシャルメディア・プラットフォーム、AI開発者、政府、NGOで構成される連合が、AIによって生成される悪用コンテンツの問題に取り組むために団結した。

10月30日に発表されたこの政策声明には、スナップチャット、TikTok、OnlyFanなどのソーシャルメディアに加え、アメリカ、オーストラリア、韓国、ドイツ、イタリアの政府を含む27の署名者が含まれている。

について発表されたポリシー・ペーパー と述べた：

人工知能（AI）は、オンライン児童性的虐待の脅威に取り組む上で、非常に大きな可能性を秘めている。AIは、児童性的虐待事件を発見する産業界と法執行機関の能力を変革し、強化する可能性を秘めている。これを実現するために、私たちは、すべての国において子どもを性的虐待から守るという共通の利益のためにAIを開発しなければならないことを確認する。

声明は、特に児童の性的虐待に関するオンライン上の脅威に対抗する上で、AIの潜在的な利点を認めている。

しかし、AIは有害なコンテンツを作成するために使用される可能性もあるため、悪意のある使用に対して警戒する必要性を強調している。

公約の一環として、連合は、児童性的虐待と闘う上でAIがもたらすリスクを理解し、それに対処するために協力することを誓約した。

国レベルでの効果的な政策の確立とともに、利害関係者間の透明性と開かれた対話が奨励される。

私たちは、児童の性的虐待の脅威に取り組むために責任あるAIを確実に活用するために協力することを決意し、児童の性的虐待に取り組むためにAIがもたらすリスクが克服不可能なものとならないよう、引き続き協力し合うことを約束する。私たちは、既存の場を通じて、子どもの性的虐待に取り組む上でAIから生じるリスクを理解し、必要に応じて行動するよう努める。すべての関係者は、フロンティアAIのリスクから子どもの安全を確保する役割を担っている。

AI時代の子どもたちへの懸念

英国が参考にしたのはインターネット・ウォッチ・ファンデーション（IWF） ダークウェブ・フォーラムのユーザーが、AIが作成した児童性的虐待の画像を3,000枚近く流布していたことが明らかになった。

英国で開催されるAIの安全性に関するグローバル・サミットを踏まえ、この声明を発表することは、AI技術の進歩に伴い、子どもの安全問題への関心が高まっていることを強調するものである。

最近米国も行動を起こしており、いくつかの州がメタ社に対して訴訟を起こしている。 フェイスブックとインスタグラムの親会社であるフェイスブックも、子どもの安全に関して同様の懸念を表明している。