未成年者の10人に1人が、友人がAIを使って他の子供のヌードを生成していると回答、調査結果

子どもを性的虐待から守る技術を構築することを使命とする非営利団体「ソーン」の調査によると、未成年者の10人に1人が、友人や同級生がAIツールを使って他の子どものヌードを生成したことがあると報告している。

私たちは以前から、AIツールが未成年者の間でよく使われていること、特にヌーディファイ・アプリは誰でも写真を撮ってAIを使ってヌードに見せることができ、国内のいくつかの学校で混乱とパニックが広がっていることを知っていたが、調査会社BSGと共同で実施されたソーン調査は、問題の範囲を測定するための私たちが見た最初の試みの一つである。

この調査は、2023年11月3日から12月1日の間にオンラインで実施され、9歳から17歳の未成年者1,040人に、児童性的虐待の資料や "有害なオンライン体験 "に関する質問をした。

"未成年の参加者は、既存のユースパネルを通じて、またはこの調査時に介護者を通じて直接募集された。"と題された調査結果の報告書は、次のように述べている。オンライン安全に関する若者の視点（2023年 と述べている。"未成年者が青少年パネルに参加する場合にも、調査のために直接募集した未成年者にも、保護者の同意が必要であった。"

先に進む前に、重要な注意点がいくつかある：ソーン自体は、セックスとテクノロジーに関して完璧な実績を持っているわけではない。ソーンはこれまでプライバシーの専門家が批判 風俗嬢の広告をスクレイピングしてデータベースにするツールを警察に提供した。昨年退任 有罪判決を受けた強姦魔でありザット'70sショー 共演のダニー・マスターソン。私はこうも書いた。4月の記事 ソーンがグーグル、メタ、マイクロソフト、シビタイ、その他の大手ハイテク企業と提携し、"デザインによる安全性 "AIが生成した児童性的虐待素材（AIG-CSAM）の作成と拡散を防止する "という原則を掲げているが、その一方で、すべての企業が、AIが生成した有害画像の正確な種類をまだ積極的に可能にしていた。

それに加え、多くの「人身売買防止」団体と同様、また報告書の文言そのものからも明らかなように、ソーンは、未成年者がセクスティングをしたり、ヌードを送ったり、あるいはその他の方法でインターネットを利用することで、性的な意識を持ち、活動的な人間として生きることを憂慮している。たとえば、ソーンの調査によれば、「未成年者の7人に1人が、自分自身のSG-CSAMを共有したことがある」という。これらの画像は厳密には違法であり、すべての主要なインターネット・プラットフォームのポリシーに反するが、この恐ろしい響きを持つ用語は、例えば17歳が合意の上でヌードをパートナーに送信するようなケースもカバーしている。

洞察はさておき、ソーンが述べたこの調査の方法は確かなようで、未成年者の間でAIツールが仲間の合意のないヌード画像を生成するためにどれほど一般的に使われているかを大まかに知ることができる。

「このような出来事の背後にある動機は、性的虐待の意図というよりも、青少年の行動によるものである可能性が高いが、結果として被害者にもたらされる被害は現実のものであり、責任を回避する試みの中で最小化されるべきではない」と報告書は述べている。

この種の映像が地域社会にもたらすカオスについては、2月に掲載した記事をお読みいただきたい。ワシントン州の高校で起きた事件について この事件では、数人の生徒が教師やクラスメートに「脱衣アプリ」を使用したとして警察に捜査された。このようなアプリの使用は他校 3月には、全国的な大イベントとなった。逮捕 フロリダ州の2人の中学生の話である。

「ジェネレーティブAI技術が子どもたちにもたらすリスクに対処するためには、テック業界内で大きな取り組みが必要である。「しかし、その取り組みは、こうした危害を取り巻く行動に対処するためのゲートキーパーにはならない。テクノロジーは新しいかもしれないが、ピアベースのいじめ、ハラスメント、虐待はそうではない。ディープフェイク・ヌード』による被害について積極的かつ直接的に語り、使用されているテクノロジーにかかわらず、地域社会や学校においてどのような行為が容認できないかについての明確な理解を強化することが重要である」。