Kelompok-kelompok ekstremis sedang mempelajari kecerdasan buatan, khususnya AI generatif, untuk memperkuat upaya propaganda mereka. Para ahli khawatir dengan potensi AI generatif untuk melemahkan langkah Big Tech dalam moderasi konten. Adam Hadley dari Tech Against Terrorism mengungkapkan kekhawatirannya dengan menyatakan,

"Jika teroris mulai menggunakan gen AI untuk memanipulasi citra dalam skala besar, hal ini dapat menghancurkan hash-sharing sebagai solusi";

Ancaman yang Muncul: Manipulasi Ekstremis terhadap AI Memicu Kekhawatiran

Selama bertahun-tahun, Big Tech mengandalkan basis data hashing untuk menghapus konten ekstremis yang diketahui dengan cepat. Namun, Tech Against Terrorism sekarang mengidentifikasi sekitar 5.000 contoh konten yang dihasilkan oleh AI setiap minggunya. Ini termasuk konten dari kelompok-kelompok yang terkait dengan Hizbullah dan Hamas, yang membentuk narasi tentang konflik Israel-Hamas.

Hadley memprediksi ancaman yang membayangi teknologi otomatis, dengan mengatakan,

"Beri waktu enam bulan atau lebih, kemungkinan bahwa [mereka] memanipulasi citra untuk mematahkan hashing benar-benar mengkhawatirkan";

Temuan terbaru dari Tech Against Terrorism mengungkapkan penggunaan AI oleh ekstremis meluas hingga ke saluran pesan neo-Nazi, panduan perang memetik dari kelompok sayap kanan, dan ISIS yang menyediakan dukungan teknologi untuk alat AI generatif.

Memperluas Ancaman di Luar Pencitraan: Peran AI dalam Propaganda dan Perekrutan Multibahasa

Risikonya tidak terbatas pada manipulasi gambar. Laporan Tech Against Terrorism menyoroti alat penerjemah otomatis yang mengubah propaganda ke dalam berbagai bahasa dan pembuatan pesan yang dipersonalisasi untuk perekrutan online. Hadley percaya bahwa AI juga dapat menjadi alat proaktif untuk melawan para ekstremis.

Tech Against Terrorism dan Microsoft Bergabung untuk Mengembangkan Sistem Deteksi Gen AI

Dalam upaya untuk melawan ancaman yang muncul, Tech Against Terrorism bermitra dengan Microsoft untuk mengembangkan sistem deteksi gen AI. Hadley menyatakan, "Kami yakin bahwa gen AI dapat digunakan untuk mempertahankan diri dari penggunaan gen AI yang tidak bersahabat." Inisiatif ini bertepatan dengan KTT Pemimpin Christchurch Call, sebuah gerakan yang bertujuan untuk memberantas terorisme online.

Kolaborasi ini bertujuan untuk meningkatkan kemampuan platform yang lebih kecil yang tidak memiliki pusat penelitian AI. Hadley menekankan pentingnya platform-platform ini, dengan mengatakan, "Bahkan sekarang, dengan adanya basis data hashing, platform yang lebih kecil dapat kewalahan dengan konten ini.

Ancaman yang Muncul: Materi Eksploitasi Anak yang Dihasilkan oleh AI Meningkat

Jangkauan konten generatif AI meluas melampaui kelompok-kelompok ekstremis. Internet Watch Foundation melaporkan lonjakan materi pelecehan seksual anak yang dihasilkan oleh AI di web gelap, dengan lebih dari 20.000 gambar yang diidentifikasi dalam sebulan, yang tidak dapat dibedakan dari yang asli. Ancaman yang ditimbulkan oleh perangkat AI generatif menuntut upaya bersama untuk melindungi ruang online.