Nightshade: Alat Baru untuk Melindungi Karya Seniman dari Model AI Generatif

Menurut Decrypt, sebuah alat baru yang disebut Nightshade dapat membantu para seniman untuk melindungi karya mereka agar tidak diambil tanpa izin oleh model AI generatif. Model-model ini, yang telah mendapatkan perhatian utama tahun ini, didasarkan pada perpustakaan besar seni yang ada dan dapat menciptakan gambar visual dengan kemampuan yang menakjubkan. Profesor Ben Zhao menjelaskan bahwa peracunan telah menjadi vektor serangan yang dikenal dalam model pembelajaran mesin selama bertahun-tahun, tetapi Nightshade unik karena meracuni model AI generatif, yang sebelumnya dianggap mustahil karena ukurannya yang besar. Alat ini menargetkan permintaan individu, seperti permintaan untuk membuat gambar naga, anjing, atau kuda, daripada menyerang seluruh model. Pendekatan ini melemahkan model dan membuatnya tidak dapat menghasilkan karya seni, untuk menghindari deteksi, teks dan gambar di dalam data yang diracuni harus terlihat alami dan dibuat untuk menipu pendeteksi perataan otomatis dan pemeriksa manusia. Meskipun Nightshade saat ini hanyalah sebuah bukti konsep, Zhao percaya bahwa jika cukup banyak seniman yang menerapkan pil racun ini, model AI dapat runtuh dan menjadi tidak berharga. Nightshade tidak memerlukan tindakan apa pun terhadap generator gambar AI itu sendiri, tetapi mulai berlaku ketika model AI mencoba mengonsumsi data yang telah dimasukkan Nightshade. Zhao menggambarkannya sebagai serangan yang tidak terlalu menyerang dan lebih seperti pertahanan diri atau pagar kawat berduri dengan ujung racun yang ditujukan untuk pengembang AI yang tidak menghormati permintaan untuk tidak ikut serta dan arahan untuk tidak mengikis.