Các nhóm cực đoan đang đào sâu vào trí tuệ nhân tạo, đặc biệt là AI có tính sáng tạo, để tăng cường nỗ lực tuyên truyền của họ. Các chuyên gia đang cảnh giác trước tiềm năng của AI có khả năng tạo ra sẽ làm suy yếu những bước tiến của Big Tech trong việc kiểm duyệt nội dung. Adam Hadley của Công nghệ chống khủng bố bày tỏ lo ngại, nêu rõ:

"Nếu những kẻ khủng bố bắt đầu sử dụng gen AI để thao túng hình ảnh trên quy mô lớn, thì điều này có thể phá hủy giải pháp chia sẻ hàm băm."

Mối đe dọa mới nổi: Sự thao túng cực đoan của AI làm dấy lên mối lo ngại

Trong nhiều năm, Big Tech đã dựa vào cơ sở dữ liệu băm để nhanh chóng loại bỏ nội dung cực đoan đã biết. Tuy nhiên, Tech Against Terrorism hiện đang xác định khoảng 5.000 trường hợp nội dung do AI tạo ra hàng tuần. Điều này bao gồm nội dung từ các nhóm liên kết với Hezbollah và Hamas, định hình câu chuyện về cuộc xung đột Israel-Hamas.

Hadley dự đoán mối đe dọa sắp xảy ra đối với công nghệ tự động, nói rằng,

"Trong khoảng sáu tháng, khả năng [họ] đang thao túng hình ảnh để phá vỡ hàm băm thực sự đáng lo ngại."

Những phát hiện gần đây của Tech Against Terrorism cho thấy việc sử dụng AI cực đoan mở rộng sang các kênh nhắn tin của Đức Quốc xã mới, các hướng dẫn cực hữu về chiến tranh lan truyền và Nhà nước Hồi giáo cung cấp hỗ trợ công nghệ cho các công cụ AI sáng tạo.

Mở rộng các mối đe dọa ngoài hình ảnh: Vai trò của AI trong việc tuyên truyền và tuyển dụng đa ngôn ngữ

Rủi ro không chỉ giới hạn ở thao tác hình ảnh. Báo cáo của Tech Against Terrorism nhấn mạnh các công cụ dịch tự động chuyển đổi tuyên truyền sang nhiều ngôn ngữ và tạo thông điệp được cá nhân hóa cho tuyển dụng trực tuyến. Hadley tin rằng AI cũng có thể là công cụ chủ động chống lại những kẻ cực đoan.

Công nghệ chống khủng bố và Microsoft hợp tác phát triển hệ thống phát hiện AI thế hệ mới

Trong nỗ lực chống lại mối đe dọa mới nổi, Tech Against Terrorism đang hợp tác với Microsoft để phát triển hệ thống phát hiện AI thế hệ mới. Hadley tuyên bố, "Chúng tôi tin tưởng rằng gen AI có thể được sử dụng để bảo vệ chống lại việc sử dụng thù địch của gen AI." Sáng kiến ​​này trùng hợp với Hội nghị thượng đỉnh các nhà lãnh đạo cuộc gọi ở Christchurch, một phong trào nhằm tiêu diệt chủ nghĩa khủng bố trực tuyến.

Sự hợp tác này nhằm mục đích nâng cao khả năng của các nền tảng nhỏ hơn thiếu trung tâm nghiên cứu AI. Hadley nhấn mạnh tầm quan trọng của các nền tảng này, ông nói: "Ngay cả bây giờ, với cơ sở dữ liệu băm, các nền tảng nhỏ hơn vẫn có thể bị choáng ngợp bởi nội dung này."

Mối đe dọa mới nổi: Tài liệu khai thác trẻ em do AI tạo ra đang gia tăng

Phạm vi tiếp cận của nội dung sáng tạo AI vượt ra ngoài các nhóm cực đoan. Tổ chức Theo dõi Internet báo cáo sự gia tăng tài liệu lạm dụng tình dục trẻ em do AI tạo ra trên web đen, với hơn 20.000 hình ảnh được xác định trong một tháng, không thể phân biệt được với hình ảnh thật. Mối đe dọa do các công cụ AI tạo ra đòi hỏi nỗ lực phối hợp để bảo vệ không gian trực tuyến.