Google thắt chặt quản lý deepfake AI trong kết quả tìm kiếm

Google đang tăng cường nỗ lực quản lý các hoạt động deepfake trái phép do AI tạo ra. Công ty đang thực hiện các biện pháp mới để hạ cấp hoặc xóa các trang web lưu trữ nội dung đó khỏi kết quả tìm kiếm.

Hiểu về Deepfake

Deepfakes là phương tiện được tạo bằng cách sử dụng AI tổng hợp, tạo ra các video, hình ảnh hoặc clip âm thanh sống động như thật. Những phim này thường có sự góp mặt của những nhân vật của công chúng như Scarlett Johansson hay Joe Biden, và đáng báo động là đôi khi có sự tham gia của trẻ em.

Quy trình xóa nâng cao của Google

Trong một bài đăng blog gần đây, Google giải thích rằng từ lâu mọi người đã có thể yêu cầu xóa hình ảnh khiêu dâm không có sự đồng thuận. Giờ đây, các hệ thống mới đã sẵn sàng để hợp lý hóa quy trình này, giúp người dùng giải quyết vấn đề trên quy mô rộng hơn.

Tác động đến khả năng hiển thị trang web

Người phát ngôn của Google đã thông báo cho Decrypt rằng các trang web nhận được nhiều yêu cầu xóa có thể bị ảnh hưởng về khả năng hiển thị. Những trang web này có thể được coi là có chất lượng thấp và Google sẽ phản ánh điều này trong hệ thống xếp hạng của họ, làm giảm mức độ nổi bật của trang web trong kết quả tìm kiếm.

Lọc kết quả tìm kiếm rõ ràng

Khi nhận được yêu cầu xóa nội dung deepfake không có sự đồng thuận, Google cũng sẽ lọc các kết quả tìm kiếm tương tự, đảm bảo nội dung phản cảm ít có khả năng xuất hiện hơn. Hệ thống này nhằm mục đích ngăn chặn nội dung có hại xuất hiện trong các tìm kiếm, cung cấp một lớp bảo vệ cho những cá nhân bị mạo danh.

SAG-AFTRA bày tỏ sự ủng hộ

Ngành công nghiệp giải trí ca ngợi chính sách mới của Google. Các tổ chức như SAG-AFTRA hỗ trợ các biện pháp bảo vệ chống lại các bản sao kỹ thuật số trái phép, đánh dấu đây là một thành tựu quan trọng cho sự hợp tác toàn ngành.

Giải quyết các thách thức

Một thách thức mà Google phải đối mặt là phân biệt giữa nội dung giả mạo không có sự đồng thuận và nội dung có sự đồng thuận hoặc hợp pháp, chẳng hạn như cảnh khỏa thân trong phim. Mặc dù vậy, Google vẫn tiếp tục tinh chỉnh các thuật toán của mình để phân tách nội dung thật tốt hơn khỏi nội dung giả mạo rõ ràng.

Tiêu chuẩn cộng tác và ngành

Google đã cùng với các nhà phát triển AI khác cam kết ngăn chặn các mô hình của họ tạo ra nội dung có hại, chẳng hạn như tài liệu lạm dụng tình dục trẻ em (CSAM). Công ty sử dụng công nghệ băm để phát hiện và chặn nội dung xâm hại tình dục trẻ em, tuân thủ các tiêu chuẩn ngành.

Ý kiến ​​chuyên gia

Ben Clayton, Giám đốc điều hành của Media Medic, lưu ý rằng việc chống lại các tác phẩm sâu là một thách thức đang diễn ra. Mặc dù bản cập nhật của Google là một bước tích cực nhưng cần phải cải tiến liên tục để ngăn chặn sự lan truyền của nội dung có hại. Công nghệ này gây ra rủi ro cho quyền riêng tư, bảo mật và thậm chí cả hệ thống tư pháp, nơi các hành vi giả mạo sâu có thể bịa đặt bằng chứng.

nỗ lực lập pháp

Các nhà hoạch định chính sách cũng đang phản ứng. Thượng nghị sĩ Maria Cantwell đã giới thiệu Đạo luật SAO CHÉP, đề xuất một phương pháp tiêu chuẩn hóa để đóng dấu nội dung do AI tạo ra. Sáng kiến ​​này nhằm mục đích bảo vệ các cá nhân; tương tự từ việc khai thác trái phép.