Instagram sẽ tự động làm mờ ảnh khỏa thân trong tin nhắn trực tiếp

Instagram sẽ sớm bắt đầu thử nghiệm làm mờ ảnh khỏa thân trong tin nhắn trực tiếptheo thông báo từ Meta vào thứ Tư. Công ty cho biết, nó sẽ sử dụng “máy học trên thiết bị” để phát hiện ảnh khỏa thân và nhằm mục đích ngăn chặn các âm mưu tống tiền nhắm vào thanh thiếu niên.

Tính năng “bảo vệ ảnh khoả thân” sẽ phát hiện ảnh khỏa thân trong tin nhắn trực tiếp và tự động làm mờ chúng, cả khi bạn nhận được ảnh khỏa thân gửi cho mình và khi bạn đang cố gửi ảnh khỏa thân cho người khác. Người dùng cũng sẽ thấy thông báo bật lên có nội dung “Hãy cẩn thận khi chia sẻ ảnh nhạy cảm. Ảnh bị mờ do tính năng bảo vệ ảnh khoả thân được bật. Những người khác có thể chụp màn hình hoặc chuyển tiếp ảnh của bạn mà bạn không biết. Bạn có thể hủy gửi ảnh nếu thay đổi ý định, nhưng có khả năng những người khác đã nhìn thấy nó rồi”.

Vì quá trình xử lý được thực hiện trên thiết bị nên Meta cho biết tính năng phát hiện của nó sẽ vẫn hoạt động trêncuộc trò chuyện được mã hóa hai đầu , với việc Meta không có quyền truy cập vào hình ảnh trừ khi người dùng báo cáo chúng.

MỘT VÍ DỤ VỀ CÁCH TÍNH NĂNG SẼ NHƯ VẬY ĐỐI VỚI NGƯỜI DÙNG. HÌNH ẢNH QUA META

Tính năng này sẽ được bật theo mặc định cho người dùng dưới 18 tuổi và người lớn sẽ nhận được thông báo “khuyến khích” họ bật tính năng này. Thông báo cho biết: “Tính năng này được thiết kế không chỉ để bảo vệ mọi người khỏi nhìn thấy ảnh khoả thân không mong muốn trong DM của họ mà còn để bảo vệ họ khỏi những kẻ lừa đảo có thể gửi ảnh khỏa thân để lừa mọi người gửi lại hình ảnh của chính họ”.

Meta viết: “Khi ai đó nhận được một hình ảnh có ảnh khỏa thân, nó sẽ tự động bị làm mờ dưới màn hình cảnh báo, nghĩa là người nhận không phải đối mặt với một hình ảnh khỏa thân và họ có thể chọn xem nó hay không”. “Chúng tôi cũng sẽ hiển thị cho họ một tin nhắn khuyến khích họ không cảm thấy áp lực khi phải trả lời, kèm theo tùy chọn chặn người gửi và báo cáo cuộc trò chuyện.”

Thông báo cho biết Meta sẽ sớm bắt đầu thử nghiệm các tính năng này.

Trong khi đó, Meta cho phépNhững người có ảnh hưởng giả do AI tạo ra hành vi ăn cắp hình ảnh phụ nữ thật tràn lan trên Instagram và không thể ngăn chặn được ngay cả những điều rõ ràng nhấtlừa đảo lãng mạn cá da trơn đang diễn ra trên nền tảng—và trên Facebook, mọi ngườiliên tục bị lừa bởi nội dung do AI tạo ra để tin rằng nó có thật.

Tính năng phát hiện ảnh khỏa thân của Instagram tương tự như tính năng được Apple công bố trước đây. “Cảnh báo nội dung nhạy cảm” của công ty cũng hoạt động bằng cách phân tích ảnh trên thiết bị của người dùng,theo tài liệu của Apple . Apple đã phải đối mặt với phản ứng dữ dội khi ban đầu công bố một tính năng còn tiến xa hơn nữa đó là quét ảnh được tải lên iCloud để tìm CSAM. Quả táođã giết chết kế hoạch đó vào tháng 12 năm 2022 .

Meta đã thực hiện những nỗ lực gây tranh cãi nhằm phát hiện hình ảnh lạm dụng tình dục trong quá khứ: Vào năm 2017 và 2018, nó đã thử nghiệm mộthệ thống ngăn chặn hình ảnh không đồng thuận đã yêu cầu người dùnggửi ảnh khỏa thân của riêng họ lên Facebook để ngăn chặn chúng lan truyền.