Deepfakes

WeChat của Tencent, nền tảng truyền thông xã hội được sử dụng rộng rãi, đã cam kết tăng cường trấn áp làn sóng lừa đảo quảng cáo đang ngày càng gia tăng, lợi dụng trí tuệ nhân tạo để tạo ra video deepfake.

Trung Quốc đã tăng cường trấn áp các video được chỉnh sửa bằng AI nhằm bóp méo các bộ phim kinh điển và câu chuyện văn hóa, yêu cầu xóa các video này khỏi nền tảng trước ngày 10 tháng 12 năm 2024. Chính quyền nêu ra những lo ngại về việc xuyên tạc văn hóa, vi phạm bản quyền và ranh giới đạo đức.

Sự phát triển nhanh chóng của BlueSky đã làm tăng nội dung có hại, thúc đẩy việc kiểm duyệt chặt chẽ hơn. Nền tảng này cũng phải đối mặt với sự giám sát theo quy định của Ủy ban Châu Âu vì không tiết lộ các chi tiết hoạt động chính, làm tăng thêm thách thức trong bối cảnh người dùng di cư khỏi X của Elon Musk.

Meta thận trọng giới thiệu lại công nghệ nhận dạng khuôn mặt, thử nghiệm trên 50.000 người nổi tiếng để chống lại các vụ lừa đảo "celeb-bait" và giảm quảng cáo deepfake. Nhưng liệu điều này có đủ để ngăn chặn các tài khoản bị xâm phạm hay cần phải hành động nhiều hơn?

Cảnh sát Hồng Kông đã phá vỡ một tổ chức lừa đảo sử dụng công nghệ deepfake để lừa đảo cá nhân số tiền khoảng 360 triệu đô la Hồng Kông (khoảng 46 triệu đô la) thông qua các vụ lừa đảo tình cảm. Tổng cộng có 27 nghi phạm đã bị bắt, trong đó có năm người được cho là có liên quan đến tội phạm có tổ chức, làm nổi bật mối đe dọa ngày càng tăng của các vụ lừa đảo trực tuyến tinh vi.

Đảng Tự do Úc đã ra mắt quảng cáo chính trị đầu tiên do AI tạo ra hoàn toàn tại quốc gia này, có hình ảnh deepfake của Bộ trưởng Chính quyền ACT Andrew Barr, trước thềm cuộc bầu cử liên bang năm 2024. Điều này làm dấy lên lo ngại về tác động của AI trong chính trị, thúc đẩy các lời kêu gọi ban hành quy định khẩn cấp để bảo vệ quy trình bầu cử.

Một báo cáo của Liên Hợp Quốc tiết lộ rằng các mạng lưới tội phạm ở Đông Nam Á sử dụng Telegram cho các hoạt động bất hợp pháp quy mô lớn, chẳng hạn như giao dịch dữ liệu bị hack và các công cụ tội phạm mạng. Điều này diễn ra sau khi người sáng lập Telegram, Pavel Durov, bị giám sát chặt chẽ về vai trò của nền tảng này trong các hoạt động này. Liệu nền tảng nhắn tin phổ biến này có thể có cơ hội không?

Character.AI phải đối mặt với phản ứng dữ dội vì sử dụng hình ảnh của một nạn nhân tuổi teen bị sát hại trong trò chơi điện tử mà không có sự đồng ý của gia đình cô bé. Cha và chú của nạn nhân đã lên án công ty, khiến chatbot bị xóa và tài khoản của người sáng tạo bị đình chỉ. Điều này làm dấy lên mối lo ngại về sự giám sát đạo đức trong quá trình phát triển AI.

Telegram đã cam kết thực hiện chính sách không khoan nhượng đối với nội dung khiêu dâm deepfake và nội dung bất hợp pháp tại Hàn Quốc sau những lo ngại về hình ảnh phụ nữ bị chỉnh sửa. Quan hệ đối tác này với Ủy ban Tiêu chuẩn Truyền thông Hàn Quốc nhằm mục đích nhanh chóng xóa bỏ nội dung có hại và bảo vệ nạn nhân, vì đã có hơn 800 cá nhân bị ảnh hưởng trong năm nay.

Cơ quan Cảnh sát Quốc gia Hàn Quốc đã tiến hành 515 cuộc điều tra bí mật về nội dung khiêu dâm deepfake bất hợp pháp kể từ tháng 9 năm 2021, dẫn đến việc bắt giữ 1.415 cá nhân, bao gồm cả thanh thiếu niên có liên quan đến việc phát tán nội dung như vậy. Để ứng phó với tình trạng tội phạm tình dục kỹ thuật số gia tăng, chính quyền đã thành lập một lực lượng đặc nhiệm để giải quyết nội dung khiêu dâm deepfake và đang đánh giá vai trò của Telegram trong việc tạo điều kiện cho các hành vi phạm tội này.