Nội dung khiêu dâm Deepfake trên Telegram bùng nổ ở Hàn Quốc, nhắm vào các nữ sinh – Ứng dụng này có bị cấm không?

Hàn Quốc tăng cường cuộc chiến chống lại nội dung khiêu dâm Deepfake với cuộc điều tra toàn cầu

Ủy ban Tiêu chuẩn Truyền thông Hàn Quốc (KCSC) đã tăng cường nỗ lực chống lại sự gia tăng của các nội dung khiêu dâmnội dung deepfake trên Telegram, sau vụ bắt giữ gần đây của CEO ứng dụng nhắn tin này, Pavel Durov, tại Paris.

KCSC đã chính thức yêu cầu chính phủ Pháp hỗ trợ điều tra Telegram, nhấn mạnh nhu cầu cấp thiết về mối quan hệ hợp tác để giải quyết các tội phạm liên quan đến phòng trò chuyện khiêu dâm deepfake.

Cơ quan này nhấn mạnh mức độ nghiêm trọng của những tội ác này, ảnh hưởng đến hơn 220.000 cá nhân, chủ yếu là nạn nhân vị thành niên, và dự đoán tác động đến xã hội Hàn Quốc.

Bước này đánh dấu động thái ban đầu hướng tới việc thiết lập đường dây nóng chuyên dụng với Telegram để quản lý các hoạt động tội phạm như vậy.

Sự phản đối của công chúng và yêu cầu của tổng thống

Tổng thống Hàn Quốc Yoon Suk Yeol đã lên án mạnh mẽ tội phạm tình dục kỹ thuật số và kêu gọi điều tra nghiêm ngặt về vấn đề này.

Tổng thống Hàn Quốc Yoon Suk Yeol

Những nhận xét của ông được đưa ra trong bối cảnh các báo cáo nêu chi tiết về sự xuất hiện thường xuyên của các hành vi rõ rànggiả mạo sâu hình ảnh và video liên quan đến phụ nữ Hàn Quốc lan truyền trong các phòng chat Telegram.

Trong một cuộc họp nội các được truyền hình trực tiếp, Yoon mô tả việc khai thác công nghệ cho các hành vi tội phạm như vậy là hành vi lạm dụng trắng trợn quyền ẩn danh, tuyên bố,

"Đó rõ ràng là một hành vi phạm tội."

Lời kêu gọi hành động này là một phần trong phản ứng chung của chính phủ trước sự gia tăng đáng báo động của tội phạm tình dục deepfake.

Số lượng tăng và phản ứng theo quy định

Chính quyền Hàn Quốc đã quan sát thấy sự gia tăng đáng kểgiả mạo sâu các vụ án tội phạm tình dục, với các báo cáo cho thấy số vụ tăng từ 156 vụ vào năm 2021 lên 297 vụ trong bảy tháng đầu năm nay.

Phần lớn những người bị cáo buộc là thanh thiếu niên và người trẻ tuổi, phản ánh một xu hướng đáng lo ngại.

Để ứng phó, KCSC có kế hoạch tăng cường các biện pháp quản lý, bao gồm thiết lập đường dây nóng 24 giờ cho nạn nhân và tăng gấp đôi số lượng nhân sự chuyên theo dõi tội phạm tình dục kỹ thuật số từ 70 lên 140.

Cơ quan Cảnh sát Quốc gia Hàn Quốc sẽ bắt đầu chiến dịch kéo dài bảy tháng để tăng cường trấn áp những hành vi phạm tội này.

Vai trò gây tranh cãi của Telegram và các biện pháp được đề xuất

Danh tiếng của Telegram ở Hàn Quốc đã bị ảnh hưởng vì liên quan đến nhiều tội phạm tình dục kỹ thuật số.

Những tranh cãi trước đây của nền tảng này bao gồm vụ án năm 2020 liên quan đến Cho Ju-bin, người bị kết án 40 năm tù vì tống tiền phụ nữ sản xuất hình ảnh khiêu dâm bạo lực và đồi trụy.

Sự giám sát mới nhất này trùng hợp vớiViệc bắt giữ Durov là một phần trong cuộc điều tra của Pháp về khiêu dâm trẻ em, buôn bán ma túy và gian lận liên quan đến Telegram .

Bức thư của KCSC gửi tới chính quyền Pháp nhấn mạnh nhu cầu về một giải pháp hợp tác để giải quyết những vấn đề này, đề xuất một kênh liên lạc trực tiếp hơn với Telegram.

Kêu gọi hợp tác rộng rãi hơn và trách nhiệm giải trình của nền tảng

Những nỗ lực của KCSC không chỉ giới hạn ở Telegram mà còn hướng tới các nền tảng truyền thông xã hội lớn khác, bao gồm X, Facebook, Instagram và YouTube.

Chủ tịch ủy ban, Ryu Hee-lim, đã nhấn mạnh tầm quan trọng của việc tạo ra các kênh trực tiếp để tham vấn thường xuyên với các công ty không có trụ sở tại Hàn Quốc.

Ryu nhấn mạnh rằng việc sản xuất, sở hữu và phân phối video tội phạm tình dục deepfake là hành vi vi phạm nghiêm trọng, làm suy yếu phẩm giá và quyền của cá nhân.

Bất chấp tuyên bố của Telegram về việc kiểm duyệt tích cực bằng các công cụ AI và báo cáo của người dùng để quản lý nội dung có hại, những lời chỉ trích vẫn tiếp diễn.

Chính quyền Hàn Quốc đã phải đối mặt với nhiều thách thức trong việc nhận được sự hợp tác từ Telegram, bằng chứng là những khó khăn trong việc đảm bảo phản hồi các yêu cầu hỗ trợ điều tra tội phạm tình dục kỹ thuật số.

Các biện pháp chủ động của KCSC nêu bật nhu cầu cấp thiết về sự hợp tác hiệu quả và tăng cường truyền thông để chống lại mối đe dọa ngày càng gia tăng của nội dung khiêu dâm deepfake và bảo vệ những cá nhân dễ bị tổn thương khỏi bị bóc lột.

Liệu các biện pháp quản lý của Hàn Quốc có mở rộng thành lệnh cấm Telegram không?

Khi Hàn Quốc tăng cường trấn áp các video deepfake có nội dung khiêu dâm, khả năng Telegram bị cấm đang hiện hữu.

Với yêu cầu hợp tác gần đây của Ủy ban Tiêu chuẩn Truyền thông Hàn Quốc với Pháp và cách tiếp cận quản lý chặt chẽ hơn, lập trường của Hàn Quốc phản ánh sự giám sát toàn cầu đối với nền tảng này.

Indonesia có thể cấm Telegram , xuất phát từ mối quan ngại tương tự về nội dung khiêu dâm và cờ bạc trực tuyến, phản ánh thêm vị thế bấp bênh của nền tảng này trên trường quốc tế.

Trên toàn cầu, Telegram phải đối mặt với nhiều mức độ giám sát và hạn chế khác nhau.

TừLệnh cấm lâu dài của Trung Quốc và sự đàn áp ngắn hạn của Nga đối với việc thực thi luật về ngôn từ kích động thù địch của Đức và lệnh cấm tạm thời của Tây Ban Nha , phạm vi hoạt động toàn cầu của nền tảng này đang gặp phải nhiều thách thức về mặt pháp lý.

Mỗi trường hợp phản ánh cuộc đấu tranh lớn hơn nhằm cân bằng quyền tự do kỹ thuật số với trách nhiệm giải trình.

Trong khi Hàn Quốc đang đưa ra phản ứng, bao gồm lệnh cấm theo quy định tiềm tàng và tăng cường thực thi, câu hỏi vẫn còn đó - liệu Hàn Quốc có thực hiện lệnh cấm hoàn toàn Telegram hay không?

Xét đến mức độ nghiêm trọng của vấn đề khiêu dâm deepfake, có lẽ lệnh cấm sẽ là giải pháp tốt hơn để cắt đứt khả năng tiếp cận các phòng chat khiêu dâm deepfake này.

Quyết định này có thể tạo ra tiền lệ về cách các quốc gia giải quyết sự phức tạp của các nền tảng kỹ thuật số trong bối cảnh lo ngại ngày càng gia tăng về quy định nội dung và sự an toàn của người dùng.