Telegram xin lỗi và xóa 25 video khiêu dâm Deepfake sau khi chính quyền Hàn Quốc gây sức ép

Telegram đấu tranh với chính quyền Hàn Quốc về nội dung khiêu dâm Deepfake

Telegram, ứng dụng nhắn tin mã hóa phổ biến, đang bị chỉ trích ở Hàn Quốc vì không ngăn chặn được sự lây lan củakhiêu dâm deepfake và tội phạm tình dục kỹ thuật số trên nền tảng của nó .

Sau một loạt khiếu nại ngày càng tăng, Ủy ban Tiêu chuẩn Truyền thông Hàn Quốc (KCSC) thông báo rằng Telegram cuối cùng đã tuân thủ yêu cầu của chính phủ về việc xóa 25 video có nội dung khai thác tình dục.

Những video này, phần lớn được tạo bằng công nghệ deepfake để mô tả trẻ vị thành niên và phụ nữ, đã được lan truyền trên nhiều kênh khác nhau trên ứng dụng.

Trong bài đăng X của ‘Anonymous’,

Một nhóm Telegram chia sẻ hình ảnh deepfake được cho là có tới 220.000 thành viên, chủ yếu nhắm vào trẻ vị thành niên. [...]

Bản đồ hiển thị vị trí của các trường trung học cơ sở, trung học phổ thông và đại học tại Hàn Quốc được cho là đã bị ảnh hưởng bởi tội phạm deepfake, ít nhất 500 trường được liệt kê. Sáu trong số 10 nạn nhân của tội phạm deepfake được cảnh sát điều tra trong ba năm qua là trẻ em.

Quyết định xóa nội dung được đưa ra sau khi chính quyền Hàn Quốc chịu nhiều áp lực hơn trong cuộc chiến chống lại sự gia tăng tội phạm tình dục trực tuyến.

Người phát ngôn của KCSC tiết lộ rằng trước đây Telegram rất khó tương tác, thường bỏ qua các yêu cầu từ cơ quan quản lý.

Tuy nhiên, sau sự cố này, công ty đã đưa ra lời xin lỗi và tuyên bố rằng hiện tại công ty muốn "xây dựng mối quan hệ tin cậy" với chính phủ Hàn Quốc.

Telegram cũng cam kết cải thiện giao tiếp bằng cách cung cấp địa chỉ email chuyên dụng để trao đổi thông tin trong tương lai liên quan đến nội dung bất hợp pháp.

Một quan chức KCSC tuyên bố,

"Chúng tôi muốn tăng cường hợp tác với Telegram bằng cách bảo đảm đường dây nóng, bắt đầu bằng địa chỉ email độc quyền, để giải quyết vấn đề lưu hành tài liệu khai thác tình dục deepfake và cuối cùng là xóa bỏ nội dung tội phạm tình dục kỹ thuật số."

Vụ bắt giữ CEO Telegram Pavel Durov và những thách thức pháp lý đang diễn ra

Áp lực lên Telegram tăng lên khi CEO và chủ sở hữu của công ty, Pavel Durov,bị bắt tại Pháp vào ngày 24 tháng 8 năm 2024 .

Chính quyền Pháp đã buộc tội ông về nhiều tội danh, bao gồm tội đồng lõa phát tán tài liệu lạm dụng tình dục trẻ em và không hợp tác với cuộc điều tra của cảnh sát.

Cho dù nộp tiền bảo lãnh là 5 triệu euro Những rắc rối pháp lý của Durov đã đẩy Telegram vào trung tâm của cuộc tranh luận toàn cầu về kiểm duyệt nội dung, mã hóa và tội phạm mạng.

Vụ bắt giữ đã khiến hoạt động của Telegram bị giám sát chặt chẽ hơn khi các chính phủ trên toàn thế giới kêu gọi giám sát chặt chẽ hơn các dịch vụ được mã hóa của công ty.

Tuy nhiên, Telegram đã bảo vệ hoạt động của mình bằng cách đưa ra tuyên bố vào ngày 25 tháng 8 rằng:

“Thật vô lý khi cho rằng một nền tảng hoặc chủ sở hữu của nó phải chịu trách nhiệm cho việc lạm dụng nền tảng đó.”

Công ty khẳng định rằng họ tuân thủ luật pháp EU và các tiêu chuẩn kiểm duyệt nội dung của họ phù hợp với các chuẩn mực của ngành.

Tuy nhiên, những tuyên bố này không làm dịu đi những lời chỉ trích, đặc biệt là ở Hàn Quốc, nơi Telegram đã trở thành chiến trường quan trọng trong cuộc chiến chống tội phạm tình dục kỹ thuật số.

Báo cáo ngày càng tăng về nội dung khiêu dâm Deepfake trên Telegram

Chính quyền Hàn Quốc đang phải vật lộn vớilàn sóng tội phạm tình dục kỹ thuật số đang gia tăng, nhiều tội phạm trong số đó được kích hoạt bởi công nghệ deepfake .

Cơ quan Cảnh sát Quốc gia Hàn Quốc tiết lộ rằng họ đã mở cuộc điều tra sơ bộ về Telegram sau khi phát hiện bằng chứng cho thấy tội phạm đang sử dụng nền tảng này để tạo và phát tán video deepfake khiêu dâm.

Tính đến ngày 26 tháng 8, cảnh sát đã nhận được 88 báo cáo về nội dung khiêu dâm deepfake trên Telegram và đã xác định được 24 nghi phạm có liên quan đến những tội ác này.

Vai trò của nền tảng này trong các hoạt động này đã khiến nó trở thành mục tiêu của cơ quan thực thi pháp luật và cảnh sát vẫn đang tiếp tục xây dựng hồ sơ chống lại công ty.

Đây không phải là lần đầu tiên Telegram bị nghi ngờ liên quan đến những tội ác như vậy.

Vào năm 2020, danh tiếng của nền tảng này đã bị tổn hại nghiêm trọng khi người ta phát hiện ra một đường dây tống tiền tình dục trực tuyến do một thanh niên 20 tuổi tên là Cho Ju-bin cầm đầu đã sử dụng Telegram để tống tiền phụ nữ, bao gồm cả trẻ vị thành niên, nhằm mục đích sản xuất ra những hình ảnh khiêu dâm mang tính bạo lực và hạ thấp nhân phẩm.

Cuối cùng, Cho đã bị kết án 40 năm tù vì vai trò của mình trong đường dây này, nhưng vụ bê bối đã làm nổi bật điểm yếu của Telegram trong việc ngăn chặn việc phát tán nội dung bất hợp pháp.

Một cuộc khủng hoảng quốc gia: Cuộc chiến chống tội phạm tình dục kỹ thuật số của Hàn Quốc

Tình trạng tội phạm tình dục kỹ thuật số ở Hàn Quốc đã trở nên tồi tệ hơn trong vài năm qua.

Theo dữ liệu của cảnh sát, số vụ deepfake đã tăng vọt từ 156 vụ vào năm 2021 lên 297 vụ vào tháng 7 năm 2023, tăng gần gấp đôi chỉ trong vòng hai năm.

Xu hướng đáng báo động này đã thúc đẩy hành động từ cấp cao nhất của chính quyền.

Sau đây là một số số liệu thống kê về tình hình deepfake ở Hàn Quốc:

Gần một phần ba số video trên các trang web khiêu dâm deepfake có sự tham gia của những cá nhân không phải người phương Tây, trong đó các ca sĩ K-pop Hàn Quốc chiếm một phần tư số đối tượng mục tiêu. (Nguồn:regmedia )

Ca sĩ và diễn viên Hàn Quốc chiếm 53% số người xuất hiện trong phim khiêu dâm deepfake, khiến họ trở thành nhóm bị nhắm đến thường xuyên nhất. (Nguồn:securityhero.io )

Tổng thống Yoon Suk Yeol đã nhiều lần kêu gọi không khoan nhượng đối với tội phạm tình dục kỹ thuật số, đặc biệt là những tội liên quan đến trẻ vị thành niên hoặc người lớn không đồng ý.

Trong một cuộc họp nội các được truyền hình trực tiếp, Yoon đã đề cập đến vấn đề này và tuyên bố,

“Đây là hành vi khai thác công nghệ trong khi vẫn dựa vào sự bảo vệ ẩn danh. Đây rõ ràng là hành vi phạm tội.”

Chính quyền của ông không ngừng thúc đẩy các quy định chặt chẽ hơn và điều tra kỹ lưỡng hơn để bảo vệ nạn nhân của những tội ác này.

Các phương tiện truyền thông địa phương đưa tin về việc sinh viên đại học và thậm chí cả học sinh trung học đã trở thành mục tiêu của nội dung khiêu dâm deepfake, với hình ảnh giả mạo của nữ sinh được chia sẻ trong các phòng trò chuyện trên Telegram.

Một nhà báo đã bí mật vào một trong những phòng chat và phát hiện ra rằng một số phòng chat được điều hành bởi bot Telegram:

Những tiết lộ này đã gây ra sự phẫn nộ rộng rãi, với các tổ chức như Công đoàn Giáo viên và Công nhân Giáo dục Hàn Quốc kêu gọi điều tra về cách phân phối những tài liệu nhạy cảm này.

Nhiều người tin rằng cần phải thực thi mạnh mẽ hơn Đạo luật bảo vệ nạn nhân và phòng ngừa bạo lực tình dục của Hàn Quốc.

Theo luật này, hành vi tạo và phát tán video deepfake có nội dung khiêu dâm có thể bị phạt tới năm năm tù hoặc phạt tiền 50 triệu won (khoảng 37.500 đô la).

Lời xin lỗi của Telegram và kế hoạch hợp tác lớn hơn

Để đáp lại áp lực ngày càng tăng từ cả chính quyền Hàn Quốc và công chúng, Telegram đã đưa ra lời xin lỗi hiếm hoi vào ngày 29 tháng 8, thừa nhận đã có sự hiểu lầm với KCSC liên quan đến việc xử lý nội dung bất hợp pháp.

Nền tảng này mô tả tình hình là "đáng tiếc" và bày tỏ mong muốn hợp tác với chính phủ Hàn Quốc.

KCSC hoan nghênh thiện chí tham gia mới này và đang hợp tác với Telegram để thiết lập đường dây nóng chuyên báo cáo các sự cố liên quan đến nội dung khiêu dâm bất hợp pháp.

Đường dây nóng này, cùng với kênh email mới, được coi là một bước quan trọng trong việc giải quyếtvấn đề ngày càng gia tăng của nội dung khiêu dâm deepfake trên Telegram .

Bất chấp những diễn biến này, sự hoài nghi vẫn còn.

Lịch sử không tuân thủ của Telegram, kết hợp với những thách thức pháp lý mà CEO phải đối mặt, khiến nhiều người đặt câu hỏi liệu nền tảng này có đáng tin cậy để thực hiện hành động có ý nghĩa chống lại tội phạm tình dục kỹ thuật số hay không.

Mặc dù việc xóa 25 video là một bước đi đúng hướng, nhưng đây chỉ là khởi đầu cho một quá trình cải cách có thể sẽ lâu dài và gian khổ.