Video do AI tạo ra lạm dụng các nhân vật chính trị
Trong một động thái đáng chú ý, Thủ tướng Singapore Lý Hiển Long đã đưa ra cảnh báo về mối đe dọa ngày càng tăng của video deepfake trên các nền tảng truyền thông xã hội. Thủ tướng, trong bài phát biểu công khai của mình, đã tập trung vào sự gia tăng của các video do AI tạo ra nhằm sử dụng sai hình ảnh của ông để chứng thực các vụ lừa đảo đầu tư tiền điện tử. Xu hướng đáng lo ngại này không chỉ thách thức niềm tin của công chúng mà còn đặt ra mối đe dọa an ninh nghiêm trọng.
Video Deepfake đang gia tăng
Vào ngày 29 tháng 12, Lee Hsien Loong đã lên trang Facebook của mình để thảo luận về sự gia tăng đáng lo ngại của các video deepfake. Những video phức tạp do AI tạo ra này có cả chính ông và Phó Thủ tướng Lawrence Wong. Nội dung lừa đảo trình bày các nhà lãnh đạo đang thảo luận về một kế hoạch đầu tư tiền điện tử không tồn tại được chính phủ xác nhận, được cho là có liên quan đến doanh nhân Elon Musk. Thủ tướng nhấn mạnh tính chất hư cấu của những video này, lưu ý việc những kẻ lừa đảo sử dụng AI để bắt chước quan chức; tiếng nói và hình ảnh. Họ khéo léo thay đổi cảnh quay từ các sự kiện chính thức, tạo ra những câu chuyện thuyết phục nhưng hoàn toàn sai sự thật. Chiến thuật này đã khiến số sự cố video deepfake ở Singapore trong năm nay tăng đáng kinh ngạc 500% so với năm 2023.
Kêu gọi khẩn cấp nâng cao nhận thức cộng đồng
Thủ tướng nhấn mạnh tầm quan trọng của việc công chúng cảnh giác trước những video deepfake này, hứa hẹn sai lầm về lợi ích tài chính. Ông cảnh báo không nên tham gia vào bất kỳ nội dung nào mang lại lợi nhuận hoặc quà tặng được đảm bảo. Để chống lại sự lan truyền của thông tin sai lệch, Lee khuyến khích người dân báo cáo các hoạt động lừa đảo như vậy thông qua ScamShield Bot của chính phủ trên WhatsApp.
Tiếp tục lo ngại về công nghệ Deepfake
Vụ việc này nhấn mạnh sự lo ngại hiện tại của Lee Hsien Loong về những rủi ro do công nghệ AI gây ra. Trước đây anh ấy đã nói về sự khó khăn trong việc phân biệt giữa nội dung thực và nội dung do AI điều khiển. Thủ tướng lưu ý rằng những kẻ lừa đảo thường lợi dụng mức độ đưa tin ngày càng tăng của các phương tiện truyền thông để thực hiện các vụ lừa đảo tiền điện tử, sử dụng các tác phẩm giả mạo có những nhân vật nổi bật như ông.
Nhận xét kết luận về AI và An toàn công cộng
Cảnh báo gần đây của Lee Hsien Loong nêu bật mối đe dọa ngày càng tăng của công nghệ deepfake. Nó thể hiện cam kết vững chắc của chính phủ đối với an ninh mạng và cuộc chiến chống gian lận kỹ thuật số. Tình huống này cho thấy những thách thức phức tạp do những tiến bộ của AI đặt ra và nhu cầu nâng cao nhận thức của công chúng trong việc bảo vệ chống lại các mối đe dọa đó.
Sự tinh vi ngày càng tăng của công nghệ deepfake đặt ra thách thức đáng kể đối với an ninh mạng, đòi hỏi nâng cao nhận thức cộng đồng và các biện pháp chủ động của chính phủ.
Joy
