Úc giải quyết các vụ lừa đảo Deepfake bằng sáng kiến báo cáo mới
Người dân Úc có thể sớm chứng kiến sự sụt giảm các hình ảnh deepfake có hình ảnh người nổi tiếng trong các tình huống nhạy cảm hoặc quảng cáo đầu tư tiền điện tử gian lận.
Meta, công ty mẹ của Facebook và Instagram, đã khởi xướng một cơ chế báo cáo toàn diện nhằm mục đích chống lại các hành vi lừa đảo này.
Trong sáu tháng đầu hoạt động, sáng kiến này đã giúp xóa bỏ khoảng 8.000 trang lừa đảo và 9.000 vụ lừa đảo người nổi tiếng do AI tạo ra khỏi nền tảng của mình.
Người dân Úc mất bao nhiêu tiền vì lừa đảo?
Từ tháng 1 đến tháng 8 năm 2024, Scamwatch đã báo cáo khoản lỗ khổng lồ lên tới 43,4 triệu đô la do lừa đảo trên mạng xã hội, trong đó gần 30 triệu đô la liên quan đến các chương trình đầu tư gian lận.
Thống kê đáng báo động này nhấn mạnh nhu cầu cấp thiết về các biện pháp hiệu quả để bảo vệ người dùng khỏi những trò lừa đảo như vậy.
Những nhân vật công chúng nổi tiếng như David Koch, Gina Rinehart, Anthony Albanese, Larry Emdur và Guy Sebastian nằm trong số những người bị sử dụng hình ảnh sai mục đích để quảng bá cho những lời đề nghị đầu tư lừa đảo này.
Những bước nào đang được thực hiện để chống lừa đảo?
Để ứng phó với áp lực ngày càng tăng từ các chính trị gia và cơ quan quản lý, Meta đã ra mắt Sàn giao dịch thông tin gian lận (Fire) hợp tác với Sàn giao dịch tội phạm tài chính Úc (AFCX).
Nền tảng này cho phép các ngân hàng báo cáo các vụ lừa đảo đã biết trực tiếp cho Meta đồng thời cho phép công ty chia sẻ phát hiện của mình với các tổ chức tài chính.
Bảy ngân hàng lớn—ANZ, Bendigo Bank, CBA, HSBC, Macquarie, NAB và Westpac—đang tích cực tham gia sáng kiến Fire.
Kể từ khi ra mắt thử nghiệm vào tháng 4, đã có 102 báo cáo giúp xóa bỏ hơn 9.000 trang lừa đảo.
David Agranovich, giám đốc bộ phận ngăn chặn mối đe dọa toàn cầu của Meta, bày tỏ sự lạc quan về tiềm năng của sáng kiến này, ông tuyên bố,
“Kênh này cho phép các tổ chức tài chính cung cấp thông tin chi tiết và thông tin tình báo mà chúng tôi với tư cách là một nền tảng có thể không và thường không thấy được từ hoạt động lừa đảo có thể đang diễn ra trên các dịch vụ của các tổ chức tài chính đó.”
Tuy nhiên, bất chấp những nỗ lực này, số lượng báo cáo do sáng kiến Fire tạo ra vẫn chưa thấm vào đâu so với số liệu của Scamwatch, nơi ghi nhận 1.600 vụ mất mát được báo cáo từ các vụ lừa đảo trên mạng xã hội chỉ riêng trong tháng 8.
Liệu việc chia sẻ thông tin có tạo nên sự khác biệt không?
Rhonda Lau, người đứng đầu bộ phận thu hút các bên liên quan tại AFCX, đã nêu rõ sứ mệnh của chương trình:
“Mục đích của chương trình là làm cho Úc trở thành mục tiêu ít hấp dẫn hơn đối với những kẻ lừa đảo.”
Bằng cách tích hợp dữ liệu từ nhiều ngân hàng và Meta, sáng kiến này nỗ lực làm sáng tỏ bối cảnh rộng hơn của hoạt động lừa đảo vượt ra ngoài phạm vi các nền tảng truyền thông xã hội.
Meta không chỉ tập trung vào việc giải quyết các vụ lừa đảo mà còn chủ động thực hiện chiến lược rộng hơn nhằm loại bỏ các tài khoản gian lận trên toàn cầu.
Trong quý gần nhất, công ty báo cáo đã xóa 1,2 tỷ tài khoản giả mạo, trong đó 99,7% đã được xóa trước khi có bất kỳ khiếu nại nào của người dùng.
Agranovich thừa nhận những thách thức mà người dùng gặp phải khi cố gắng báo cáo các vụ lừa đảo, đồng thời hứa sẽ cải thiện quy trình báo cáo.
Ông ấy nói,
“Những gì chúng tôi nhận thấy là có một lượng lớn nội dung được xóa theo cách tự động… nhưng vẫn còn những nội dung khác được xóa thành công.”
Ông nhấn mạnh tầm quan trọng của việc tiếp tục hợp tác với các đối tác như AFCX để nâng cao hệ thống phát hiện của họ.
Liệu có quy định mới nào sắp được ban hành không?
Trong bối cảnh diễn biến này, trợ lý bộ trưởng tài chính Úc, Stephen Jones, gần đây đã công bố dự thảo luật về khuôn khổ phòng ngừa lừa đảo.
Dự luật này nhằm mục đích thực thi các quy tắc nghiêm ngặt đối với các ngân hàng, công ty viễn thông và nền tảng truyền thông xã hội, buộc họ phải có hành động quyết liệt chống lại các vụ lừa đảo.
Thời gian tham vấn cho dự thảo luật kết thúc vào ngày 4 tháng 10 năm 2024, cho thấy khả năng có sự thay đổi trong cách tiếp cận của Úc đối với công tác phòng chống lừa đảo.
Bộ luật sắp ban hành cũng bao gồm các hình phạt đáng kể, đề xuất mức phạt lên tới 50 triệu đô la Úc (34 triệu đô la Mỹ) đối với các công ty không tuân thủ các biện pháp chống lừa đảo.
Tính cấp thiết của luật này phản ánh mối quan ngại ngày càng tăng về số lượng các vụ lừa đảo đang gia tăng, với các báo cáo của Úc tăng gần một phần năm vào năm 2023, dẫn đến tổng thiệt hại lên tới 2,7 tỷ đô la Úc.
Meta đang phải đối mặt với những thách thức pháp lý nào?
Tính cấp thiết của việc giải quyết những vụ lừa đảo này càng trở nên phức tạp hơn do Meta đang phải đối mặt với những thách thức pháp lý liên tục.
Ủy ban Cạnh tranh và Người tiêu dùng Úc đã cáo buộc công ty này không ngăn chặn được việc phát tán quảng cáo tiền điện tử bằng hình ảnh người nổi tiếng, ước tính rằng 58% quảng cáo như vậy trên Facebook có khả năng là lừa đảo.
Meta đang phản đối những cáo buộc này, mặc dù chúng vẫn chưa được đưa ra tòa.
Ngoài ra, ông trùm khai thác mỏ Andrew Forrest đang theo đuổi một vụ kiện dân sự riêng biệt chống lại Meta, tuyên bố rằng nền tảng này đã cho phép lưu hành hàng nghìn quảng cáo tiền điện tử giả mạo có hình ảnh giống ông.
Forrest đã lên tiếng về tác động của những vụ lừa đảo này đối với người tiêu dùng Úc và đã cảnh báo Meta về vấn đề này từ năm 2019.
Liệu việc hợp tác với các tổ chức tài chính có hiệu quả không?
Bất chấp những thách thức này, Agranovich vẫn hy vọng vào sự hợp tác với các ngân hàng Úc.
Ông nhận xét về nhu cầu phải liên tục cảnh giác và hợp tác trong cuộc chiến chống lừa đảo trực tuyến, ông nêu rõ,
“Điều chúng tôi thấy hứa hẹn là một lượng nhỏ tín hiệu có giá trị cao có thể giúp chúng tôi xác định hoạt động gian lận và lừa đảo rộng hơn nhiều.”
Khi cuộc chiến chống gian lận kỹ thuật số ngày càng căng thẳng, nỗ lực chung của Meta, các tổ chức tài chính và chính phủ Úc có thể thay đổi đáng kể bối cảnh an toàn trực tuyến.
Mặc dù con đường phía trước còn nhiều thách thức, việc triển khai sáng kiến Fire đánh dấu bước đi chủ động nhằm giảm thiểu tác động của nạn lừa đảo đối với người dân Úc.
Anais
