Theo CryptoPotato, một video được chỉnh sửa của ông trùm khai thác mỏ và doanh nhân người Úc Andrew “Twiggy” Forrest trên Facebook đã được xác định là video mới nhất trong một loạt các video deepfake được sử dụng trong các quảng cáo lừa đảo, làm suy yếu niềm tin vào giới truyền thông. Công ty an ninh mạng Cybertrace đã gắn cờ video có vẻ như đang quảng cáo một nền tảng giao dịch tiền điện tử giả mạo.
Đoạn phim xuất hiện trên Facebook, kêu gọi người xem đăng ký một nền tảng lừa đảo có tên là 'AI lượng tử', mà Cybertrace cho rằng nổi tiếng về lừa đảo và lừa đảo tài chính. Đoạn video đã thay đổi hành động và cách cư xử của Forrest từ một 'cuộc trò chuyện bên lề' do Rhodes Trust tổ chức vào tháng 10 năm 2023. Cybertrace đã phát hiện ra hành vi giả mạo sâu trên Facebook vào ngày 27 tháng 1, trong đó một phiên bản được sửa đổi bằng AI của tỷ phú được hiển thị xác nhận một nền tảng giao dịch tiền điện tử gian lận.
Bất chấp việc công ty mẹ Meta của Facebook và Instagram thực hiện lệnh cấm deepfake vào đầu năm 2020, các clip đã được chỉnh sửa vẫn tiếp tục gây ra vấn đề cho những người dùng không nghi ngờ trên các nền tảng truyền thông xã hội. Forrest đã chỉ trích gã khổng lồ truyền thông xã hội vì đã không làm đủ để ngăn chặn các vụ lừa đảo và đang chờ buộc tội hình sự đối với Facebook vì một vụ lừa đảo quảng cáo tiền điện tử khác bị cáo buộc lạm dụng hình ảnh của anh ta. Forrest bày tỏ sự thất vọng của mình, nói rằng, "Facebook không làm gì cả - đó là điều mà tôi hy vọng các hành động pháp lý mà tôi bắt đầu sẽ giải quyết, khiến các công ty truyền thông xã hội phải chịu trách nhiệm về cách họ điều hành nền tảng quảng cáo của mình một cách cẩu thả." Tôi đã bắt đầu các thủ tục pháp lý gần hai năm trước vì lo ngại những người Úc vô tội có thể bị lừa đảo trên Facebook.”
Những kẻ lừa đảo deepfake đang gia tăng, với người sáng lập MicroStrategy, Michael Saylor, gần đây tiết lộ rằng nhóm của ông đang nỗ lực xóa khoảng 80 video giả mạo mỗi ngày, nhiều video trong số đó được thiết kế để xác nhận các trò lừa đảo Bitcoin khác nhau. Ngoài ra, các video được chỉnh sửa có sự góp mặt của các nhân vật nổi tiếng như tỷ phú Elon Musk cũng xuất hiện trên mạng xã hội. Một số video này chứa các liên kết đến các chương trình đầu tư, sản phẩm trái phép hoặc các trang thương mại điện tử không liên quan sẽ biến mất sau vài ngày. Các video deepfake do trí tuệ nhân tạo (AI) tạo ra đang ngày càng trở thành một trong những mối đe dọa bảo mật hàng đầu trên toàn thế giới. Dữ liệu từ Sumsub chỉ ra rằng tỷ lệ deepfake ở Bắc Mỹ đã tăng đáng kể từ năm 2022 đến quý 1 năm 2023. Tại Hoa Kỳ, tỷ lệ này tăng từ 0,2% lên 2,6%, trong khi ở Canada, tỷ lệ này tăng từ 0,1% lên 4,6%. Đồng thời, các trường hợp in giả giả, chiếm 4% – 5% tổng số vụ gian lận vào năm 2022, đã giảm mạnh xuống 0% trong quý vừa qua.