애플의 아이폰16 공개가 딥페이크 동영상으로 망가졌습니다.

애플의 기대되는 '글로우타임' 이벤트는 다음과 같습니다.YouTube 는 암호화폐 사기를 조장하는 팀 쿡 CEO의 딥페이크가 포함된 라이브 스트리밍으로 인해 아이폰 16 및 기타 새로운 디바이스를 소개하는 데 큰 타격을 입었습니다.

이러한 가짜 동영상 는 이벤트 기간 동안 시청자들에게 비트코인, 이더, 테더 또는 도지코인으로 교환하면 '돈을 두 배로 돌려준다'고 거짓으로 약속하며 QR 코드를 스캔하도록 유도했습니다.

AI가 생성한 쿡은 시청자에게 예치금의 두 배를 받을 수 있다고 했지만, 사기꾼들은 단순히 자금을 보관했을 뿐입니다.

특히 'Apple US'를 모방한 채널에 인증된 확인 표시가 있는 사기성 스트림이 등장했습니다.

공유된 스크린샷 및 동영상X(이전의 트위터) 에 따르면 이러한 사기성 스트림 중 일부는 봇이 신뢰도를 높이기 위해 부풀린 조회수가 수십만 회에 달하는 것으로 나타났습니다.

딥페이크 쿡 동영상 세부 정보

또한 이 동영상에는 Apple과 전혀 관련이 없는 사기성 URL인 apple-gift2024.com이 표시되었습니다.

이 사기 동영상은 다음과 같은 콘텐츠와 유사하도록 세심하게 제작되었습니다.Apple 의 공식 YouTube 채널로, 합법적인 업로드의 레이아웃과 디자인을 모방했습니다.

하지만 Apple의 공식 채널의 이름은 단순히 'Apple'이고 구독자 수가 1,900만 명이 넘는 반면, 이 사칭 채널은 200만 명에 육박한다는 점에 유의해야 합니다.

이 동영상에는 애플의 쿠퍼티노 본사에 있는 쿡의 오래된 영상과 함께 시청자에게 가짜 암호화폐 경품에 등록하기 위해 (안전상의 이유로 흐리게 처리된) QR 코드를 스캔하라는 제대로 생성되지 않은 음성이 등장합니다.

모조품은 속이기 위해 고안되었지만 안목 있는 시청자는 사기성을 드러내는 불일치를 알아차릴 수 있습니다.

유튜브의 알고리즘으로 딥페이크 사기가 급증한 이유

더욱 놀라운 점은YouTube 의 검색 알고리즘은 이러한 사기성 사기 동영상을 검색 결과 상단에 배치했습니다.

모든 사용자가 가짜를 쉽게 식별하거나 속고 있는 것을 인식할 수 있는 것은 아니기 때문에 이는 상당한 위험을 초래합니다.

따라서 이러한 오해의 소지가 있는 콘텐츠가 가장 인기 있는 검색 결과로 홍보되는 것을 방지해야 할 책임은 YouTube와 모회사인 알파벳에 있습니다.

또한 이러한 악의적인 행위자들이 어떻게 그렇게 쉽게 알고리즘을 조작할 수 있었는지 조사하는 것도 YouTube에 매우 중요합니다.