Deepfakes

메타는 '유명인 미끼' 사기를 방지하고 딥페이크 광고를 줄이기 위해 50,000명의 유명인을 대상으로 테스트하면서 얼굴 인식 기능을 조심스럽게 재도입했습니다. 하지만 이 정도면 유출된 계정을 막기에 충분할까요, 아니면 더 많은 조치가 필요할까요?

홍콩 경찰은 딥페이크 기술을 이용해 로맨스 사기를 통해 약 3억 6천만 홍콩달러(약 4,600만 달러)를 가로챈 사기 조직을 해체했습니다. 조직 범죄와 연루된 것으로 추정되는 5명을 포함해 총 27명의 용의자가 체포되어 정교한 온라인 사기의 위협이 커지고 있음을 강조했습니다.

호주 자유당은 2024년 연방 총선을 앞두고 앤드류 바(Andrew Barr) ACT 주총리의 딥페이크가 등장하는 호주 최초의 완전 인공지능으로 제작된 정치 광고를 공개했습니다. 이로 인해 정치에서 AI의 영향력에 대한 우려가 커지면서 선거 과정을 보호하기 위한 긴급한 규제가 필요하다는 목소리가 높아지고 있습니다.

유엔 보고서에 따르면, 동남아시아의 범죄 네트워크가 해킹된 데이터와 사이버 범죄 도구의 거래와 같은 대규모 불법 활동에 텔레그램을 이용하고 있다고 합니다. 이는 이러한 활동에서 플랫폼의 역할에 대한 텔레그램의 설립자 파벨 두로프에 대한 조사에 따른 것입니다. 이 인기 있는 메시징 플랫폼이 재기의 기회를 잡을 수 있을까요?

Character.AI는 살해된 10대 피해자의 모습을 가족의 동의 없이 비디오 게임에서 사용했다는 이유로 반발에 직면했습니다. 피해자의 아버지와 삼촌이 회사를 비난하면서 챗봇이 삭제되고 제작자의 계정이 정지되었습니다. 이 사건은 인공지능 개발의 윤리적 감독에 대한 우려를 불러일으켰습니다.

텔레그램은 한국에서 조작된 여성 이미지에 대한 우려 이후, 딥페이크 음란물 및 불법 콘텐츠에 대한 무관용 정책을 약속했습니다. 이번 방송통신심의위원회와의 파트너십은 올해 이미 800명 이상의 개인이 피해를 입은 만큼, 유해물을 신속하게 삭제하고 피해자를 보호하는 것을 목표로 하고 있습니다.

한국 경찰청은 2021년 9월부터 불법 딥페이크 음란물에 대한 515건의 잠복 수사를 진행하여, 해당 콘텐츠 유포에 연루된 청소년을 포함한 1,415명을 검거했습니다. 디지털 성범죄의 증가에 대응하여, 당국은 딥페이크 포르노에 대응하기 위한 태스크포스를 구성하고, 이러한 범죄를 조장하는 텔레그램의 역할에 대해 평가하고 있습니다.

가짜 금지법은 승인되지 않은 딥페이크와 AI가 생성한 콘텐츠로부터 개인을 보호하는 동시에 혁신과 강력한 윤리적 안전장치의 균형을 맞추기 위한 초당파적인 통합 노력을 제시합니다.

애플의 새로운 아이폰16 모델 공개는 암호화폐 사기를 조장하는 팀 쿡 CEO의 딥페이크 때문에 중단되었습니다. 놀랍게도 YouTube의 검색 알고리즘은 이 사기성 스트림에 우선순위를 부여하여 플랫폼의 사용자 보호에 대한 우려를 부각시켰습니다.

생성형 AI에서 딥페이크가 증가함에 따라 YouTube는 크리에이터의 지적 재산을 보호하기 위한 두 가지 도구를 도입할 계획입니다. 이 도구의 세부 사항은 기대되는 부분이지만, 아직 공식 출시일은 공개되지 않았습니다.