호주, 최초의 AI 정치 광고를 공개하며 국가적 논쟁을 촉발하다

호주 최초의 AI 정치 광고, 캔버라에서 큰 파장을 일으키다

호주 자유당은 호주 최초로 인공지능을 활용해 제작한 정치 광고를 캔버라에서 선보이며 새로운 영역에 도전했습니다.

이러한 대담한 움직임은 2024년 임박한 연방 선거를 준비하면서 중요한 변화를 의미합니다.

이 광고는 캔버라에서만 방영될 예정이지만, 그 잠재적 영향력은 전국적으로 확산될 수 있습니다.

스콧 모리슨의 성공적인 2019년 캠페인으로 유명한 에이전시인 Topham Guerin이 제작한 이 광고는 AI를 활용하여 호주 수도 준주(ACT) 총리인 앤드류 바의 딥페이크 이미지를 제작했습니다.

AI가 생성한 이 광고는 다음과 같은 음성으로 유권자의 불만에 초점을 맞춥니다,

"투표할 때마다 밥은 같은 당에 투표하는데... 20년간의 약속이 깨진 후 앤드류는 행복하지 않습니다."

정치 광고에 AI를 사용하는 것은 호주 정치에서 새롭고 잠재적으로 논란이 될 수 있는 도구입니다.

딥페이크 기술: 선거 캠페인의 새로운 개척지?

토팜 게린은 정치인의 딥페이크 영상을 AI로 제작하여 사용하기로 결정함으로써 캠페인 전략에 새로운 차원의 기술 혁신을 가져왔습니다.

전적으로 인공지능으로 제작된 이 광고의 앤드류 바에 대한 묘사는 단순한 기술적 성과가 아니라 ACT의 유권자들에게 영향을 미치기 위한 전략적 움직임입니다.

호주 수도 준주(ACT)의 최고 장관인 앤드류 바(Andrew Barr)의 딥페이크 표현입니다.

인공지능으로 생성된 딥페이크 기술은 한국 등 다른 국가에서는 이미 존재하지만 호주에서는 여전히 논쟁의 여지가 있는 이슈입니다.

한국에서는 선거에 영향을 미치기 위해 딥페이크가 사용되면 최대 징역 7년을 포함한 엄중한 처벌을 받을 수 있습니다.

그러나 호주의 법적 프레임워크는 아직 이러한 성장 추세를 따라잡지 못하고 있습니다.

캔버라에 초점을 맞춘 이 캠페인에서 볼 수 있듯이, 정당들은 여론과 유권자의 결정을 형성할 수 있는 AI의 잠재력을 테스트하며 경계를 넓히고 있습니다.

호주 정치의 AI: 민주주의에 대한 위협?

정치 캠페인에서 AI의 존재감이 커지면서 잠재적 위험에 대한 우려가 커지고 있습니다.

현재 연방 정부는 선거 광고법 개혁을 고려하고 있지만, 2024년 선거가 임박하면서 규제가 너무 늦어질 수 있다는 우려가 있습니다.

데이비드 포콕 무소속 상원의원은 다음과 같이 우려를 표명했습니다,

"정부와 국회가 운전석에서 잠들어 있는 것이 걱정입니다."라고 말했습니다;

포콕을 비롯한 일부 정치인들은 AI의 규제되지 않은 사용이 민주적 절차에 위협이 될 수 있다고 우려하며 즉각적인 조치를 촉구하고 있습니다.

AI가 현실과 조작 사이의 경계를 계속 모호하게 만들면서 호주의 정치 시스템이 이 진화하는 기술을 다룰 준비가 되어 있는지 의문이 남습니다.

과거의 논란: 퀸즐랜드의 AI 실험이 주는 교훈

퀸즐랜드 자유국민당은 스티븐 마일스 총리가 춤을 추는 저화질 딥페이크 동영상을 공유한 후 반발에 직면했습니다.

일부에서는 이 동영상이 무해한 것으로 인식될 수도 있지만, 마일스는 이 동영상의 광범위한 영향력에 대해 경각심을 불러일으켰습니다.

그는 정치에서 AI의 사용이 증가하면 "매우 위험한 전환점이 될 수 있다"고 경고했습니다.

마일스의 우려는 정치 캠페인에서 인공지능의 영향력을 둘러싼 불안감을 강조합니다.

퀸즐랜드의 사례는 낮은 수준의 딥페이크 기술을 사용한 것이지만, 캔버라의 광고는 보다 정교하고 잠재적으로 강력한 AI의 적용을 의미하며 윤리적 의미와 향후 선거에 미치는 영향에 대한 논쟁을 불러일으켰습니다.

싱가포르 재무부, AI 생성 광고에 대한 반발에 직면하다

싱가포르도 홍보 콘텐츠에 AI를 활용하기 위해 노력했지만, 그 노력에 대해 상당한 비판에 직면했습니다.

재무부(MOF)는 최근 AI 도구를 사용하여 가계의 재정적 부담을 줄이기 위한 제도인 향상된 보증 패키지를 홍보하는 이미지를 만든다는 이유로 비난을 받았습니다.

인스타그램에 공유된 이 AI 생성 비주얼은 손가락이 하나 더 달린 여성의 손과 일그러진 가로등 등 부자연스러운 특징으로 인해 많은 사람들이 '소름 끼친다', '끔찍하다'는 표현을 사용하며 비판을 받았습니다;

일부 네티즌은 이 광고를 소셜 미디어에서 흔히 볼 수 있는 사기 영상과 비교하며 정부 메시지에 AI를 사용하는 것에 대한 광범위한 논쟁을 촉발시켰습니다.

위험은 그만한 가치가 있을까요?

국가 홍보 자료에 AI와 딥페이크 기술을 사용하는 것은 복잡한 딜레마를 야기합니다.

이러한 도구는 청중의 참여를 유도하고 설득력 있는 내러티브를 만들 수 있는 특별한 기회를 제공하지만, 진정성과 신뢰에 상당한 위험을 초래할 수도 있습니다.

잘못된 정보와 조작의 가능성을 간과해서는 안 됩니다.

각국이 이러한 기술의 영향에 대해 고민하는 가운데, 창의성 향상의 매력이 대중의 신뢰를 약화시킬 가능성을 정당화할 수 있는지에 대한 중요한 질문이 제기되고 있습니다.

이 불안정한 환경을 헤쳐 나가기 위해서는 혁신과 윤리적 책임의 균형을 맞추는 것이 필수적입니다.

호주가 2024년 선거에 맞춰 AI를 규제할까요?

연방 선거가 다가옴에 따라 정치 광고에서 인공지능을 규제하기 위한 경쟁이 점점 더 치열해지고 있습니다.

데이비드 포콕과 같은 정치인들은 AI가 생성한 콘텐츠의 규제되지 않은 사용으로 인한 위험성을 경고하며 즉각적인 조치를 취할 것을 촉구하고 있습니다.

그러나 정부는 아직 선거 광고 관련 법 개정을 마무리하지 않아 이 새로운 문제를 해결하는 데 상당한 공백이 남아 있습니다.

인공지능으로 제작된 콘텐츠가 널리 보급됨에 따라 호주 의원들은 선거 과정의 무결성을 보호하는 규정을 제정해야 한다는 압박을 받고 있습니다.

정부가 충분히 신속하게 대응할 수 있을지는 아직 미지수이지만, 현재 정치 광고에 딥페이크가 사용되는 것은 이미 호주 선거의 미래를 좌우할 수 있는 선례가 되었습니다.