인공지능 도구가 아마존과 옐프에 가짜 리뷰를 범람시키고 있습니다 - 여러분도 속고 계신가요?

온라인 플랫폼에 넘쳐나는 AI 생성 리뷰에 대한 우려가 커지고 있습니다.

대규모로 상세한 리뷰를 생성할 수 있는 AI 도구의 등장으로 기업, 소비자, 온라인 플랫폼 모두에게 새로운 도전 과제가 생겼습니다.

아마존, 옐프, 트러스트파일럿과 같은 사이트에서 가짜 리뷰는 오랫동안 문제가 되어 왔지만, AI 기술로 인해 사기성 리뷰의 생성 및 배포 속도가 크게 빨라졌습니다.

AI가 가짜 리뷰 환경을 바꾸는 방법

OpenAI의 ChatGPT와 같은 AI 작성 도구는 사기꾼들의 손에 강력한 도구가 되었습니다.

이러한 기술을 통해 사용자는 진짜인 것처럼 보이는 대량의 리뷰를 빠르게 생성할 수 있으므로 소비자와 플랫폼 모두 합법적인 피드백과 가짜 피드백을 구별하기가 더 어려워집니다.

2023년 중반, 사기성 온라인 활동을 추적하는 공익 보호 단체인 The Transparency Company는 AI가 생성한 리뷰가 급증하는 것을 발견하기 시작했습니다.

그리고2024년 말에 발표되는 회사의 연구 결과 는 가정, 법률, 의료 서비스 전반에 걸쳐 조사한 7,300만 건의 리뷰 중 약 14%가 가짜일 가능성이 있으며, 이 중 230만 건은 전체 또는 일부가 인공지능이 제작한 것으로 의심된다고 밝혔습니다.

출처: 투명성 회사

기술 스타트업에 투자하는 모리 블랙맨은 AI를 이용한 사기의 증가에 대해 다음과 같이 언급했습니다,

"리뷰 사기꾼들에게 정말 좋은 도구입니다.

AI와 소비자 신뢰에 미치는 영향

특히 리뷰가 구매 결정에 중요한 역할을 하는 연말연시와 같은 쇼핑 성수기에는 AI가 생성한 리뷰의 증가가 소비자들에게 특히 우려되는 부분입니다.

아마존을 비롯한 주요 전자상거래 플랫폼에서 사기성 리뷰가 증가하고 있으며, 이 중 일부는 진위가 의심스러운데도 불구하고 검색 결과 상단에 노출되는 경우가 있습니다.

가짜 리뷰 탐지에 주력하는 회사인 Pangram Labs의 CEO Max Spero는 아마존의 일부 AI 생성 리뷰가 "너무 상세하고 치밀하게 작성되어" 쇼핑객을 쉽게 속일 수 있다고 말했습니다.

한편, Yelp에서는 독점 이벤트에 참여할 수 있는 권한을 부여하고 프로필의 신뢰도를 높여주는 '엘리트' 배지를 획득하기 위해 충분한 리뷰를 쌓으려는 사용자들이 AI 생성 리뷰를 게시하는 경우가 많았습니다.

기업들은 이 문제를 해결하기 위해 어떤 노력을 하고 있나요?

기업들은 AI가 생성하는 가짜 리뷰 문제를 해결하기 위한 조치를 취하고 있습니다.

아마존, 트러스트파일럿과 같은 주요 온라인 플랫폼에서는 사용자가 자신의 개인적인 경험을 진정성 있게 반영하는 한, AI 지원 리뷰를 게시할 수 있도록 허용하고 있습니다.

그러나 Yelp는 보다 신중한 입장을 취하여 사용자가 직접 리뷰를 작성하도록 요구하고 있습니다.

아마존, 트러스트파일럿, 글래스도어, 트립어드바이저와 같은 기업이 포함된 신뢰할 수 있는 리뷰를 위한 연합은 AI의 오용 가능성을 인정하면서도 이를 사기 행위에 대응할 수 있는 기회로 보고 있습니다.

이 그룹은 온라인 리뷰의 신뢰성을 유지하기 위해 더 나은 AI 탐지 시스템을 개발해야 한다고 주장합니다.

이러한 노력에도 불구하고 전문가들은 기술 기업들이 가짜 리뷰의 규모를 줄이기 위해 충분히 노력하고 있지 않다고 생각합니다.

전 연방 범죄 수사관이자 Fake Review Watch의 설립자인 케이 딘은 다음과 같이 지적했습니다,

"이 기술 회사들이 플랫폼에서 리뷰 사기를 없애기 위해 그렇게 노력한다면, 자동화 없이 일하는 저 같은 개인이 하루에 수백, 수천 개의 가짜 리뷰를 발견할 수 있는 이유는 무엇일까요?"

연방 거래 위원회가 개입합니다.

미국 연방거래위원회(FTC)는 가짜 리뷰 작성을 조장하는 기업에 대해 중대한 조치를 취했습니다.

2024년 FTC는 가짜 리뷰의 판매 및 구매를 금지하고, 허위 리뷰를 대량으로 생성한 혐의로 AI 작성 도구인 Rytr의 배후에 있는 회사를 고소했습니다.

위원회는 Rytr 사용자 중 일부가 차고 문 수리 서비스부터 위조 디자이너 상품 판매자에 이르기까지 다양한 업체를 위해 수백, 수천 건의 리뷰를 작성하고 있다고 지적했습니다.

FTC의 조치로 경각심이 높아졌지만, 이러한 가짜 리뷰를 호스팅하는 기술 플랫폼은 법적 처벌을 피할 수 있습니다.

미국 법률은 아마존이나 구글 같은 회사가 제3자가 자사 플랫폼에 게시한 콘텐츠에 대해 책임을 지지 않습니다.

가짜 리뷰 발견하기: 소비자가 알아야 할 사항

소비자는 리뷰를 읽을 때 몇 가지 경고 신호를 알아두면 스스로를 보호할 수 있습니다.

지나치게 열광적이거나 지나치게 부정적인 리뷰는 의심을 살 수 있으며, 제품의 전체 이름이나 모델 번호와 같은 반복적인 전문 용어를 사용하는 리뷰도 의심을 살 수 있습니다.

특히 AI가 생성한 리뷰는 특정 특징을 보이는 경우가 많습니다.

파나그램 랩의 연구에 따르면, 이러한 리뷰는 "게임 체인저" 또는 "가장 먼저 눈에 띈 것"과 같은 모호한 용어인 "빈 서술어"로 채워져 더 길고, 더 체계적으로 작성되는 경향이 있습니다.

예일대학교 교수인 발라즈 코바츠는 사람들이 AI가 생성한 리뷰와 사람이 작성한 리뷰를 구분하지 못하는 경우가 많다는 연구 결과를 발표했습니다.

온라인 리뷰에서 흔히 볼 수 있는 짧은 텍스트도 AI 탐지 도구를 속일 수 있어 사기성 콘텐츠를 발견하기 어렵게 만듭니다.

점점 커지는 가짜 리뷰와의 전쟁

가짜 리뷰를 생성하기 위한 AI의 사용이 계속 증가함에 따라, 탐지 시스템을 개선해야 할 책임은 기술 기업뿐만 아니라 소비자도 경계를 늦추지 말아야 할 책임이 있습니다.

일부 플랫폼은 정책을 개선하여 새로운 현실에 적응하고 있지만, 전문가들은 소비자들이 사기성 온라인 콘텐츠의 희생양이 되지 않도록 보호하기 위해 더 많은 노력을 기울여야 한다고 주장합니다.

케이 딘이 간결하게 표현한 것처럼,

"지금까지의 노력만으로는 충분하지 않습니다."