AIツールがAmazonやYelpに氾濫する偽レビュー - あなたは騙されていないか？

AIが生成したレビューがオンライン・プラットフォームに氾濫する懸念が高まっている

詳細なレビューを大規模に生成できるAIツールの出現は、企業、消費者、オンライン・プラットフォーム双方にとって、新たな挑戦の波を生み出した。

アマゾン、イェルプ、トラストパイロットなどのサイトでは、偽のレビューが長年の問題となっていたが、AI技術は、不正なレビューの作成と配信を大幅に加速させている。

AIはどのように偽レビューの状況を変えつつあるか

OpenAIのChatGPTのようなAIライティングツールは、詐欺師の手中にある強力なツールとなっている。

これらの技術により、ユーザーは本物と思われるレビューを素早く大量に作成できるようになり、消費者にとってもプラットフォームにとっても、正当なフィードバックと偽のフィードバックの区別が難しくなっている。

2023年半ば、詐欺的なオンライン活動を追跡する公的保護団体「トランスペアレンシー・カンパニー」は、AIが生成したレビューの著しい急増に気づき始めた。

について同社の調査結果は2024年後半に発表される。 その結果、家庭、法律、医療サービスにわたる7300万件のレビューのうち14％近くが偽のものである可能性が高く、そのうちの230万件は、すべてまたは一部がAIによって作成されたものである疑いがあることが明らかになった。

ソーストランスペアレンシー・カンパニー

技術系新興企業への投資家であるモーリー・ブラックマンは、AIによる詐欺の増加について次のようにコメントした、

quot;レビュー詐欺師たちにとっては、本当に、本当に良いツールなんだ；

AIと消費者の信頼への影響

AIが生成するレビューの台頭は、特に、レビューが購買決定において重要な役割を果たすホリデーシーズンのようなショッピングのピーク時に、消費者にとって特に懸念される。

アマゾンを含む大手eコマース・プラットフォームでは、真偽が疑わしいにもかかわらず検索結果の上位に表示される不正レビューが増加している。

偽レビューの検出を専門とするパングラム・ラボ社のマックス・スペロ最高経営責任者（CEO）は、アマゾンでAIが作成したレビューの中には、買い物客を簡単に騙すことができるほど「詳細でよく練られた」ものもあると話した。

一方、Yelpでは、AIが生成したレビューは、限定イベントへのアクセスやプロフィールの信頼性を高める "Elite "バッジを獲得するために十分なレビューを蓄積しようとするユーザーによって投稿されることが多かった。

企業はこの問題に対処するために何をしているのか？

AIが作成した偽のレビューが増加する問題に対処するため、企業は対策を講じている。

アマゾンやトラストパイロットのような主要なオンライン・プラットフォームは、純粋に個人的な経験を反映している限り、ユーザーがAI支援レビューを投稿することを許可している。

しかし、イェルプはより慎重な姿勢をとっており、レビューは利用者が個人的に書いたものでなければならないとしている。

Amazon、Trustpilot、Glassdoor、Tripadvisorなどの企業が参加するCoalition for Trusted Reviewsは、AIが悪用される可能性を認めつつも、詐欺的行為に対抗する機会とも捉えている。

同団体は、オンラインレビューの信頼性を確保するため、より優れたAI検知システムの開発を提唱している。

こうした努力にもかかわらず、専門家たちは、テック企業は偽レビューの規模に取り組むのに十分なことをしていないと考えている。

元連邦犯罪捜査官で『フェイク・レビュー・ウォッチ』の創設者であるケイ・ディーンが指摘した、

"これらのハイテク企業が、自社のプラットフォームにおけるレビュー詐欺の撲滅に尽力しているのであれば、自動化もせずに働く一個人の私が、ある日突然、何百、何千もの偽レビューを見つけることができるのはなぜなのだろう？"

連邦取引委員会が介入

米国連邦取引委員会（FTC）は、偽レビューの作成を助長する企業に対して重要な措置を講じた。

2024年、FTCは偽レビューの売買を禁止し、不正レビューの大量生成を可能にしたとして、AIライティングツールRytrの開発会社を提訴した。

同委員会は、Rytrのユーザーの中には、ガレージドアの修理サービスから偽造デザイナー商品の販売業者まで、数百から数千のレビューを作成している者もいると指摘した。

FTCの行動によって意識は高まったが、こうした偽のレビューをホストしているテック・プラットフォームは法的な影響から免れている。

米国の法律では、アマゾンやグーグルのような企業が、そのプラットフォーム上に第三者が投稿したコンテンツについて責任を負うことはない。

偽レビューを見抜く：消費者が知っておくべきこと

消費者は、レビューを読む際にいくつかの警告サインを意識することで、自分自身を守ることができる。

過度に熱狂的なレビューや過度に否定的なレビューは、製品のフルネームやモデル番号などの専門用語を繰り返し使用するレビューと同様に、疑いを持たせる必要があります。

特にAIが作成したレビューには、ある特徴が見られることが多い。

Panagram Labsの調査によると、こうしたレビューは長く、構造化され、"空虚な記述子"-"ゲームチェンジャー "や "最初に印象に残ったこと "といった曖昧な言葉で埋め尽くされる傾向がある。

イェール大学のバラーシュ・コヴァーチ教授は、AIが作成したレビューと人間が書いたレビューの区別がつかないことが多いという研究結果を発表した。

オンラインレビューによく見られる短い文章は、AI検知ツールを欺く可能性もあり、不正な内容を見抜くのが難しくなる。

高まる偽レビューとの戦い

AIを使った偽のレビューが増え続けるなか、その責任は、検知システムを改善する技術企業だけでなく、警戒を怠らない消費者にもある。

ポリシーを改善することで新たな現実に適応しているプラットフォームもあるが、消費者を欺瞞的なオンライン・コンテンツの被害から守るためには、もっと多くのことを行う必要があると専門家は主張している。

ケイ・ディーンが簡潔にこう言った、

"これまでの彼らの努力はほとんど十分とは言えない"