Perplexity、買い物の回答の15%で危険なサイトを表示　ChatGPTは8%

ブランドの商品をオンラインで買うならどこがいいか、AIチャットボットに尋ねると、偽の店舗や模倣品を売る業者、あるいはかつてブランドが使っていたものの、現在は別の誰かの手に渡った古いドメインを案内されることがある。ChatGPT、Gemini、Perplexityに何千もの買い物に関する質問を投げかけた新たな調査では、3つのサービスすべてがそうしたサイトを提示し、小規模ブランドほど狙われやすいことが分かった。今シーズン、贈り物選びをチャットボットに手伝ってもらうなら、示されたリンクは見知らぬ人から届いたテキストメッセージと同じくらい慎重に扱いたい。

調査を行ったのは、ブランドの知的財産を保護する企業Podqiで、結果はThe Vergeに独占的に提供された。Podqiはチャットボットに、買い物客なら誰でも入力しそうな質問を投げかけた。特定ブランドの商品を買うのに最適なウェブサイトはどこか、オンラインでどこから購入できるか、地域別サイトを通じて海外発送に対応しているか、といった内容だ。危険なサイトの定義は意図的に幅広く、実在する小売店になりすましたページ、偽造品を販売する店、見知らぬ人が再登録した期限切れのブランドドメイン、そして誰でも買い取って再利用できる閉鎖済みサイトが含まれていた。

最も成績が悪かったのはPerplexityで、回答の15％に危険なサイトが含まれていた。ChatGPTは8％、Geminiは4％だった。対象はLululemon、Birkenstock、Le Creusetから、StüssyやMadhappyといったストリートウェアブランドまで151ブランドに関する回答で、計6,795件に上る。これらの数値には、チャットボットが警告を添えて危険なサイトを挙げたケースも含め、サイトが提示されるたびに数えられている。3つの中で最も慎重だったChatGPTも、提示した危険なサイトのうち警告を付けたのは24％にとどまった。

地域別のオンラインストアを尋ねる質問で、特に問題が起きた。国ごとの店舗を尋ねると、チャットボットは、そのブランドが実際には運営していない地域別サイトを挙げることがあった。あるやり取りでは、PerplexityはStüssyの公式サイトとして誤ったページを示し、「本物が保証された商品を探すなら、ここから始めるのが最適」と説明した。大企業についての質問で危険なサイトが返された割合は、小規模ブランドについて尋ねた場合の約半分だった。つまり、知名度が低いブランドほど、偽サイトが回答に紛れ込みやすい。

回答の見せ方も問題を深刻にする。検索結果ページなら複数の候補が並び、どれを選ぶかは利用者に委ねられる。一方、チャットボットは1、2軒の店を自信に満ちた文で挙げ、個人的に勧めているような印象を与える。AI企業は商品調査や価格比較にアシスタントを使うよう積極的に売り込んでいるが、まさにそのタイミングで、買い物客はカード番号を入力しようとしている。

この調査には明確な限界もある。Podqiは実際の利用者との会話を分析せず、自社で質問文を作成した。また、対象ブランドの一つであるMadhappyはPodqiの顧客だ。さらに同社はブランド保護サービスを販売しているため、なりすましが深刻な脅威に見えるほど利益を得る立場にある。結果からは、危険なリンクをクリックした人や金銭を失った人がどれほどいるのかは分からず、数週間ごとに変わるモデルの状況を捉えたものでもある。

各社は公式にコメントした。Googleは、Geminiが最も良い結果だったことを喜ばしく思うと述べ、回答の根拠を確認できるよう出典へのリンクを表示している点を挙げた。OpenAIは、ショッピング結果に不正なサイトが表示されにくくなるよう、安全対策の改善を進めていると説明した。Perplexityは自社の正確性を擁護し、100％正確だと主張したことはないと述べた。

今回の結果は、より広い傾向にも当てはまる。9月にはサイバーセキュリティ企業Esetが、AIツールに収集され、信頼できる助言として利用者に返されることを狙い、キーワードを詰め込んだページを大量に公開する詐欺師について警告していた。Podqiの共同創業者、トレバー・ウェスト（Trevor West）の助言はシンプルだ。「個人情報やカード情報を入力する前に、情報源を確認するのが常に最善です」。テストは9月中に2回実施された。11月27日のブラックフライデーと11月30日のサイバーマンデーを控え、チャットボットが利用されている各地で、何百万人もの人が初めて訪れる店舗を探す時期だけに、調査のタイミングは重要だ。

タグ: OpenAI, Gemini, chatgpt, ネット通販, Perplexity, チャットボット