サイバーセキュリティ

MetaのAIエージェントMuse、AndroidでSignalの会話を読み取り、iPhoneでは阻まれる

Adrian Kessler
Googleで追加する

メタ(Meta)のAIエージェント「Muse」は、メールの返信や予約の手配、買い物まで利用者に代わってこなすが、Androidスマートフォン上で、Metaが利用者に管理を促しているアプリ連携の仕組みを経由せずに、Signalの非公開メッセージを読み取っていた。入り口となったのは、多くの人が深く考えずに許可してしまう「端末の通知へのアクセス」だ。同じ操作をiPhoneで試したところ、失敗に終わった。

この事実は、ロイター通信がSignalの社員や、AIが社会に及ぼす影響を研究する非営利団体AI Now Institute(AIナウ研究所)のスタッフとともに行ったテストで判明した。テストは、Metaのある社員が社内で報告した事例を再現しようとしたものだった。その社員は、Museが頼んでもいないのに、Signalに届いた姉からのメッセージに返信するよう知らせてきたという。「これは極めて重大なプライバシー侵害に思える。他のアプリへのアクセスを許可した覚えも、そう尋ねられた記憶もない」と彼女は書き込んでいる。AndroidでMuseを使っている場合、重要になるのはアプリの通知アクセスの設定で、これをオフにすればエージェントはメッセージのプレビューを読めなくなる。

Macでは、テスト担当者が2つ目の経路を見つけた。Museはスクリーンショット機能とmacOSのアクセシビリティ機能を組み合わせ、メッセージを読み取っていた。アクセシビリティ機能は、障害のある人がコンピューターを操作できるようAppleが用意している仕組みだ。どちらの場合も、Muse は利用者がエージェントに触れさせるアプリを選ぶ画面であるMeta独自の「Connector」ツールを経由せず、最初のセットアップ時に与えられた許可に頼っていた。この社員の同僚の一人も、同じ社内グループに、自分のAndroid端末ではMuseがプッシュ通知を読み取る許可が初期状態で設定されていたと報告している。

ロイターは、Museが誰も頼んでいない行動を取ったとMetaの社員が指摘した社内投稿を20件以上確認したが、その中にはメッセージの読み取りをはるかに超えるものもある。ある社員が釣りの天気についてエージェントと会話していたところ、「ちなみに銀行から2件のお知らせです。キャピタル・ワン(Capital One)の残高は2722.58ドル、チャールズ・シュワブ(Charles Schwab)の残高は5899.57ドルです」という一文が付け加えられた。彼は銀行の情報をMuseに共有したことは一度もなかった。別の社員は、コーヒーテーブルの出品者にメッセージを送る手伝いを提案され、その意味を尋ねたところ、Museは「あなたのものではないと思われる、コーヒーテーブルの引き取りに関する文脈を取り込んだ」と答えた。彼はこれを「アカウント間のコンテキスト漏えいの可能性」として報告した。

Metaはこれらの事例の受け止め方に異議を唱えている。広報担当のダニエル・ロバーツ(Daniel Roberts)氏は、これらの例を「個別の事案」と呼び、Museが他のアプリにアクセスできるのは利用者が明示的に許可した場合に限られると説明した。アカウントの取り違えが疑われた事例の多くはハルシネーション(幻覚)で、すでに修正済みだとも述べた。Museを開発するスーパーインテリジェンス・チームのメンバーは社員に対し、エージェントはセッションの合間に利用者と関わるよう促す組み込みのプロンプトに反応してメッセージを作り出しているようで、その作り話は「金融やセキュリティ、安全といった、最も不快な話題」に偏りがちだと説明した。ロイターは、Museが他人の実際のデータを渡していたのか、それとも作り上げていたのかを確認できなかった。メール、カレンダー、決済アカウントを求めるアシスタントにとって、どちらの答えであっても安心できるものではない。

ミスの中には、金銭的な損害につながったものもある。社員からは、Museが購入した商品の価格を勝手にでっち上げたという報告や、許可なくキャンセル不可のAirbnbの宿泊を予約したという報告があった。テック系メディアのArs Technicaは同じ報道を引用し、月額200ドルのはずがペット保険の月額888ドルのプランに切り替えられたテスターの例を紹介している。Metaの利用規約は、エージェントの行動の責任を利用者に負わせている。同社は、各エージェントはそれぞれ隔離された仮想マシン上で動作し、どのアプリを接続するかは利用者が完全に管理できると説明している。これは、マーク・ザッカーバーグ(Mark Zuckerberg)氏が業界全体のAI安全基準を求める声をかわす際に使ってきた論拠でもある。

この問題がMetaの社内にとどまらない理由は、その規模にある。Museは9月に米国で提供が始まって以来、ダウンロード数が1000万を超えた。FacebookやInstagram、WhatsAppを使う36億人に向けて宣伝されており、Metaによれば、セットアップした人のおよそ4分の1が毎日戻ってきているという。通知の許可は、アプリがインストールされているAndroid端末であれば、どの機種でも同じように働く。

Signalのメレディス・ウィテカー(Meredith Whittaker)代表は、Metaは「プライバシーとサイバーセキュリティの基本を尊重することなく」Museを公開したと述べ、人々の端末にそこまで踏み込むエージェントを「技術的に無謀」だと批判した。彼女が求めているのは、Signalのようなアプリが自らをAIエージェントの対象外として示せる一貫した技術的手段が整備されること、AI企業がそれを尊重すること、そしてOSの開発企業がそれを強制することだ。

AppleとGoogleはいずれもロイターに対し、AIエージェントに何を許可するかについて利用者の管理を強める変更を検討していると述べた。ただしGoogleは、Androidでアプリが通知を読み取るには、利用者がすでに「意図的に許可を与えなければならない」と指摘している。対応が早かったのはAppleで、今週のmacOSアップデートにより、開発者がMacでアクセシビリティ機能を使える範囲が大幅に制限され、エージェント向けに設計された新しい許可の仕組みも加わった。これでテスターが使った経路はふさがれた。Googleは同等の修正を発表していない。Androidでは今のところ、その扉の鍵は設定画面のスイッチ1つだけだ。

タグ: , , , , , , ,

Googleで追加する

ディスカッション

0件のコメントがあります。