サイエンス

Signal社長メレディス・ウィテカー、スマホのAIエージェントを「存亡の脅威」と呼ぶ理由

Penelope H. Fritz
Googleで追加する
メレディス・ウィテカー
メレディス・ウィテカー
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
生年2000
職業Signal Foundation社長
受賞ヘルムト・シュミット・フューチャー賞

金曜日、Signal(シグナル)は、ほとんどのユーザーが気づかないであろう設定をオンにした。新しいiPhoneでは、チャット画面に表示された内容をAppleの音声アシスタントSiriのAIが読み取れないようにし、スクリーンショットも初期設定で禁止する。Androidでは、GoogleのGeminiが画面を見ようとすると、ウィンドウを閉じる仕組みだ。変更を自ら発表したのは、Signalのプレジデントを務めるメレディス・ウィテカー(Meredith Whittaker)氏である。同じ投稿のなかで、彼女はこれでは不十分だとも認めた。Apple、Google、Microsoftがオペレーティングシステムに組み込みつつあるAIエージェントは、端末内に保存されたデータにはなお到達できる。Macでは、Signalには阻止する手立てがまったくない。彼女はこれを、自身が率いるアプリにとっての「存亡に関わる脅威」と呼んだ。

この闘いは彼女にふさわしいものだが、同時に、彼女のキャリアの中心にあるジレンマも浮き彫りにする。ウィテカー氏はGoogleで10年以上を過ごしたのち、その成長を支えたビジネスモデルの最も鋭い批判者の一人となった。いま彼女が率いるのは、データを収集せず、何も販売せず、寄付に頼る非営利のメッセンジャーである。ところがそれは、彼女が無謀だと断じるAI製品を手がけるまさにその企業が作ったスマートフォンの上で動かなければならない。Signalはメッセージをエンドツーエンドで暗号化できる。しかし、オペレーティングシステムまでは暗号化できない。

テクノロジーの世界への道のりは、意外なものだった。ウィテカー氏はカリフォルニア大学バークレー校で修辞学と英文学を学び、2006年にGoogleへ入社して13年間在籍した。同社ではOpen Researchグループを立ち上げ、研究者やオープンソースの開発者とともに、ネットワーク中立性の測定、プライバシー、セキュリティに取り組んだ。また、M-Lab(Measurement Lab)を共同で設立している。これはオープンなネットワークで、いまやインターネットの性能に関する最大の公開データ源となっている。

測定の経験は、証拠なしに示される主張を疑う姿勢を彼女に教えた。2017年には、ホワイトハウス主催のシンポジウムを受け、研究者のケイト・クロフォード(Kate Crawford)氏とともに、ニューヨーク大学にAI Now Instituteを共同設立した。同研究所が見つめたのは、人工知能がデモで何をできるかではなく、それを向けられる人々に何をもたらすかである。報告書は一貫して、ある主張に立ち返った。根本的な問題は偏ったコードというより、こうしたシステムを誰が所有し、誰に向けているのかにある、というものだ。のちにウィテカー氏はニューヨーク大学でMinderoo Research Professorshipの職に就き、AI Nowのファカルティ・ディレクターも務めた。現在は同研究所のチーフ・アドバイザーである。

この主張は、雇用主との衝突を避けられないものにした。2018年、彼女はProject Mavenに反対する請願書を書いた。これは米国防総省との契約で、Googleが米軍のドローン計画向けに機械視覚ツールを開発していたものだ。3,000人を超える従業員が署名し、Googleは契約を更新しなかった。その数か月後、彼女はGoogleウォークアウトの中心的な組織者の一人となる。性的不品行を告発された幹部アンディ・ルービン(Andy Rubin)氏に、同社が9,000万ドルの退職パッケージを支払っていたと報じられ、2万人を超える社員が席を立った出来事である。ウィテカー氏はのちに、Googleが報復として、AI Nowでの活動をやめるよう命じてきたと述べている。彼女は2019年7月にGoogleを去った。

同じ年の夏、彼女は米下院科学委員会で、AIシステムが偏見を固定化しかねないと証言し、テック企業の従業員に対する内部告発者保護を求めた。2020年初めには下院監視委員会でさらに踏み込み、顔認識の問題は精度だけでなく、力の弱い人々に対してそれを使う側の力にもあると論じ、その利用の停止を求めた。2021年11月からは、連邦取引委員会(FTC)のリナ・カーン(Lina Khan)委員長のもとで、人工知能担当の上級顧問を務めた。

Signalは2022年9月、アプリの経営陣とともに新設したポストの初代プレジデントとして、彼女を迎えた。Signalは広告を載せず、売れるユーザーデータも持たない。ウィテカー氏は、運営に年間およそ5,000万ドルかかると公言している。就任当初の彼女は、多くの時間を説明に費やした。ユーザーに関する情報をほとんど保持しないメッセンジャーに、なぜ大規模なエンジニアリングチームと安定した寄付者が必要なのか。そして、その代わりに何で支払うことになるのか――答えは監視である、と。

批判者たちは、このモデルの限界を指摘する。Signalの暗号化プロトコルはすでにWhatsAppの会話を守っているが、アプリ自体の規模は、その暗号技術の上に築かれたMeta製品のごく一部にとどまる。各国政府に対するウィテカー氏の交渉力は、主にひとつの脅しに支えられている。暗号化を弱めるくらいなら、その国から撤退する、というものだ。彼女はこれを欧州連合(EU)に向け、6月には再び英国に向けた。寄付で運営されるアプリには、なだめるべき株主がいないため、この脅しには説得力がある。だがそれは同時に、規制当局に対するSignalの答えを、交渉というより亡命に近いものにしている。同アプリが最も大きな注目を集めた出来事にも、似た隔たりが見えた。2025年3月、米政府高官らが、誤ってジャーナリストを加えたSignalのグループで軍事計画を議論していたことが発覚した際、ウィテカー氏は、この暗号化は私的通信におけるゴールドスタンダードだと擁護しつつ、チャットに間違った相手を追加することを防げるアプリは存在しないと指摘した。これほどの規模の注目は、断りにくく、制御はさらに難しい。

その後、彼女の関心は政府から、端末を作る企業へと移った。1月のダボス会議では、OS搭載のAIエージェントは暗号化サービスにとって危険だと語り、ルート権限を与えられたシステムは乗っ取られうると警告した。6月のBloombergのインタビューでは、チャットボットはあなたの友達ではないと述べ、自分の決済情報とSignalアカウントに手が届くアシスタントを、一種のバックドアだと表現した。今週、ロイターがSignalとAI Nowのスタッフとともに行ったテストでは、MetaのAIエージェント「Muse」が、通知へのアクセスを通じてAndroid上のSignalのチャットを読み取っていることが確認された。ウィテカー氏は、そこまで手の届くエージェントは技術的に無謀だと語った。

2023年、TIME誌は彼女を、人工知能分野で最も影響力のある人物を選ぶ初のリストに入れた。2024年5月にはハンブルクでヘルムート・シュミット未来賞を受賞した。民主主義とテクノロジーをめぐる活動に対し、ツァイト紙とそのパートナーが贈る賞である。2025年7月には、ドイツのメディアグループ、フーベルト・ブルダ・メディアの取締役会に加わった。

次に何が起きるかは、Signalよりも、Apple、Google、Microsoftの動きにかかっている。ウィテカー氏は3社すべてに対し、アプリがAIエージェントを画面やデータから遠ざけておくための、文書化された方法を求めている。Signalは、GoogleとAppleが対話に応じていることについて、慎重ながら楽観していると述べている。もしそれが実現すれば、今週彼女がオンにした遮断機能は、業界の標準になる。そうでなければ、市場で最もプライバシーに配慮したメッセンジャーは、自らが動くスマートフォンに対する回避策を出し続け、そのプレジデントは公の場でそれを訴え続けることになる。

タグ: , , , , , , ,

Googleで追加する

ディスカッション

0件のコメントがあります。