Google EarthのAIディープフェイク機能はわずか1日で撤回——地図の「証拠としての信頼」を損なった

GoogleがGoogle Earthに対して何を行ったかを最も早く理解する方法は、同社がそれをいかに迅速に撤回したかに注目することだ。地球上で最も信頼される地図に、誰でも架空の現実を描き込める機能が登場し、画像を検証する専門家たちから警鐘の波が上がり、ほとんどのユーザーが目にする前に消え去った。Googleはこの撤回を「一時停止」と呼んだ。だが、それはむしろ、同社が誤った機能を誤った製品に搭載してしまったことを、公の場で認識した瞬間のように読める。

この仕組み自体が、その衝撃以上に重要だ。Google Earthの価値はすべて「証拠性」にある。ジャーナリスト、法廷、人道監視団体、オープンソース調査員がこのプラットフォームを利用するのは、衛星画像が簡単には偽造できないからにほかならない。そこにプロンプトから画像を生成するツールを組み合わせれば、クリエイティブなおもちゃが追加されるのではなく、製品の信頼性を支えてきた唯一の特性が損なわれる。このツールは設計通りに動作した。それが問題だったのだ。

撤回前のGoogleの弁明は、透かしだった。生成された画像にはすべて、AIコンテンツ用の不可視マーカー「SynthID」が付与され、ユーザーはGeminiやLensでいつでも画像を確認できると同社は主張した。しかし透かしとは、すでに画像を疑い、調査する手段を持つ人々のための鑑識ツールにすぎない。実際に問題が発生する瞬間——スクロール、シェア、文脈から切り離されてフィードに流れ、誰も検証しないスクリーンショット——には何の効果もない。SynthIDを安全策として提示することは、制御策というよりは責任逃れだった。リスクを検討し、そのまま通したという証拠にすぎない。

外部の研究者たちが数時間で生み出したものこそ、Googleが真摯に向き合うべき部分だ。これらのシステムを専門に調査する研究者たちは、数週間も必要としなかった。彼らはイランの原子力発電所、国境に集まる難民、病院の爆弾跡、西洋の都市に落とされた爆発跡——まさに市場を動かし、紛争を激化させ、どんな訂正も追い越すような画像を生成した。ある調査員は、要求したものは何一つ拒否されなかったと報告している。これは巧妙な悪用の話ではない。公開前に最も基本的な敵対的テストさえも通過していなかったローンチの話であり、そのテストを部外者が無償で、しかもGoogleの不利益になる形で実行したのだ。

Bellingcatの研究者たちは長年、衛星画像を偽情報経済における「安全な賭け」として扱ってきた。その情報源がはるか上空にあり、手の届かない場所にあるからだ。このようなツールの危険性は、単一の偽画像ではない。それは「環境そのもの」だ。一度、もっともらしい偽の衛星画像が簡単に作れるようになれば、本物の画像もすべて疑わしくなる。偽造者が捕まったとしても、偽造者の勝ちは変わらない。なぜなら「疑念」こそが産物だからだ。すでに前例はある——最近の中東紛争では、地球画像とAIを組み合わせて作られた、損傷した米軍基地の偽造衛星画像が出回った。Googleはそのワークフローをボタン一つにしようとしたにすぎない。

したがって、説明責任の問題は、Googleが迅速に行動したかどうかではない。なぜこの機能が、この製品に、透かしというガードレールだけで存在したのか、ということだ。24時間の寿命は、対応の速さの勝利ではない。予見可能な害を出荷し、インターネットにそれを発見させることに頼ったガバナンスプロセスの証拠である。同社は、より強力な管理策を備えてこの機能を復活させると述べている。しかし、より正直な読み解き方はこうだ。Googleは、Google Earthが最も苦労して獲得した資産——証拠としての信頼性——の一部を、このトレードオフが許容されるかどうかを確かめるために費やした、というものだ。

今回は許されなかった。しかし、地図が「描き換え可能」であることはすでに示されており、その知識は機能とともに巻き戻されることはない。

タグ: Google, Google Earth, Nano Banana, ディープフェイク, 衛星画像