Google EarthのAI衛星編集ツールは24時間で停止——イランの偵核施設画像が生成された

Google Earthはこの20年、物理的な世界の実際の姿を検証しようとするあらゆる人にとって、標準的な視覚的参照物としての地位を築いてきた。ジャーナリストは紛争地域を記録するために使い、人権研究者は拘束施設を追跡するために使い、国連の査察官はオフィスの安全な場所からそれを参照する。Googleはそこに、新たな要素を一時的に加えた。衛星地図に直接接続されたAI画像生成機である。

このツールは、Google独自の画像生成モデル「Nano Banana 2」上に構築され、宣伝通りの動作をした。ユーザーが「ポンペイを噴火前の姿で表示」や「この海岸線をインフォグラフィックに変えて」といったテキストプロンプトを入力すると、AIが対応する現実世界の座標上に生成画像を重ね合わせた。正当な使用例は容易に想像できた。危険な使用例も同様に容易に実行できることが判明した。

調査ジャーナリストのHenk van Essは、この問題を最初に記録した一人である。機能公開から数時間以内に、彼はイランのある場所に架空の原子力発電所を生成した。結果はリスクを例示するのに十分な説得力を持っていた。さらに厄介だったのは、彼が組み込みの安全策をテストしたときに起きたことだ。Googleはすべての生成画像に、自社のAI認証レイヤーであるSynthID透かしを埋め込んでいた。Van Essは、スクリーンショットを撮る代わりに画面を写真に撮ることでこれを破った。第三者のAI検出ツールは、結果として得られた画像がAI生成である確率をわずか1％と評価した。

Googleの弁明は技術的には正確だったが、実質的には不十分だった。同社は、生成された画像は「他の人が見るメインのGoogle Earthエクスペリエンスには表示されなかった」と指摘した。これらはセッション固有であり、作成者のみが閲覧可能だった。しかし、画面を写真に撮って結果を共有すれば、その区別は崩れる。機密施設の偽造衛星画像が、キャプションのみを添えて流通すれば、欺瞞のために作られた画像と見分けがつかない。

ここには、より強力なガードレールでは完全には解決できない構造的な緊張関係が存在する。AI画像生成を有用にするのと同じ能力が、その基盤となる情報源が信頼された衛星データである場合に危険にもなる。その信頼は、Google Earthが表示するものが物理的な現実を反映しているという前提に依存している。生成されたコンテンツを実際の座標に重ね合わせることができ、認証レイヤーがカメラによって破られる瞬間、その前提にはひびが入り、機能がオフラインになってもそのひびは閉じない。

この機能は7月31日、公開から24時間も経たないうちに削除された。Googleは「ポリシーに違反しているように見える生成画像のスクリーンショット」を確認したことを認め、再公開前に「より強力なガードレール」を実装することを約束した。時期は明示されなかった。このタイミングはさらなる層を追加する。8月2日現在、EU AI法の完全な執行条項が欧州全域で発効しており、ユーザーを欺く可能性のあるAI生成コンテンツ——具体的には、信頼された情報源に埋め込まれた合成画像——のラベル付けが義務付けられている。

タグ: Google, AI, Google Earth, ディープフェイク, 衛星画像, 偵情報