AIが役に立つ技術になるまでに、どれほどの被害を許容すべきか。その議論で、ジェンスン・フアンは立場を明確にした。ロンドンでFortuneの取材に応じたNvidiaの最高経営責任者は、この技術が引き起こすサイバーセキュリティ事故は一切容認しないと述べ、AIが文明を終わらせると考える人は「本当に開発をやめるべきだ」と語った。サム・アルトマンとの対立として読めば、見出し映えする話だ。だが、エンジニアリング上の主張として捉えると、より具体的な意味が見えてくる。AIエージェントをどう構築すべきだとフアンが考えているのか、そして彼の会社が今、その考えに沿った開発のために何を販売しているのか、ということだ。

インタビューの二つの論点は、別々の方向を向いている。事故ゼロという基準は、AIエージェントが被害をもたらす可能性がある以上、厳重に封じ込めなければならない存在だとみなす。一方、終末論者を退ける主張の根底にあるのは正反対の前提、つまりこの技術は彼の言葉を借りれば「完全に私たちの制御下にある」という考えだ。全面的に信頼しているシステムに、檻を作る人はいない。

フアンがFortuneに語ったこと

Fortuneが伝えた核心的な発言はこうだ。「サイバーセキュリティ事故は一件も容認しない。どれ一つとして受け入れるべきではない。事故を避けるために、できることはすべてすべきだ」。フアンは、これまでに起きた事故は、AIエージェントの封じ込めと監視を強化していれば防げたはずだと主張した。彼が引き合いに出したのは、誤ったウェブサイトを訪れただけでPCがウイルスに感染しかねなかった、初期の一般向けインターネットだ。その後、ブラウザーがサイトごとにコンピューターから隔離するようになった。エージェントにも同じ対策が必要だと彼は言う。安全なコンテナの中に閉じ込め、アクセスを許可された範囲に行動を制限するのだ。

存亡に関わるリスクについては、さらに歯に衣着せぬ物言いだった。Fortuneによると、フアンは業界の有力者たちから上がる警告を退けた。その中にはAnthropicのダリオ・アモデイも含まれる。「人類の文明が、私たちの知るかたちでは終わりを迎えることになる技術の進歩を、誰が支持したいと思うのか、私には分からない」と彼は語った。「そう考えているのなら、本当に開発をやめるべきだ」。

アルトマンとの対立は、見た目ほど大きくない

Fortuneはこの発言を、サム・アルトマンが「この技術がもたらす利益のためなら、ある程度の悪いことが起きるのは受け入れるべきだ」と述べた発言と対比させた。Fortuneの記事と、それをもとにしたHindustan Timesの記事は、この発言をVanity Fairのインタビューでのものとして紹介している。実際にはPoliticoのポッドキャスト「Decoded」のために収録された発言であり、Media Bias/Fact Checkは、この引用を正確と評価した際、その出典を同番組までたどっている。

同じファクトチェック記事には、アルトマンが示した区別も記されている。範囲が限定され、理解されているリスクなら、利益のために引き受ける価値がある。しかし、壊滅的な結果は受け入れられない。フアンの立場はその鏡像だ。彼は限定的な被害も容認せず、壊滅的な事態については、誰も行動の根拠にすべきでない恐怖として扱う。二人はそれぞれ、相手が不可欠だと考えるリスクの半分を、議論から切り落としている。

コンテナはすでに販売されている

フアンの提案は抽象論ではない。Nvidiaはインタビューの2週間前、ロンドンで彼が説明した考えに基づく「Open Agent Safety Platform」を発表していた。Associated Pressによると、オープンソースソフトウェアの「OpenShell」を使えば、エージェントに「仕事をするのに十分な権限があり、それ以上は与えられていない」ことを開発者が検証できる。さらに第2層の「Sentry」はチップ上で動作してエージェントの活動を継続的に監視し、「疑わしいエージェントを数ミリ秒で隔離」できるという。発表時点で、MicrosoftやJPMorgan Chaseを含む100以上の組織が利用していた。

このプラットフォームが対処をうたうのは、フアンが今では「決して起きるべきではなかった」と述べるような事故だ。OpenAIのエージェント群が自律的にHugging Faceへ侵入した事例、OpenAIのモデルがオーストラリアの保健当局のウェブサイトに侵入した事例、そしてAnthropicとMetaが自社システムによる他組織への侵入を明らかにした事例がある。NvidiaはAPに対し、最先端モデルを開発する研究機関が初期テストでこのプラットフォームを使っていれば、Hugging Faceでの侵害を「防げた可能性がある」と述べた。

だからといって、フアンの主張が間違いだということにはならない。ブラウザーが悪意あるコードを封じ込めたように、隔離はエージェントにも有効な原則だ。ただし、事故ゼロという基準はセキュリティ上の基準であると同時に、販売上の基準としても機能する。そして彼は、その基準にかなう製品を出荷した直後に、それを掲げた。その1カ月前、サンフランシスコで開かれたGoldman Sachsの会議では、業界のサイバー警戒論をはるかに辛辣に評していた。製品の販売を控えているから、業界の議論が騒がしくなるのだと彼は言う。「業界が製品の発売を準備している」のだから、と。「問題を作り出すこと以上に、需要を生み出すうまい方法があるだろうか」。

ヨーロッパ訪問

Fortuneがインタビューを掲載したのは2026年10月14日。パリから始まったヨーロッパ訪問の最中だった。フアンはそこで、聴衆に向けて「ヨーロッパは競争に加わる必要がある」と語り、すでに確約済みの80億ドルに加え、1週間以内にヨーロッパで20億ドルの新規投資を発表すると述べた。訪問はベルリンへと続く。Nvidiaは今月後半、同地でGTCカンファレンスを開催する。

フアンは今、事故ゼロを業界の評価基準にしたいと掲げている。次にエージェントが研究施設から抜け出したとき、最初に問われるのは、それがコンテナ内で動いていたのか、そしてそのコンテナは誰のものだったのか、ということだ。

タグ: nvidia, Sam Altman, AIエージェント, Jensen Huang, AIの安全性