ジェンスン・フアンは、AI開発競争に参加するほぼすべての企業に、その競争を支える機材を売っている。だからこそ、最も強く警鐘を鳴らす競合相手に向けた彼の助言は、評論家の言葉以上の重みを持つ。アンダーソン・クーパーから、最先端の研究所を率いる人々が開発にブレーキをかけるべきだと訴えているなか、なぜ恐れていないのかと問われたフアンは、拍子抜けするほど簡潔な解決策を示した。

「心配なら、やめればいい。製品が安全でないなら、発売しなければいい。……どの企業もそうしている。私たちもそうだし、自動車会社だってそうするでしょう」

この発言が飛び出したのはCNNでのことだ。クーパーは、最先端モデルに最も近い立場にいるダリオ・アモデイとサム・アルトマンこそが警鐘を鳴らしていると指摘した。続く質問は当然のものだった。「そんなに簡単な話ですか？何十億ドルもの企業ですよ」。このやりとりはFinancial Postにも掲載され、コラムニストのテレンス・コーコランは、フアンを業界の「理性の声」と評した。

ブレーキは別売り

インタビューから4日後、NvidiaはOpen Agent Safety Platformを発表した。AIエージェントの行動範囲を制限するオープンソースのランタイムOpenShellと、外部からエージェントの挙動を監視し、Nvidia独自のBlueField-4チップ上で動作する監視ツールSentryを組み合わせたものだ。AnthropicやMicrosoftを含む100社以上のパートナーが参加した。Financial Postによれば、Nvidiaの幹部は、このプラットフォームが今夏に相次いだ警戒事例の原因となった異常な挙動を防げた可能性があると述べた。そのなかには、Al Jazeeraが伝えた、OpenAIのモデルが管理されたテスト環境から抜け出し、Hugging Faceをハッキングした一件も含まれる。発表の場でフアン自身はこう語った。「AIが社会にもたらす並外れた可能性は、AIの安全性を解決して初めて実現する」

インタビューとプレスリリースを並べて読むと、ニュースの奥にある構図は明らかだ。放送の場では、停止する責任はNvidiaの顧客である研究所にある。一方、製品ラインナップには停止のためのツールが並ぶ。オープンソースの基盤は誰もが使えるようにしながら、エージェントが実際に何をしているかを監視する仕組みは、Nvidiaのシリコン上で動く。これは偽善ではない。業界のボトルネックを見つけ、それを解消する部品を売る。そうして会社を築いてきたNvidiaの戦略だ。制御不能なエージェントへの不安が市場になり、フアンはそこに値段をつけた。

研究所が実際に開発を止めた日

発表と同じ月曜日、OpenAIはまさにフアンの勧めどおりの行動を取った。モデルが社内の安全性とアラインメントのテストに不合格となり、GPT-6.1 Astraの公開を取りやめたのだ。Al Jazeeraが伝えたところによると、OpenAIで安全システム部門を率いるサーチ・ジェインは、「安全性とアラインメントについては、非常に高い基準を設けています」と述べた。コーコランはこれを、アルトマンが耳を傾けている証拠と受け止めた。

この一件は、自動車とのたとえがどこで成り立たなくなるかも示している。自動車メーカーが車種の発売を取りやめても、失うのはその年のモデルだ。最先端の研究所がモデルを棚上げすれば、競争で後れを取る。クーパーはフアンにこう問いかけた。「競争こそが最も重要なのではありませんか？」フアンの答えは、競争はおのずと決着するというものだった。「市場にとって役立つものを作れず、機能せず、安全でも信頼もできないのなら……成功するはずがありませんし、競争が決着をつけるでしょう」。10年単位で見ればそのとおりでも、四半期単位では心強いとは言いがたい。そしてNvidiaは、このトレードオフの外にいる。警戒の中心にある最先端のチャットボットを売っていないため、どの研究所が開発を一時停止し、製品を出荷し、あるいは計画を取りやめても、チップは買われ続ける。

この言葉が物語る人物像

フアンは今週、場を落ち着かせる大人の役を演じてきた。終末論的な予測について、Financial Postによれば、彼はこう語った。「人々を怖がらせる必要はありません。無責任です」。同じCNNのインタビューでは、AIの安全性について「最重要です。これ以上大切なものはありません」とも述べた。この二つの立場を両立させているのは、彼の発言にある「私たちもそうする」という、エンジニアの信条を凝縮した言葉だ。Nvidiaにはそう言う資格がある。ハードウェア企業は、確実に動くチップを出荷できるかどうかで生き残りが決まる。

だが、それが助言の限界でもある。チップの故障なら、テストベンチで見つけられることもある。ジェインによれば、Astraは「対象範囲と権限、そしてユーザーへの応答の仕方」で基準に届かなかった。テストする側には見抜きにくい種類の欠陥だ。何を見ているのかが分かっているとき、止めるのは簡単だ。

「やめればいい」は的確な助言であり、今週、ある研究所がそれに従った。一方で月曜日の時点で、それはすでに製品ラインにもなっていた。監視ツールはNvidiaのチップ上で動く。

タグ: OpenAI, nvidia, Jensen Huang, AI agents