OpenAIとAnthropicがAI減速を望む理由——それは彼らの「堀」になる

人工知能の開発を減速させようという突然の熱狂について、最も印象的なのは、それを建設している人々が今になってブレーキを求めていることではない。彼らが描くブレーキは、自分たちだけが余裕を持って踏めるものだということだ。最も価値のあるAI研究所のリーダーたちが、ほとんど声を揃えて「この分野は進みすぎている」と同意するとき、安全性の主張は本物である——そして、その静かな水面下にビジネス上の論理もまた横たわっている。

きっかけは、Anthropicのダリオ・アモデイ氏が「フロンティアのペースを調整する」よう呼びかけたことだ。つまり、モデルの能力向上の速度を緩め、研究所内に独立した評価機関を設置し、民主主義国の主要プレーヤーが共通の安全基準に合意することを求めた。彼は、AIに対する世間の反発を、彼自身の言葉を借りれば「信頼の危機」と位置づけた。その直後、サム・アルトマン氏が同意し、OpenAIもまさにこの問題を議論していたと述べた。イーロン・マスク氏は「ダリオは正しい」という2語の支持を送った。メディアはこれを、遅ればせながら訪れた良心として一斉に報じた。

同じ計画を、安全担当官ではなくアナリストとして読むと、別の構図が見えてくる。埋め込まれた第三者レビュー、認定されたアライメントテスト、公開されたリスク枠組み、インシデント報告——これらは単なる安全策ではない。固定費である。そして固定費は、大企業が持つ最も信頼できる競争武器だ。なぜなら、それは全員に同じドルで降りかかるが、痛みは誰にとっても平等ではないからだ。

算術を考えてみよう。米国の最大手クラウド・AIインフラ企業は、来年度の設備投資として約6600億〜6900億ドルをコミットしている。アマゾンだけで約2000億ドル、アルファベット、メタ、マイクロソフトはそれぞれ数百億ドル規模か、それに迫る。こうしたバランスシートに比べれば、コンプライアンス体制——埋め込まれた評価チーム、年次の安全枠組み、カリフォルニア州が違反ごとに100万ドルに上限を設定する罰金——は誤差範囲だ。フロンティアに到達しようとするスタートアップにとっては、それは全滑走路そのものである。

これはもはや仮定の話ではない。カリフォルニア州のSB 53は、すでに「大規模フロンティア開発者」を2つの基準で定義している。非常に高い計算閾値を超えて訓練されたモデルと、5億ドル以上の収益だ。そうした企業は、安全枠組みを公開し、重大インシデントを厳しい期限付きで報告しなければならない。欧州では、AI法の第55条が、最も強力な汎用モデルの提供者に対し、敵対的テストの実施、システムリスクの軽減、重大インシデントの報告を義務付けている。床は注がれつつある。問題は、誰がそれに気づかずに立っていられるほど背が高いかだ。

最も明確な兆候は、誰がブレーキを求めていないかだ。この計画は、その自然な敗者を決して名指ししないが、特定するのは容易い。ウェイトを無料で公開すること自体をビジネスモデルとする研究所——メタ、フランスのMistral、中国のDeepSeek、アリババ——だ。ある反対意見の分析が述べるように、これらは「エッセイが決して印刷しない4つの名前」であり、有料顧客がAPIをレンタルする代わりにダウンロードするかもしれない無料モデルの製作者だ。誰でも午後には変更できるモデルのアライメントを認証することはできない。したがって、フロンティアを対象とした基準体制は、オープンウェイトに最も大きな打撃を与える。そして、オープン陣営は、既存大手がむしろ引き留めたいユーザーを勝ち取っている。中国のオープンモデルQwenはダウンロード数が数十億に達する一方、メタのLlamaは数億にとどまる。

これは何も新しいことではない。規制産業における最も古い手口だ——既存プレーヤーは、自分が負担できるルールブックを歓迎する。なぜなら、自社の帳簿では些細なコストが、競争相手にとっては壁になるからだ。経済学者はこれに明確な名前を付けている。規制の虜囚（レギュラトリー・キャプチャー）であり、それは悪意を必要としない。安全性の主張は完全に誠実でありながら、参入障壁として機能しうる。ここでは、両方が同時に真実である。

欧州にとって、賭け金は見た目よりも鋭い。大陸で唯一の信頼できるフロンティア挑戦者であるMistralは、まさにオープンウェイトの研究所であり、そのスペインおよび欧州全体の顧客——安価で変更可能なモデル上に製品を構築するスタートアップ——は、世界のコンプライアンス基準が4つの米国既存大手を中心に書かれた場合、最も大きな損失を被る人々だ。サンフランシスコで設計され、ブリュッセルで批准されたルールブックは、公衆を守ると同時に、リーダーたちの背後で梯子を引き上げることができる。

だから、安全性への転換を歓迎しよう。リスクは現実であり、評価者は遅ればせながら必要とされている。しかし、次に何が起こるかを見守ろう。最終的なルールが、4つの巨人が支払え、それより小さい誰も支払えないという場所に正確に落ち着くなら、減速はフロンティアのペースを調整したのではなく、むしろそれを囲い込んだことになるだろう。

タグ: OpenAI, Anthropic, AI regulation, Mistral, open-weight models