GPT-6 Astra、有料ユーザーを締め出す——原因はOpenAI自身の安全ルールだった

謝罪はアクセスよりも先に届いた。OpenAIはこれまでで最も高性能なモデルを発表し、マイルストーンと称した。だがその翌日には、最高経営責任者（CEO）がX（旧Twitter）で、毎月ChatGPTに課金しているユーザーに向けて「まだ触れない」ことを謝罪していた。彼はこの展開を「混乱している」と表現した。その一言が多くのことを物語っていた。

しかし、その言葉が覆い隠したのは、これが決して偶然ではなかったという事実である。OpenAIはサーバーが足りなくなったわけでも、バグに遭遇したわけでもない。同社は意図的に、このモデルは発売日に有料顧客に提供するには危険すぎると判断し、その後、自ら選んだ遅延に対して謝罪したのだ。この判断こそが、「混乱」という言葉が示唆するような障害対応の場当たり的な慌てふためきではなく、実際のストーリーなのである。

その理由は、OpenAI自身の安全ルールブックにある。同社によれば、GPT-6 Astraは、自社の「Preparedness Framework（準備態勢フレームワーク）」において「Critical（重大）」のサイバーセキュリティ基準を初めて超えたモデルだという。これは、モデルの能力が厳格な管理を引き起こす内部ラインである。平たく言えば、適切なツールを与えられれば、Astraはこれまで未知だったセキュリティ上の欠陥を発見し、それを堅牢なシステム全体で悪用する方法を、ほぼ自律的に突き止めることができる。評価中に、Astraは誰もカタログ化していなかった脆弱性を発見し、それを人間が各ステップを指示することなく利用した。そんなことができるモデルを、すべての有料購読者に一度にスイッチを入れるわけにはいかない。

そこでOpenAIは通常の順序を逆転させた。Astraを最初に受け取ったのは、最高額の利用者層ではなく、サイバーセキュリティ防御者向けの申請制プログラム「Daybreak」に参加する企業群だった。一般向けのバージョンは危険なタスクを拒否する——概念実証のエクスプロイトは書かない——一方、審査を通過した防御者たちは、後日制限の緩いビルドを利用できるよう準備が進められている。さらに、Pro、Business、Enterpriseの各購読者、ならびにAzureやAWS上のAPIおよびクラウド顧客には、アクセスが数日中に提供されると伝えられた。通常なら新リリースを最初に手にするProユーザーは、列の最後尾に回されることになった。

これで、OpenAIが旗艦モデルのローンチを連続して撤回せざるを得なくなったのは2回目であり、同社はそれを認識している。サム・アルトマンはすでに、GPT-5のとき「チームはローンチを完全にしくじった」と述べていた。今、同じ脚本が繰り返されている。「私たちがしくじったときは、それを正そうとする」と彼は書き、近い将来に広くアクセスできるようにすると約束しつつ、有料ユーザーが週末中にアクセスできることを期待しているが、まだ確約はできないと付け加えた。その「正す」ための措置は、積み立てられたリセットである——有料購読者がAstraにアクセスできない日ごとに、1回分の利用クレジットがリセットされるというものだ。これは補償であり、同時に、同社が予定通りに提供できないアクセスを販売したことの認めでもある。

ここでの問題は、本当はリセットのことではない。それは、OpenAIが何になったかということだ——自ら危険と評価したツールの門番となり、どの顧客に危険なバージョンを預けるかを決め、どの顧客には安全なバージョンを与えるかを決める存在になったのだ。グレッグ・ブロックマンは、Astraを一種の汎用人工知能（AGI）として合理的に解釈できるものだと示唆している。また、チーフサイエンティストのヤクブ・パホツキは、同社は「モデルのアライメント監視能力がある一定のレベルを超えて低下することを受け入れない」と述べている。これらはマーケティング上の決まり文句ではない。自社の製品が、自社の監督能力を上回り始めていることを、同社が声を大にして認めているのだ。謝罪は課金の苦情に向けられている。しかし、より深刻な代償は信用である——市場で最も高性能なモデルを販売しながら、それを支払っている人々に使用できる日付すら約束できない会社の信用だ。

他のすべての人にとって、この教訓は謝罪よりも小さく、より鋭い。OpenAIは、自社の顧客すら初日には信用できないと判断した機械を構築した——そして、その顧客の前に並んでいるのは、ものを壊すことを仕事にしている人々なのである。

タグ: OpenAI, Sam Altman, AI safety, AI models, GPT-6 Astra