OpenAI新モデル「Astra」、自社史上最安全と主張しながら推論を非公開に

Astraは、コード、セキュリティ分析、コンピュータ利用、そして複数ステップにわたる専門業務において、標準的なソフトウェアエンジニアリングのベンチマークでOpenAIの前モデルSolやAnthropicのFableを上回るスピードと精度で動作します。同社は、これをサイバーセキュリティ能力の「Critical」ティアを超えた最初のモデルであると説明しています。つまり、これまで発見されていなかったセキュリティ上の欠陥を、人間のチームでは到底及ばない規模と速度で特定し、エクスプロイトを開発できるのです。

この背後にあるメカニズムは、オペーク・リカレンス（不透明再帰）と呼ばれる手法です。標準的な言語モデルは、推論過程を読み取り可能なテキストとして出力します——研究者が意思決定を監査し、エラーを発見し、モデルが意図通りに動作しているかを検証するために使う思考連鎖です。Astraはそのテキストを生成せずに動作します。処理の痕跡を読み取り可能な形で残さずに、難しい問題を解決できるのです。OpenAIのチーフサイエンティストであるヤクブ・パコツキ（Jakub Pachocki）氏はこの変化を認めています。より高性能なモデルは「より少ない言語トークンでより難しいタスクを実行できる」と同氏は述べています。監視はそれに比例して難しくなります。

これにより、OpenAI自身の主張が浮き彫りにする構造的な問題が生じます。同社はAstraをこれまでで「最もアライメントの取れたモデル」と説明しています。アライメント——AIシステムを設計者の意図通りに動作させるための工学分野——は、これまでモデルが何をしているかをステップごとに読み取ることに依存してきました。不可視の推論を行うモデルは、その方法では自身のアライメントを検証不可能にします。OpenAIは、Astraの動作を展開前に検証するためにどのような代替手法を用いているのか、公には説明していません。

OpenAIのプレジデントであるグレッグ・ブロックマン（Greg Brockman）氏は、Astraを「世代を超える飛躍」と表現し、これが汎用人工知能（AGI）に相当するか直接問われました。彼の回答は、OpenAIとマイクロソフトの提携を規定していた契約上のAGIの定義はもはや適用されない、というものでした。AGIは今や「精神的な概念」であると同氏は述べています。この枠組みは重要です。OpenAIとマイクロソフトの契約には、AGIに関連する条項——関係の条件が変わる状況——が含まれていました。AGIを未定義とすることで、Astraの実際の能力にかかわらず、それらの条項は休眠状態に保たれます。

アクセスはまず、OpenAIの審査済みサイバーセキュリティプログラムであるDaybreakに提供されました——これは同社が防御優先の展開と位置づける構造です。その論理は、自社システムの脆弱性を探す組織が、他社の脆弱性を探す組織よりも先にその能力を得るというものです。その論理が成り立つのは、アクセス制御が機能している間だけです。Astraのゼロデイ脆弱性特定能力は、設計上、まさに潤沢なリソースを持つ攻撃者が欲しがるものです。読み取り可能な思考連鎖なしに推論するモデルは、何か問題が発生した場合に事後的に制約したり監査したりすることも難しくなります。

より広範なアクセスは、有料ティア（Pro、Plus、Enterprise、Business）およびAPIを通じて、来週中に展開されます。

タグ: OpenAI, サイバーセキュリティ, AIモデル, AI安全性, AGI, Astra