OpenAIのサム・アルトマンCEO、AIの「3つの結末」を提示 うち2つは2023年の提案

OpenAIの最高経営責任者（CEO）、サム・アルトマン（Sam Altman）は、超知能をめぐる競争がどのような結末を迎え得るのか、社内の従業員に見取り図を示した。そこで何より印象的なのは、新しい要素がほとんどないことだ。従業員に説明した3つのシナリオのうち、2つは、数年前に自社が文書で示した考えに近い。どちらも実現には至っていない。大きく報じられた3つ目の案については、持ち出したものの、すぐに否定した。

呼び名を取り払えば、どの案も同じ問いに答えようとしている。最先端モデルを動かす計算資源を、誰が管理するのかという問いだ。アルトマンの発言として報じられた内容からは、この問題がなぜ先送りされ続けるのかも見えてくる。

AIの行き着く先について、サム・アルトマンがOpenAIの社員に語ったこと

社内プレゼンテーションの内容を最初に報じたのはThe Informationで、事情を知る関係者の話を引用している。その後、The Decoder、Forbes、Latin Timesも相次いで報じた。いずれも匿名の情報源に基づく。1つ目の案は、国際原子力機関（IAEA）をモデルにした国際機関が、最先端のAI開発企業に安全基準を順守させるというものだ。システムの検査や監査の義務づけ、計算資源とエネルギー使用量の監視を行う。The Informationに語った2人によると、アルトマンはこの案を支持する姿勢を示したという。

おすすめの記事サム・アルトマン、OpenAIのIPOは今なら『時期尚早』と語る——理由は安全性だけではない

2つ目の案は、Google DeepMindの共同創業者デミス・ハサビス（Demis Hassabis）が、約10年前にAI向けのCERN型機関を提案したことにちなみ、アルトマンが「Demis plan」と名づけたものだ。アルトマンの案では、主要なAI開発企業がひとつの組織に統合されるか、その傘下で協力し、その組織が協力国にモデルを提供する。

3つ目は、AI安全性研究者のイーライザー・ユドコウスキーにちなんだ「Eliezer plan」だ。開発者が自己改良型AIの開発に先んじ、その後に得られる経済力を使って、競合相手すべてから計算資源を奪う。広く伝わった表現では、他社のGPUを「すべて溶かす」ことになる。「当然、ひどい案だと思う」とアルトマンは述べたとされ、「網羅性」のために盛り込んだと付け加えた。

OpenAIは2023年、すでにこの選択肢の大半を書き記していた

監視機関の案は、選択肢のなかで最も早くから存在していた。アルトマン、OpenAI社長のグレッグ・ブロックマン、当時の主任科学者イリヤ・サツケバーの連名で発表された投稿で、同社は、世界は「最終的に、超知能開発の取り組みを監督するIAEAのような機関を必要とする可能性が高い」と主張した。能力や計算資源が一定の基準を超える場合に、システムを「検査し、監査を義務づけ」、開発や導入を制限できる権限を持つ機関だ。

同じ投稿では、ほかに2つの道筋も示されていた。主要国の政府が「現在進行中の多くの取り組みを取り込むプロジェクトを立ち上げることもできる」とし、これはアルトマンが現在ハサビスの案として紹介している統合構想に近い。また、業界が「AIの最先端における能力向上の速度を、年間一定の水準に制限する」ことで「集団的に合意する」可能性も挙げていた。

最後の一文が示すのは、開発速度の上限だ。The Decoderによると、アルトマンは社内で、AI開発に「速度制限」を設ける実現可能な提案が少なすぎると不満を述べたという。だが、その提案を公表したのはほかならぬ自社だった。実現に向けて欠けていたのは、制限を執行する権限を持つ主体だ。

監視機関が構想のままなのはなぜか――OpenAIは減速できないと言う

その理由は、同じ会議のなかで説明された。アルトマンは、最初の2案には大規模な連携が必要であり、OpenAIは今、他社に後れを取るわけにはいかないと社員に語ったとされる。同社もAnthropicも株式公開を視野に入れている。Crypto Briefingは投資家の論理を明確に説明している。上場を準備する企業は競争力を高めるのであって、それをコンソーシアムに明け渡すことはない。

AI版IAEAを実現するには、米国と中国が、最も機微な研究施設への査察を受け入れる必要もある。Forbesが指摘するように、現時点では、危険なAI関連の事案について両国が相互に通知するという米国の提案でさえ、合意ではなく構想の域を出ていない。

AI開発企業が実際に作ろうとしているのはIAEAではなくFINRA

現在進行中のガバナンス構想は、アルトマンが挙げた3案のどれにも当てはまらない。OpenAI、Google、Anthropicは、米国の証券ブローカーを監督する民間団体FINRAをモデルに、業界の自主規制団体「Standards Authority for Frontier AI」の設立に取り組んでいる。Latin Timesによると、構想には、リリース前のテスト、インシデント報告、監査人の認定が含まれる一方、強制力のある執行権限はない。また、新しいモデルを誰がテストするかについて、3社の意見はいまだに一致していない。Metaのマーク・ザッカーバーグとNvidiaのジェンスン・フアンは、こうした規則は主に既存大手を守るものだと主張している。米国ではすでに、AI開発企業間の安全性に関する連携はカルテルに当たるとして、反トラスト法に基づく訴訟も起こされている。

それぞれの呼び名も、改めて見直す必要がある。ユドコウスキーがもともと用いた「すべてのGPUを燃やす」というイメージは、無謀な競争を止めるために、整合性の取れたシステムがどれほど大きな行動を取る必要があるのかを考える思考実験だった。本人は、それを実際に望んでいるわけではないとも書いている。アルトマンの「Eliezer plan」は、緊急停止の手段を独占による勝利へと置き換えている。The Decoderが報じた内容によると、ある情報源は、この発言は競合他社への皮肉と受け止められたと語った。ユドコウスキーがAnthropicと関係しているためだという。

The Informationによると、OpenAIは今後1年以内に、どの道を進むか決める方針だ。業界標準を策定する団体は、2026年後半から2027年初頭の発足を目指している。

OpenAIが決断を下すまでの間も、同社はリストに載っていなかった唯一の道、つまり競争そのものを走り続ける。

タグ: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky

関連コンテンツ

OpenAIのサム・アルトマン氏、国連で警告：「AIは人のために作られるべきで、ただ機械をより速く回すためではない…」

サム・アルトマン、AIを語る「…使うことは交渉の余地がない」

OpenAIとAnthropicがAI減速を望む理由——それは彼らの「堀」になる

OpenAIが米政府に420億ドルの株式を提案——AIへの50パーセント課税法案を封じるために

NVIDIAのジェンスン・フアンCEO、AIによるサイバー事故は「ゼロ」を要求　AI悲観論者には「開発をやめるべき」

サム・アルトマン「我々はもうシンギュラリティの中にいる」