チャールズ国王、AI開発者に自らの技術がもたらす「実存的危険」を警告

「これらの技術を生み出した人々は今、AIがより暗い能力、おそらくは生命さえも奪う能力を発達させるリスクがあると警告している。」チャールズ国王が選んだこの文は、ハッカーや敵対国家についての警告ではなかった。それは、システムを構築する人々に向けられた鏡であり、その警告は彼ら自身に起因するものだと彼は述べた。

それが、多くの報道が軽く扱った演説の半分だった。広まったのは同じ発言の中のより穏やかな一節、すなわち「そうした技術が悪者の手に渡った場合の存在の危機」だった。悪者の手、というのは、あなたがツールを出荷する側にあるなら心地よい枠組みだ。危険を外側に置き、中立的な道具を悪用する何らかの悪役のせいにするものであり、道具そのものや、それをより高性能にしようと競う企業のせいにはしない。チャールズ国王はそこに留まることを拒否した。

彼は代わりに、リスクの根源を指差した。創造者たちこそが今警鐘を鳴らしているのだと彼は言い、そして会場に鋭い問いを投げかけた。「確かに、全てが手遅れになる前に十分な制御手段が必要ではないでしょうか」

その一文の重みは一つの言葉にあった。『制御』は、このような会合が実際には手渡せない唯一のものだ。法定権限を持たず、企業が従うべき制限を設けず、無視しても罰則はない。浮かび上がったのは『共通原則』を追求するという合意だった――それは願望を表す言葉であり、仕組みではない。幹部たちは、あらゆる証言によれば、対話に感謝していた。感謝は安全策ではない。

ここには儀式の陰で見落とされがちな制度的逆転がある。君主はNVIDIA、OpenAI、Anthropic、Google DeepMindに対して何の影響力も持たない。モデルの認可、トレーニング実行の監査、製品展開の遅延はできない。それらを行える人々――立法者、競争規制当局、実際に会場にいた大臣――は集まりの主催者ではなかった。象徴的権威を持ち執行力を持たない人物が、世界で最も執行力のない権力を持つ人々に、どうか自らを統制してほしいと頼んでいた。それはだいたい、業界がずっと好んできた取り決めだ。

そう解釈すれば、今回のサミットは開発者たちに静かな恩恵をもたらした。ストーリーを『悪者の手』に変え、技術自体は問題なく、その悪用だけが問題だという枠組みにした。機械が自身の軌道で『より暗い能力』を発達させるという内在的能力についての警告を、悪者についてのよくある議論に変換した。そして全体を、たとえ誠実であっても、自ら求めた安全対策の一文すら強制できない王冠の正当性で包み込んだ。

集まりは、スコットランドのエアシャイアにある国王の修復されたジョージアン様式の邸宅、ダンフリース・ハウスで行われた。会場にはNVIDIAの最高経営責任者（CEO）ジェンセン・フアン（Jensen Huang）、Google DeepMind創業者デミス・ハサビス（Demis Hassabis）、OpenAIの最高財務責任者（CFO）サラ・フライアー（Sarah Friar）、Anthropicの最高グローバル事業責任者ティノ・クエジャル（Tino Cuéllar）、英国の人工知能担当大臣カニシュカ・ナラヤン（Kanishka Narayan）、そしてバチカンの技術倫理顧問パオロ・ベナンティ神父（Paolo Benanti）がいた。チャールズ国王は、AIの可能性、特に医療分野での可能性にも言及し、その環境コストにも触れることを忘れなかった。彼は出席者に、技術を「人類、コミュニティ、そして自然界の確固たる奉仕に」保つよう求めた。拘束力のあるコミットメントは、会場を彼らと共に出ることはなかった。

こうして、この分野で最も影響力のある人々は、国家元首が彼らの製品を単独で生命を奪う能力があると描写するのを聞き、好む枠組みをそのままに、王室との面会という成果を持ち帰った。国王が求めた制御手段は、彼が語る前と全く同じ場所に残っている：彼が語りかけた手の中に、そして他の誰の手にもない。

タグ: 人工知能, OpenAI, AIの安全性, AIリスク, チャールズ国王