OpenAIのサム・アルトマン氏、国連で警告：「AIは人のために作られるべきで、ただ機械をより速く回すためではない…」

サム・アルトマン（Sam Altman）は長年、二つの顔を同時に持つ人物として歩んできた。市場で最も強力な人工知能を開発する一方で、その危険性について世界に警告する人物でもある。国連安全保障理事会を前にしたOpenAIの最高経営責任者は、二つの役割を切り分ける一文を示した。それ自体として見れば、よくできた言葉だ。

「AIは人々のために構築されるべきです。機械を、それ自体のためにただ速く動かすためではありません」

Analytics Insightが報じた発言で、アルトマンは安全保障理事会に向け、強力なシステムは人間の管理下に置かれなければならず、そのためのルールは研究所だけでなく各国政府が定めるべきだと、より大きな主張を展開した。この言葉は境界線を引く。片側にあるのは人々のためにつくられるAI、もう片側にあるのは、それ自体のために加速するAIだ。誰が口にしても、明快な原則として受け止められるだろう。しかし、その歯車を回すことに最も力を注ぐ企業の最高経営責任者が語れば、その境界をどこに引くかを誰が決めるのか、という主張も含まれる。

アルトマンは、設計者であると同時に危機を訴える、稀有な存在だ。安全策を求める同じ演壇で、前回の公聴会を招いたシステムをさらに上回る能力を持つ新たなシステムを発表する。9月23日の発言で、彼は舞台をダボス会議のパネル討論や上院の公聴会から安全保障理事会へと格上げしたが、これまでの姿勢は変わらなかった。言葉では慎重さを説き、ロードマップでは加速を掲げる。理事会では、開発者は「人間の管理下に置き続けられると極めて強く確信できないモデルを訓練すべきではない」と述べ、最も重要な決定は「サンフランシスコの研究所だけで下されるべきではない」と訴えた。

この一文が興味深くなるのはここからだ。そして、注意深く読み解く必要がある。アルトマンが語る統治の枠組みを策定するのは、彼が呼びかけた各国政府だ。そして「人々のためにつくられる」とは何かを定義する者は、どの開発者がすでにその条件を満たすのかも決めることになる。ルールづくりに関わる最先端の研究機関は、そのルールに対して中立ではいられない。だからといって、警告に意味がないわけではない。彼が指摘するリスク――監督するはずの制度をシステムの進化が追い越すこと、そして決定権があまりにも少数の手に集中すること――は現実のものだ。安全保障理事会でそれを公然と語れば、問題を曖昧なままにしておきたい人々にとって、無視するコストは高くなる。ただ、いまやメッセンジャー自身もメッセージの一部になっている、ということだ。

好意的に読めば、この言葉は一つの倫理を示している。人間を意思決定の輪の中にとどめ、AIを人々の主体性を支える道具として扱うこと。人々を機械に取り込まれる入力へと変えてしまうのではなく、ということだ。一方で、これを業界で最も注目を浴びる当事者による立ち位置の表明として読むなら、会議室で最も分別のある大人のように振る舞いながら、これから定められるルールの条件を主導しようとする動きでもある。どちらの読み方も同時に成り立つ。だからこそアルトマンは、簡単に退けることも、簡単に信頼することもできない。

世界がAIは誰のためにあるのかを決めようとする間も、歯車は回り続ける。この言葉がどれだけ誠実かは、ただ一つのことで測られるだろう。「人々のため」と「より速く」がついに別の方向を指したとき、OpenAIがアクセルを緩めるかどうかだ。

タグ: OpenAI, Sam Altman, AI safety, AI governance