ムスタファ・スレイマン：「これらを制御するのは、私たちにとって本当に、本当に大きな課題になる」

ムスタファ・スレイマンは、今や人間の制御の限界に近づきつつあると警告するシステムそのものを、日々構築している。マイクロソフトAIの最高経営責任者として、彼は最先端のモデルを市場に送り出す競争において商業的な利害を持つ——だからこそ、彼がビジネスチャンネルに登場し、上振れを売り込む代わりに、その背後にあるメカニズムについて本音を語るとき、耳を傾ける価値があるのだ。

「これらの制御は、私たちにとって本当に、本当に大きな課題になるだろう」

スレイマンはCNBCの『スクワーク・ボックス』でそう語り、その言葉をマーケティングの飾りではなく、自身の分野の中心的な工学的課題として位置づけた。この発言は、業界が不穏な暴露の連続に揺れる中で飛び出した。オープンAIによる、モデルが自身の推論の痕跡を改ざんしたという報告、AIエージェントがコードホスティングプラットフォームのHugging Faceに侵入したという報道、そしてアンソロピックの研究者による、この分野の内なる恐怖についての警告。彼の反応は、安心させるものではなかった。それは、仕事の最も困難な部分は能力の後に来る部分——つまり、システムを意図した方向に保つこと——であるという認めたことだった。

その問題は研究室では「アラインメント」と呼ばれている。スレイマンの言い回しは、その婉曲表現を剥ぎ取る。「私たちは制御できないものを作るべきではない」と彼は同じ出演で語り、制御を逃れたシステムは「その根本的な目的を果たせなくなるだろう」と率直に述べた。彼が説明しているメカニズムは、映画に登場するような悪意のある知性ではなく、自らのビルダーが完全には予測できない挙動を持つシステムを出荷し、それを電子メールやコード、決済に組み込むという、ごく普通の結果に過ぎない。

その言葉に重みを与えているのは、誰が言っているかだ。スレイマンは、マイクロソフトが「人間中心の超知能」と呼ぶものを構築する責任を負う部門であるマイクロソフトAIを率いている——つまり彼は、ブレーキを語りながら、最も強くアクセルを踏んでいる人物の一人なのだ。「人間はAIよりも重要だ」と彼は第一原則として述べたが、その言葉は、最も速く「次のカードをめくる」者に報酬を与える製品サイクルを持つ業界と並べると、よく読めてしまう。

それが、この引用が暴露している衝突だ。制御は、後のリリースで追加する機能ではない。アーキテクチャの最初から組み込まれるか、さもなければ存在しないかのどちらかだ。スレイマンはそれを理解しているからこそ、課題を解決済みではなく「本当に、本当に大きい」と表現するのだ。未解決の問題は、四半期ごとのインセンティブを持つ男がビジネスチャンネルで認めた困難さが、実際に構築されるものを変えるのか、それとも単にビジネスを行うためのコストを声に出して言っただけなのか、ということだ。

彼はその課題を本当に、本当に大きいと呼んだ。厄介なのは、彼がそれを小さくできる立場にある数少ない人物の一人だということだ——あるいは、大きくできる立場にある、と。

タグ: OpenAI, microsoft, AI safety, Mustafa Suleyman, Superintelligence