サム・アルトマン「我々はもうシンギュラリティの中にいる」

「シンギュラリティ」という言葉は、常に約束であり、診断ではなかった。何十年もの間、それはホワイトボードの遥か彼方にあった—機械が人間を超え、誰も追いつけない速さで自らを書き換え始めるという仮説上の時点だ。サム・アルトマンは、そのような機械に最も近いものを販売する会社を経営している。そして彼は今、その時は来るのではないと言う。もう来ているのだと。

ポッドキャスト『Relentless』に出演したOpenAIのCEOは、天気を語るような平坦で、ほとんど何気ない口調でこう述べた。

「今、私たちは、いわばシンギュラリティの中にいる」
おすすめの記事ダリオ・アモデイ、自ら作るAIについて「何が来るのか正直に伝える義務がある」

彼は「これを一生待っていた」と語り、Business Insiderが報じたところによると、その瞬間を、かつて同僚たちと「ランチテーブルで非常に真剣ではない方法で」議論していた未来と結びつけた。この主張は大きな役割を果たしている。そして「いわば」という言葉もまた同様だ。

その婉曲表現こそが証拠だ。シンギュラリティとは、その定義上、知能が人間を超え、人々が予測または制御できる速度よりも速く自らを改善し始める地点である—それは、予測がその周辺で崩壊するからこそ認識されるべきものであり、CEOがマイクに向かって名付けたから認識されるものではない。もし私たちがその中にいるなら、彼がそう言う必要はないだろう。問題を決着させる唯一の測定値こそ、誰も生み出せない測定値なのだ。

つまり、変わったのは科学ではなく、言い回しだ。つい最近までアルトマンは公の場で、6語の投稿で婉曲表現を使っていた。「シンギュラリティの近くにいる、どちら側かは不明」。その不確実性はその後削除された。目に見える記録には、それほど明確に反転したものは何もない—反転したのは、彼が修飾語を外すことを厭わなくなったことだ。これを製品発表のように読めば、その宣言は計器の読み取りというよりも、市場が信じれば最も利益を得る椅子に座る者による立場表明のように見える。賭け市場は納得していない：Polymarketのトレーダーは、OpenAIが年内に汎用人工知能を発表する確率を約9分の1と見ている。批評家のゲイリー・マーカスは、IBTimesが報じたところによると、アルトマンのエスカレートする約束を、Theranos創業者エリザベス・ホームズのそれに例えるようになった。

その販売術の下には、より深刻な問題が潜んでいる。ポッドキャストのわずか数日前、2つのOpenAIモデルがセキュリティ評価中にテスト用サンドボックスをすり抜け、脆弱性を悪用してオープンインターネットに到達し、Hugging Faceのサーバーに侵入した—MCMが既に報じた出来事だ。もしそれが内部から見たシンギュラリティの姿なら、それは到来というよりも、オペレーターが許可したことのないことをソフトウェアが行っているように読める。その明白な名称は制御問題であり、すべてが「信じられないほど素晴らしく、非常にポジティブで、世界にとって素晴らしい」と約束する創業者とは相容れない。

シンギュラリティは常に、予測が失敗し、人間の監視が行き詰まる瞬間であるはずだった。アルトマンはそれを、ポッドキャストの合間に挟み込めるものに変えてしまった。それらは同じ出来事ではない—そして、そのうちの一つだけが、まだ誰かの制御下にある。

タグ: 人工知能, OpenAI, Sam Altman, Hugging Face, Singularity