AI安全性の費用は誰が負担するか、デミス・ハサビス氏:「資金は多額で、大半を産業界が負担する必要がある」

デミス・ハサビス氏はこの1年、最も強力なAIシステムが一般公開される前に、ウォール街のブローカーを取り締まる監視機関をモデルにした独立機関による審査を受けるべきだと主張してきた。難しいのは、そうした審判役が存在すべきかどうかではない。誰がその費用を負担するかだ——そして、Google DeepMindの責任者は、その問いにもひと言で答えを出した。

「資金は多額である必要があり、世界クラスの技術人材を集め、大規模なテストに必要な計算リソースを提供するには、おそらく主に業界から賄われるべきだ」

ハサビス氏は、マレー・メール紙が引用した枠組みに関するエッセイで、この一文を書いた。ざっと読むと、責任のように聞こえる。ガードレールには金がかかり、技術を構築している企業が、一般市民に後始末の費用を負担させるのではなく、その請求書を支払うべきだ、と。仕組みとして読むと、これは計画全体の要となる一文であり、審判役が最終的に誰の利益を守ることになるのかを左右する。

緊張関係は、この文の中にある。ハサビス氏は、その機関が独立していることを望んでいる。また、その機関が審判を下すまさにその業界から「主に」資金を得ることも望んでいる。この2つの目標は反対方向に引っ張り合うものであり、彼が選んだモデルの歴史は、どちらが勝つ傾向にあるかを示している。彼のひな型である金融業界規制機構（FINRA）は、監督する証券会社から資金を得ている。エリザベス・ウォーレン上院議員は、FINRAは「保護を目的とする個人投資家よりも、その請求書を支払う証券会社の利益のために」行動していると長年主張してきた。

この反論は、周辺的なものではない。ガートナーのバイスプレジデント・アナリストであるナデル・ヘネイン氏は、自己規制は単に「実行可能ではない」と述べている。なぜなら、ほとんどのベンダーにはその能力がなく、その取り決めは「必然的に」利益相反を生むからだ。独立アナリストのカーミ・レヴィ氏はさらに踏み込み、この計画を「害を顧みずに先を競うことに熱心な業界のための、自己奉行的なロードマップ」と表現した。同情的な声でさえ、防火壁を求める。ヨシュア・ベンジオ氏は、その実用主義を理解できるとしつつも、「自主的なモデルから強制的なモデルへの移行に関する、明確かつ正確なロードマップ」を主張している。

これらはいずれも、ハサビス氏を不誠実な人物にするものではない。彼は、タンパク質の形状を予測し、生物学の進め方を変えたシステムであるAlphaFoldを擁する研究所を率いている。その実績は、フロンティア能力に関する彼の警告に真の重みを与えている。まさにそれが、この一文を熟考する価値のあるものにしている。この分野で最も信頼できる技術的な声が、審判役を提案し、その規則を起草し、試験を受けるであろう同じ企業から予算を手配しているのだ。自主的な提出、公開前の短い審査期間、業界からの資金提供。それぞれの譲歩はそれ自体は合理的であり、それらが一緒になって、研究所が快適に受け入れられる機関を描き出している。

安全規制は、その予算が独立している限りにおいてのみ独立している。この規制が一般市民を守るのか、それとも研究所を守るのかを決定する一文は、フロンティアモデルのテストに関するものではない。それは、誰が小切手に署名するかについての、静かな一文である。

タグ: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI