Google DeepMind会長兼Alphabet最高科学責任者デミス・ハサビス、人間の脳は「チューリングマシンの生物学的な近似」

デミス・ハサビスは、人間の脳を汎用知能の唯一の実例として捉え、その考えを軸にキャリアを築いてきた。今週、彼の発言の一部が、AI業界は心をどう捉えているかという批判を象徴する言葉として広まった。しかし、その発言の全文を見ると、意味するところはより限定的であり、切り取られた部分よりも多くのことが見えてくる。

「チューリングマシンの生物学的近似」

この言葉は、ベンジャミン・ライリーがThe Vergeに寄稿したエッセイ「Our minds aren’t equipped to handle AI」の要となっている。ライリーはサイバネティクスの先駆者ノーバート・ウィーナーの「各時代の思考は、その時代の技術に反映される」という言葉から書き起こし、現在Google DeepMindの会長であり、Alphabetのチーフサイエンティストでもあるハサビスを、頭蓋骨を見れば自分たちの機械の姿を見てしまう業界の、最も分かりやすい例として挙げる。問題の言葉は、今年、アメリカ芸術科学アカデミーの学術誌Dædalusに掲載された、ジェームズ・マニカとの対談からのものだ。

全文が語っていること

Dædalusでハサビスは、自身にとってAGIとは何を意味するのかを説明していた。彼はAGIを「人間の心が持つあらゆる認知能力を示すシステム」と定義する。その理由は、脳が「汎用知能がそもそも可能なのだと、少なくとも今のところ、おそらく宇宙全体を見渡しても、私たちが知る唯一の実証例」だからだ。そして問題の一節は、全文ではこうなる。「脳はチューリングマシンの生物学的近似と見ることができる。つまり理論上は、計算可能なものなら何でも学習できるということだ」。ただし、その次の文では話に歯止めがかかる。有限のシステムには「時間、記憶、情報に限りがあるため、ある程度の専門特化が必要になる」。

このように読めば、人間はノートパソコンだという主張ではない。脳が原理上どこまで学べるのか、その範囲についての主張であり、同時に工学上の仕様でもある。脳を基準となる機械とするなら、AGIとは、その全領域に匹敵するものだ。ハサビスは、能力を測るテストの案まで示している。1910年までの知識しか持たないモデルを訓練し、アインシュタインが1915年にそうしたように、一般相対性理論にたどり着くかを確かめるというものだ。「今のところ、答えは明らかにノーだ」と彼は言う。

批判が向けられているのは、もう一段下の層

ライリーの異論は、別のところにある。モントリオール大学の神経科学者ポール・シセクの研究を引きながら、脳は、知覚するものを変えるために世界へ働きかけるフィードバック制御システムとして捉えるほうが適切だと論じる。脳はまず進化によって形づくられ、その後、模倣、言語、文字、学校といった文化によっても形づくられてきた。この見方に立てば、思考の骨の折れる部分を代わりに担うチャットボットは「認知のホットドッグ」だ。その場では魅力的でも、日常的な食事にすれば健康を損なう。ライリーは、OpenAIの教育部門責任者リア・ベルスキーがChatGPTを「世界最大の学習プラットフォーム」と呼んだことや、中国で行われた研究で、AIを使い始めた何千人もの学生が、実質的に宿題をしなくなったことを挙げている。

結論を左右する一節

最も鋭い食い違いは、ハサビス自身の段落の中にある。数行後、彼は鍵となるのは「脳がほとんど何でも学べる可能性、とりわけ知識を得る助けとなる道具や機械を設計し、作れるようになったこと」だと述べている。この一節に、論争の核心がある。ライリーが実際に示しているのは、チューリングマシンという枠組みが誤りだということではない。彼の根拠が示すのは、人が知識を得るのを助けるのではなく、学習そのものを代わりにしてしまう道具だ。計算可能性についての主張が示すのは、脳が理論上何を学び取れるかである。ある製品によって学ぶ人の頭の中が豊かになるのか、それとも空っぽになるのかについては、何も語っていない。

いま、この問いはAlphabetの科学戦略を担う人物に向けられている。ハサビスは8月、AGIの戦略と科学に専念するため、CEOとしての日々の業務から退いた。Fortuneの報道によると、彼は社員に対し、AGIは目前に迫っており、次の段階を正しく進めることは人類にとって極めて重要だと語った。人間の脳が持つ能力の全範囲を基準に機械を評価する研究所には、その機械を使う人々の能力が縮小しないようにすることも、直接関わってくる。

チューリングマシンの近似であっても、何かによってプログラムされなければならない。人間にとって、その何かとは、いつの時代も時間をかけて学ぶことだった。そして道具が増幅することもあれば、気づかれないまま飛ばしてしまうこともあるのが、その唯一の段階だ。

タグ: Demis Hassabis, Google DeepMind, AI in education, Artificial general intelligence, Turing machine