AI

ヤン・ルカン、大学の研究者に「LLMには絶対に取り組むべきではない」

Adrian Kessler
Googleで追加する

ヤン・ルカンは何年にもわたり、大規模言語モデルはAI業界にとって遠回りだと訴えてきた。Xで講演の一部が拡散するなか、チューリング賞受賞者の警告は、より小さく立場の弱い相手――大学の研究室にいる研究者たち――に向けられ、そこにはもはや一切の留保がない。

「LLMの研究はすべきではありません。少なくともアカデミアにいるなら、LLMの研究は絶対にすべきではありません。あなたが貢献できることは何もありません。AIを本当に前進させたい、現実世界に根差したAI、つまり実世界のためのAIに関心があるなら、フィジカルAIを目指すなら、LLMには取り組まないでください。生成モデルにも取り組むべきではありません」

ルカンがこう語ったのは、5月29日にETH Zurichで開かれた「Frontiers of Embodied AI」講演シリーズで、「World Models: Enabling the Next AI Revolution」と題して講演した際のことだ。AI評論家のローハン・ポールは今週、この映像をルカンの「最新の講演」として投稿したが、実際には4カ月前のものだった。続く一言には笑いが起きた。「おそらくお察しのとおり、こんなことを言っていると、シリコンバレーではあまり人気者になれません」。背後のスライドには「Recommendations to my fellow AI scientists」とあり、最後は赤字の大文字でこう締めくくられている。「人間レベルのAIに関心があるなら、LLMには取り組むな」。

前半の主眼は計算資源にある

挑発的な言い回しを取り除けば、アカデミアへの助言の本質は経済的な問題だ。大規模言語モデルの進歩は、ごく一握りの企業にしか負担できないクラスターを使った学習によって実現している。予算で勝敗が決まる競争に、博士課程の学生が大きく貢献するのは難しい。「あなたが貢献できることは何もない」とは、実際にはそういう意味だ。ルカンは以前から同じ点を指摘している。VentureBeatが報じたところによると、2024年にパリで開かれたVivaTechでは、次世代AIを作りたいという学生たちに、LLMの開発は大企業の手に委ねられていると話していた。

スライドには、代わりに時間をかけるべき研究テーマも並んでいる。生成モデルではなく、共同埋め込みアーキテクチャ。確率モデルではなく、エネルギーベースモデル。対照学習ではなく、正則化手法。強化学習ではなくモデル予測制御であり、強化学習は世界が予測どおりに動かなかったときに計画を修正する用途に限るという。こうしたアイデアは、比較的控えめなハードウェアでも検証できる。そこにこそ、大学の研究室が今なお優位性を発揮できる余地がある。

後半こそが本当の挑発だ

「生成モデルにも取り組むべきではない」という主張は、チャットボットへのお決まりの批判を超えている。生成そのもの、つまり次の単語やピクセルを予測することで知能を作ろうとする考え方を否定するものであり、その点でルカンは、同じ領域に分類されることの多いフィジカルAI分野の大勢と対立する。先週、AMDは李飛飛(Fei-Fei Li)のWorld Labsを、約82億ドルと評価される全株式交換で買収することに合意した。The Registerは、これをLLMが行き止まりになる事態への備えと評し、ルカンも同様の見方を示してきたと指摘した。だがWorld Labsが開発しているのは、3D環境を生成・シミュレーションするモデルだ。NVIDIAのCosmos 3も生成型のワールドモデルであり、Physical Intelligenceは視覚言語モデルを基盤にロボットモデルを構築している。「言葉ではなく世界」を目指す動きに集まる資金の大半は、ルカンが考える方向には向かっていない。

株主構成を抱える人物からの助言

発言者の立場も考慮に入れる必要がある。ルカンはMetaを離れ、現在はパリのAMI Labsで会長を務めている。同社はLLMに代わるワールドモデルの開発を目指し、3月には評価額35億ドルで10億3000万ドルを調達した。これは欧州最大のシードラウンドだった。同社はパリ、ニューヨーク、モントリオール、シンガポールで人員を増やしている。彼の助言に従う研究者は、誰もが将来の採用候補になり得る。

だからといって、この助言が利己的だということにはならない。ルカンはAMIが存在する前からこの考えを貫いており、投資家が資金を投じるよりずっと前に、その代償を評判の面で払ってきた。それでも2026年の今、研究上の提言と事業計画はまったく同じ方向を指している。学生たちはその点も踏まえて判断すべきだ。

ルカンは、この発言のせいでシリコンバレーの友人を失うと冗談めかして語った。論文のテーマを選ぶ学生にとって、賭けられているものはもっと大きい。彼が証明するために10億ドルを調達したばかりのアーキテクチャに、博士課程の数年間を賭けることになるのだから。

タグ: , , , ,

Googleで追加する

ディスカッション

0件のコメントがあります。