AI

イーロン・マスク氏、Grok 4.8の遅れはC/C++でのソフト全面書き直しが原因と説明

新しいGrokのリリースが遅れているのは、xAIがモデルの学習と提供に使用していたオープンソースのツールを破棄したためです。マスクはこの結果を「まだ素晴らしいとは言えない」と呼び、書き直しがGrok 5で報われることに賭けています。
Adrian Kessler
Googleで追加する

イーロン・マスクによるGrokの最新発表で注目すべきなのは、プログラミング言語ではない。発表の中に織り込まれた、ある事実の告白だ。次期モデルの公開が遅れているのは、開発チームがモデルの学習と提供に使っていたオープンソースの仕組みを捨て、自前で書き直したためだという。

ローンチ予告として読めば、投稿は前向きだ。学習は完了し、評価結果は上向き、週内には段階的な提供が始まる。一方、システムをめぐる話として読むと、より大きな決断が見えてくる。SpaceXの一部となったxAIは、共有フレームワークが開発の足かせになっていたと判断し、このモデルとその次のモデルを、研究者とGPUの間にあるソフトウェアのあらゆる層を自社で掌握することに賭けている。

「JAX/SGLangを捨て、RLと推論のスタック全体をC/C++で一から書き直したので、少し時間がかかった」とマスクはXに投稿した。Grok 4.8の公開時期を尋ねたユーザーへの返答だった。JAXはxAIが学習に使っていたPythonベースの数値計算ライブラリで、SGLangは大規模言語モデル向けのオープンソースのサービング用フレームワークだ。マスクによると、「SFTデータの整理にかなり手間がかかった」ものの、事前学習は完了した。SFTとは教師ありファインチューニング用のデータセットを指す。「今は4.8をRLにかけていて、評価結果も上がり始めている」という。

この発言は、マスク自身が生み出した空白の理由を説明する。9月中旬、彼はこのモデルを「新しいC++ソフトウェアスタックで学習した2.5兆パラメーターのモデル」と紹介し、「今週中に学習を終え、RLを始める」と述べていた。同じ頃、Analytics India Magazineの報道によると、彼は強化学習の側について「まだ、さまざまなサードパーティー製ソフトウェアシステムが寄せ集まった、やや旧式の状態」であり、「いずれ修正する」と語っていた。10月下旬には、「予想以上に時間がかかっているのは承知しているが、Grok 4.8は期待を裏切らない」と投稿。遅れの原因は、その修正だった。事前学習のコードはすでに新しくなっていたが、モデルに振る舞いを学ばせる部分と、ユーザーに応答する部分を作り直さなければ、次の段階に進めなかったのだ。

見出しで使われる「C++への書き直し」は、実際には大部分がCだ。使用言語を尋ねられたマスクは、「Cが中心で、C++は少しだけ。多くはない」と答えた。このスタックは、SpaceXのエンジニアがStarlink向けに開発したソフトウェアを土台にしているという(「SpaceXでは、ヘッダーも自分たちで書き、時間も自分たちで計算する」と付け加えた)。また9月には、事前学習のコードはStarlinkのチームが書いたもので、「AIが書いたものではない」と説明。「AIは、きわめて高性能なソフトウェアを書くにはまだ力不足だ(ただし、いずれできるようになる)」と述べていた。

その狙いは春から公に語られてきた。5月下旬、マスクはSpaceXがC言語による社内開発の学習スタックをほぼ完成させたと明かした。このスタックは、22万基のNvidia GB300チップからなるクラスターに「正確に対応」し、大規模な学習ではJAXに比べて「1桁以上」の高速化が見込めるという。6月末には、学習と推論のスタック全体を書き直し、「ソフトウェア層の大半を完全に削除」すれば、約3カ月で「本当に大幅な改善」が実現すると約束した。その予定を基準にすれば、書き直しの完了はおよそ6週間遅れたことになる。速度に関する主張は、いずれも社外では検証されていない。

スタックを自社で掌握することには、利点と代償の両方がある。JAXとSGLangを手放せば、xAIは他社が設けた抽象化やリリース日程に縛られず、エンジニアはソフトウェアを特定のハードウェアに直接最適化できる。その一方で、学習ループやサービング経路に生じたバグは、すべてxAI自身の責任となる。ユーザーに届く前に外部のコミュニティが使ったことのないコードだからだ。

マスクは期待値も大きく引き下げている。「Grok 4.8は4.7とは似ても似つかないものになる(ありがたいことに)」と投稿し、xAIが9月21日に公開したモデルを公然と酷評した。「まだ驚くほどのものではないが、今回は基礎を正しく築いた。だから、特別なものへと進化していくと期待している」。その1時間足らず後、4.8がAnthropicのOpus 5.5と比べてどうかと尋ねられると、「及ばない。Opus 5.5は傑作だ」と答えた。マスクが本当に約束しているのは、もっと先のことだ。「Grok 5はOpus 5.5を上回るはずで、それは2、3カ月後に実現するかもしれない」。

それ以外の情報は、まだ何も出ていない。更新状況を追跡するサービスによると、xAIのニュースページにも開発者向けドキュメントにも、Grok 4.8の項目はない。モデルカードも、ベンチマークも、価格も、APIの掲載もない。2.5兆パラメーターという数字も、評価結果が上昇しているという説明も、マスク個人の発言にすぎない。段階的な提供は「今週後半」にGrok Botのユーザー向けに始まるが、具体的な日は示されていない。マスクは10月、そうしたリクエストの大半は「非常に高速なGrok 4.8のバージョン」で処理するとも述べていた。

つまり今週の提供開始は、モデルそのものよりも、基盤の仕組みを試す場となる。実際のGrok Botのトラフィックに耐えられれば、この書き直しがGrok 5の学習基盤となる。つまずいたとしても、もはや責任を転嫁できる上流のフレームワークは残っていない。

タグ: , , , ,

Googleで追加する

ディスカッション

0件のコメントがあります。