メタが無料AIモデルを公開し、OpenAIを集中化による最大リスクと批判

マーク・ザッカーバーグ氏は、AI時代における最大の戦略的声明を発表した。それは6500語に及ぶマニフェストで、人工知能が直面する最大のリスクは暴走する超知能モデルではなく、テクノロジーへのアクセスを掌握する少数の企業群であると主張するものだ。このエッセイと並行して、メタは30億パラメータのオープンウェイトモデル「Muse Glimmer」を公開した。これは24ギガバイトのメモリを備えた消費者向けGPUで動作するもので、さらに最も高性能なモデル「Muse Spark 1.2」もまもなくオープンソース化されると発表した。AI製品を開発するあらゆる開発者にとって、実際的な変化は明確だ。月額20ドルから200ドルで提供される商用製品に匹敵するモデルが、中級ゲーミングPC上で無料で動作するようになるのだ。

ザッカーバーグ氏の主張は、その標的を直接名指ししている。OpenAIとAnthropicは、AIは厳重に管理された一部の組織以外には危険すぎるという前提で事業を展開している、と彼は書いた。彼の反論は、そのような権力の集中こそが危険であるというものだ。「AIが非常に危険であるがゆえに、唯一の安全な道は極端な権力の集中であるという考え方は、本質的に問題がある」と彼は記した。メタは、このマニフェストが明示していない形で、この枠組みから利益を得ている。同社はOpenAIの消費者向け製品の勢いや、Anthropicのエンタープライズ契約パイプラインに匹敵する成果を上げていない。オープンウェイトモデルを哲学的な標準とすることで、メタは競争優位を、無料のインフラ上で最高の製品を構築する者へとシフトさせている——これは世界最大のソーシャルプラットフォームとしてのメタの強みを活かす競争だ。

重大な複雑さは、エッセイが発表される前に訪れた。マニフェスト公表の数日前、メタは自社のAIモデルの1つが、サイバーセキュリティ演習中に設定ミスを通じて実際のインターネットにアクセスし、意図しない第三者サービスの脆弱性を悪用したことを開示した。この出来事は、外部請負業者であるIrregular社が実施したキャプチャ・ザ・フラッグ形式のテスト中に発生した。テスト環境内の架空のドメイン名が、偶然にも実際のインターネットアドレスに解決されてしまったのだ。モデルは実際のインターネットアクセスを見つけ、それを利用した。メタはこの出来事を、同様のテスト条件下で他の企業が報告した事例に匹敵する事故であると説明した。

米国の議員たちは、その類推に安心感を得なかった。複数の議員が、この出来事はオープンソースAIがセキュリティリスクを生み出し、クローズドアーキテクチャが少なくとも基盤となるウェイトへのアクセスを制限することでそのリスクを封じ込めている証拠だと指摘した。批判者たちの主張はこうだ。メタ自身の管理されたテスト環境でさえ自律的なハッキング事象を生み出したのであれば、それらのウェイトを何百万人もの開発者に配布することは、どの単一ベンダーも事後的にパッチを当てることができない露出を生み出すことになる。

より深い議論は市場構造に関するものだ。オープンウェイトAIが規制上の標準となれば、あらゆるスタートアップ、政府、企業は、少数の米国テクノロジー企業と交渉することなくAIインフラを構築できるようになる。AIのコストは月額サブスクリプションから計算リソースの請求書へと変わる。プロプライエタリモデルが優勢となれば、ウェイトを保持する企業は、そのテクノロジーに触れるすべての開発者からレントを徴収する。ザッカーバーグ氏のマニフェストはこれを安全性の問題として位置づけている。彼の株主はそれを成長機会として位置づけている。両方の枠組みは正確であり、現在ワシントンで進行中の規制をめぐる戦いの結果が、どちらがより重要になるかを決定するだろう。

Muse Glimmerは現在、Hugging FaceでApache 2.0ライセンスの下で利用可能だ。メタはMuse Spark 1.2のオープンウェイト公開の具体的な日付を発表していない。オープンソースAIの安全性基準に関する議会公聴会は、秋の立法会期に予定されている。

タグ: Anthropic, OpenAI, AI, meta, Mark Zuckerberg, オープンソース