AI

一通の書簡でAnthropicのFable 5とMythos 5が世界中で停止した

競合がとうに売っているものしか封じない「輸出管理」と、すべてを封じる前例
Adrian Kessler

米国がAnthropicに対し、最も高性能な二つのモデルであるFable 5とMythos 5の遮断を命じた——その一件で本当に目を引くのは、国外の誰が打撃を受けるかではない。ほんのわずかな手間で済んだという事実だ。商務長官のたった一通の書簡が、それらを停止させるのに十分だった。しかも一国だけでなく、地球上のすべての顧客に対してである。

ここで立ち止まる価値がある。この措置は輸出管理として打ち出された。ふだんは半導体や衛星に向けられる官僚機構の仕組みだ。だが輸出管理は、封じ込めるべき何かが存在することを前提とする。ここには、それが存在しないのかもしれない。

何も封じ込めない輸出管理

政府が掲げた発端はjailbreakだった。モデルが、やってはならないことをするよう仕向けられうるという実証である。Anthropic自身の説明はもっと狭く、拍子抜けするほど地味だ。問題の手口は、モデルにあるコードを読ませて欠陥を指摘させるというもので、セキュリティ技術者が日々こなしている作業にすぎない。同社は、その同じ能力が、いま出荷されている競合システム——OpenAIの最新モデルを含む——にすでに備わっていると述べる。それが本当なら、ある企業の最新二モデルを狙った管理は、根底にある能力を誰の手からも遠ざけてはいない。ただAnthropic版を棚から下ろしているだけだ。

ここに公式の筋書きの最初の亀裂がある。国家安全保障を理由とする輸出管理は、自分だけが持つものを敵に渡さないためのものだ。今回のそれは、誰からも何も奪っていない——管理対象の研究所と、その顧客を除いては。技術を封じ込める手段としては筋が通らない。一社への圧力としては、驚くほど正確だ。

対立はjailbreakから始まったのではない

この企業への圧力は今に始まったことではない。政府は冬のあいだAnthropicと争い続けた。その政治的立場と献金者を精査し、さらに、Claudeの軍事利用から安全装置を外せというペンタゴンの要求に研究所が抵抗すると、すべての連邦機関にそのソフトの使用停止を命じた。高官たちは経営陣を「左翼のいかれた連中」と呼んだ。この経緯を背景に読むと、金曜の夜に理由も公表されずに送られた書簡は、産業戦略というより、手元にある次のてこのように見えてくる。

報道の大半は別の不安に張りついた。最良のモデルを同盟国から壁で隔てる一方で、先端半導体を中国に売り続けることで、ワシントンは人工知能の競争を北京に明け渡しているのではないか、というものだ。政府自身のAI計画の起草に関わった一人のアナリストは、この決定を「腑に落ちない」と評し、論理はたしかに逆さまだ。だが中国という切り口は予測であって事実ではなく、それを追うことで、実際に起きたことを取り逃がす。実際に起きたのは、その仕組みのほうだ。

前例こそがニュースだ

モデルは利用者の旅券を即時に確認できないため、「外国人を遮断せよ」には実行可能な意味が一つしかなかった。全員を遮断することだ。Anthropicが世界中でシステムを止めたのは、命令に従うほかの扉が残されていなかったからである。それがいま記録に残った前例だ。政府は、私企業であるアメリカ企業の内側に手を入れ、その最も高性能な製品を止められることを示した——世界規模で、一晩のうちに、書簡一通で、公表を義務づけられた理由もなく、企業が間に合ううちに争える手続きもなく。

商務長官ハワード・ラトニックから最高経営責任者ダリオ・アモデイへ宛てたこの書簡は、6月12日午後5時21分(東部時間)に届き、国家安全保障上の権限を根拠に、モデルのあらゆる輸出・再輸出・国内移転に許可を要求した。Fable 5とMythos 5が公開されてからわずか数日しか経っていなかった。9650億ドルと伝えられる評価額で株式公開を準備するAnthropicは、これは誤解だと考えており、アクセスの復旧に取り組んでいると述べる。そして、同じ基準を一律に当てはめれば「すべての最先端モデル提供者による新規モデルの展開を事実上すべて止めてしまう」と警告する。

その警告こそが手がかりだ。規則が安全保障のためなら、全員を縛るはずだ。縛ったのは一社だった。政府が恐れると言う能力は、今朝も売られている——別の誰かの手で。変わったのは、中国が何を作れるかではない。変わったのは、次の書簡がもう、自らを正当化するためのjailbreakを必要としないということだ。

タグ: , , , ,

ディスカッション

0件のコメントがあります。