Claude Opusが拒否した後、AIエージェントが生きたマウスの脳へ針を誘導

AIエージェントが生きた動物への治療法を選び、脳のどこに施すかを割り出したうえで、薬剤を届けるロボットアームを操作した。てんかんや神経変性疾患の治療薬を開発するサンフランシスコのスタートアップ、Exin Therapeuticsは、Claudeエージェントをカメラ付きの電動手術装置につなぎ、てんかんを患うマウスを用意して、ただ一つの目標を与えた。発作を減らすことだ。

繰り返し話題に上っているのは、誰が拒否したかだ。Anthropicの最上位モデル、Claude Opusは針を刺すことを拒んだ。チームはより安価なClaude Sonnetに切り替え、こちらは処置を進めた。AIエージェントが画面の外へ出て、研究所や倉庫、自動車の中へと進出する様子を見ている人にとって、この実験は、モデルが動作だけでなく医療上の判断も下したこと、そして同じ会社のモデルでも判断の境界線が異なることを示している。

Exinの最高経営責任者兼共同創業者、ガブリエル・オカニャ＝サンテロ（Gabriel Ocana-Santero）が投稿したスレッドによると、エージェントには19種類の遺伝子治療ベクターをまとめた表と研究論文3本が渡され、装置を操作する権限が与えられた。エージェントは治療法と脳の領域を選び、論文から座標を割り出した。その後、針を三次元で固定する電動フレーム、定位手術用アームを動かし、装置のカメラで針の刺入箇所に出血がないかを確認しながら、250ナノリットルを注入した。

「自律型の手術ロボットはすでに存在し、機械的な操作では私たちの実験装置より優れています」とオカニャ＝サンテロは書いた。「しかし、どのロボットも、どんな手術を行うかは人間が決め、ロボットはそれを実行してきました」。今回のポイントはその逆だという。「このエージェントに、何を投与するかも、どこに投与するかも、誰も指示していません」

最初に起きたのは拒否だった。チームはAnthropicの最も高性能なモデル、Claude Opus 5.5から試したが、針を脳に進めることを拒んだ。手術の途中で止まり、動物を危険にさらす可能性があると警告したと、Wiredは報じている。Tom’s Hardwareによると、Opusのモデルの一つはチームに「麻酔をかけた動物に対し、最後までやり遂げられない処置を始めるくらいなら、最初から始めないほうがいい」と伝えた。Claude Sonnet 5は続行に同意した。AnthropicはWiredのコメント要請に応じなかった。

取り消しのきかない各段階では、人間が常に関与した。獣医外科医が頭蓋骨を開く開頭術を行い、その間、エージェントは作業を見守った。この工程はまだエージェントに認められていない。獣医師は取り消し不能な各工程を承認し、エージェントは注入計画を提出して許可を得る必要があった。また、装置のすべてのモーターへの電力を遮断できる物理的な緊急停止スイッチも備えられていた。エージェントが自らのルールを書き換えられないよう、装置のコードへのアクセスも禁止されていた。

こうした安全策が、主なつまずきの原因にもなった。不具合で装置の座標系が乱れ、エージェントは計算した位置が誤っていると気づいたものの、指示で禁じられていたためコードの修正を拒んだ。チームは修正のため、旧モデルのClaude Opus 5を動かす別のエージェントを呼び出したが、実際に生きた動物の手術が進行中であることは伝えなかった。通常は約45分かかる処置は、1時間を少し超えた。

より大きな留保点は、根拠となるデータに関するものだ。対象はマウス1匹で、情報を公開したのは同社自身のソーシャルメディア上であり、査読済み論文はない。エージェントが選んだ治療法が効くかどうかも、まだ誰にも分からない。チームは効果が現れるのを待ってから、発作を測定する予定だ。Tom’s Hardwareは、ソフトウェアがすべての判断を下したとき、ミスの責任を誰が負うのかという未解決の問題に加え、動物実験をめぐる従来からの議論も指摘している。今回の取り組みは製品ではなく、どの国にも、ほかの研究所が購入できるサービスは存在しない。

オカニャ＝サンテロは10月28日にスレッドを投稿し、Substackで詳しい報告を公開すると約束した。WiredとTom’s Hardwareは10月31日に実験を報じた。Exinは次にxAIのGrokやほかのモデルを試し、比較する予定だという。また、エージェントが制御する開頭術にも取り組んでいるが、生きた動物で試す前に安全性を確かめたいとしている。人間の脳にエージェントを近づけるのは、あまりにも時期尚早だとオカニャ＝サンテロはWiredに語った。

マウスは順調に回復しているという。発作が和らぐかどうかは今や、ソフトウェアが一覧表から選んだ治療法にかかっている。

タグ: Anthropic, Claude, AI agents, ロボット工学, Claude Opus 5.5, Exin Therapeutics