Anthropicが自ら認めた、Fable 5.1の安全網の穴

「最も安全で信頼できるAI」を掲げて成長してきたAnthropicの足元で、大きな矛盾が露呈しました。2026年9月1日、同社は従来のフラッグシップモデルを刷新する「Claude Fable 5.1」をリリースし、企業向け自律エージェントの普及を一気に加速させました。しかしそのわずか8日後、内部の安全研究トップが「AIの制御方法は未解決である」と公に認めたのです。

Fable 5.1は何がすごいか：66点・トークン5分の1・キャッシュ75%減の中身

まず、製品としての機能向上から見ていきましょう。Claude Fable 5.1は、総合知能指標（Intelligence Index）で前モデルOpus 5の63点を塗り替える66点を記録しました。特にプログラミングや複雑な業務手順を自律処理するCoding Agent Indexでは70点という高い数値を叩き出しています。

中小企業にとってインパクトが大きいのは、性能向上よりもむしろ「劇的な安さと速さ」です。Fable 5.1は前モデルの5分の1のトークン消費で同等の業務をこなします。さらに、過去の対話や社内文書を再利用する際のプロンプトキャッシュリード（Cache Read）料金が75%引き下げられました。これにより、従来は月額数十万円かかっていた「24時間常時稼働して自律的にタスクを処理するAIエージェント」が、月額数万円単位で運用できるようになります。

安全責任者が自ら認めた「穴」：普及版Fableと厳格版Mythosの分断

低価格化による自律運用ブームの陰で、ショッキングな告発が起きました。9月8日、同社の研究者 **Jacob Coxon（ジェイコブ・コックソン）** が「暴走リスクを放置して開発を急いでいる」と抗議辞任。翌9日、アライメント（AIの意図制御）チームの責任者である **Evan Hubinger（エヴァン・ヒュービンガー）** がX上でこの危険性を認める発言を行ったのです。

我々はAIが全人類を滅ぼす可能性があると本気で信じている。私個人としては今後10年以内にその確率（p(doom)）は10%を超える。超知能（Superintelligence）の制御計画はなく、達成軌道にも乗っていない。

この発言が意味するのは、安全なAIという看板と現場の製品設計における深刻な分断です。実はAnthropicは、厳格な安全保護機能を施した「Claude Mythos 5.1」も同時に開発していますが、これは一部の選ばれた企業にしか提供していません。市場に大量流通している安価なFable 5.1は、安全網のガードレールを削ぎ落として速度と安さを担保した「リスクの自己責任版」なのです。

自律エージェントの罠：誤動作の被害範囲がチャットと桁違いになる理由

「人類滅亡といった壮大な話は、地方の中小企業に関係ないのではないか」と感じるかもしれません。しかし、問題の本質はもっと手前の「誤動作したときの影響範囲」にあります。

従来のチャット型AIであれば、ハルシネーション（嘘の回答）が起きても画面上の文字が間違えるだけでした。人間が読んで違和感に気づけば実害は防げます。しかし、Fable 5.1のような自律エージェントは、API経由で社内システムやメール、会計ソフトに直接アクセスし、命令を自分で考えて実行します。

もし自律エージェントが勘違いを起こした場合、「誤った発注書を取引先に送信する」「顧客データを不適切な宛先にメールで送付する」「データベースのレコードを自動で上書き削除する」といった事故が、人間の目を介さずに一瞬で完了してしまいます。Anthropic自身も9月2日公表の脅威レポートで、同社モデルが意図せずサイバー攻撃や不正監視に悪用された事例を認めています。自律性を高めるほど、1回のミスの被害額は桁違いに跳ね上がるのです。

中小の一手：承認ゲートと10件テストで自律運用を安全に飼い慣らす

安価で高性能なFable 5.1をビジネスから排除する必要はありません。重要なのは「メーカーが提供する安全網は不完全である」という前提に立ち、自社側で物理的なブレーキを組み込むことです。

コスト削減の魅力に目を奪われ、すべてをAIに丸投げするのは無謀な賭けです。「下書きは爆速のAIに作らせ、送信の引き金は必ず人が引く」。この線引きさえ守れば、安全網の薄いモデルであっても自社の強力な武器として手元で安全に飼い慣らすことができます。

30分で課題を整理する→