クロード・Fable5が、リリースからわずか3日で緊急停止された。

「神話級」と呼ばれる内部モデル「Mythos（ミソス）」を背景に、コード生成もUI/UX設計も次元が変わったAIが、なぜ突然止められたのか。

これは単なる輸出規制の話じゃない。サイバー戦争のベトナム化、AIサプライチェーンの脆さ、そして「経営と執行を分けるAI設計」の必要性。稼働中の公開AIに輸出規制が適用された史上初のケースで見えてきた、2026年6月のディープな1週間を、尾原和啓といけとも（池田朋弘）が振り返る。

ポッドキャスト（いけとも尾原のディープなAIニュース）はこちら：https://open.spotify.com/episode/5S6KQPrl8MLwFENqJcAYej

たった3日でFable 5もMythos 5も止まった

いけとも：今週のディープなAIニュースは、Claude Fable 5です。6月9日(火)にリリースされたのに、6月12日(金)に緊急停止。今、AI界では何が起きているのか、話していきましょう。

尾原：大前提として、Fable 5のベースになっている「Mythos（ミソス）」が、まさに神話級なんですよ。サイバーセキュリティを次々と突破できちゃう。その中で、ついに僕らも使えるFable5が出たわけです。池田さん、Fable5、どうでした？

いけとも：正直、文章とか普通のタスクはあんまり差を感じなかったんです。でも、プログラム系の重いやつ。データベース移行を何時間か任せたら、止まらずずっとやってくれて、何の問題もなく終了する。クオリティが劇的に上がったな、と痛感しました。

尾原：いわゆる「ロングホライズン」と呼ばれる、長期間・統一性を持ってきっちりやりきってくれる仕事に関しては、本当にエグいぐらい丁寧にやってくれる。

ちょうど6月22日までは月額プランで使えるんですけど、それを超えるとAPI課金で実質コストが数倍規模になる。だから、今のうちに溜まっていた過去の講義のタグ付けとかオントロジーマップを作るとか、長期間にわたるレイヤー整理を、ずっとやらせていました。

「行間を読む」能力が異様に上がった

尾原：感じる差は3つあって。1個目が長期間の整合性。2個目が大きくて、こっちの意図を察してくれる能力が異様に上がっている。

いけとも：そんなに差を感じましたか？

尾原：プログラミングって、要件定義が曖昧なことが多いじゃないですか。「こういうものに使いたい」と言いつつ、本当はもっと根本から問題解決したほうがいい場合もある。

その問題範囲の設定から、「こうしたほうがいいよ」と提案してくる能力がエグい。一般的にはこうですけど、あなたはこうしたいんですよね、と。行間の歪みを察知する精度が次元違いなんです。

たとえばオントロジーを作るとき、世の中一般のラベリングじゃなくて、僕の文脈、僕の使い方におけるラベリングの仕方を提案してくる。これが本当にやばい。

いけとも：なるほど。Claude Designとかも近かったですけど、Fable5はそれをもっと広範囲にやってくれるイメージですか。

尾原：そうそう、おっしゃる通り。経営レベルで使ってもいいぐらい、スコープの広げ方と歪みの察知のバランスがうまいんです。

関ヶ原をマルチアングルで描かせると、UXが別次元

尾原：3つ目はUX/UI。写真や適当な指示から、インタラクティブなデザインに落とし込む補完具合が、もう「ヤベえ」レベルです。

これ、Fable5使えたらみんなにやってほしかったんですけど。誰かが、関ヶ原の戦いをドラマ風に「どの陣営がどう動いたか、その時の空気感や武器も含めてマルチアングルで作ってください」とお願いしたら。

高度なインフォグラフィックスみたいに、時間によって角度が変わって「この時、小早川が動いた」みたいな映像ができる。UI/UXの次元がもう一段上がった、という3番目のエグさでした。

稼働中AIへの輸出規制、史上初

いけとも：ここまで聞くと、レベルが1段上がった感じが伝わるんですけど、残念ながら6月12日(金)、突然Fable5が使えないというアナウンスが流れました。

背景を簡単に言うと、Fable5は元々優秀すぎて、サイバーセキュリティとかリスクの高い行為に使われる可能性がある、と言われていた。Anthropicもそこにはガードレールをガッツリ引いていて、リリース水準だと判断していたんです。

でも、アメリカ政府は「いや、それじゃダメだ」と。アメリカ国民以外に使わせちゃいけない、と完全に輸出禁止のような法律があるんですね。

尾原：軍事、軍人に関しては、ライバル国にとって脅威をもたらすものは、輸出禁止していい、という枠組み（EAR/ECRA）があります。

いけとも：少し前、NVIDIAのチップがまさに同じ枠組みで輸出制限されてきましたよね。同じ枠組みで、AnthropicのFable 5とMythos 5はNG。「アメリカ国民以外に使わせるな」と。現実的に判別できないので、もう全部止めるしかない、と。

稼働中の公開AIモデルに輸出規制が適用されたのは史上初のケースです。

Anthropicの皮肉――ダリオが2日前に書いたブログ

尾原：これ、いろんな面で考える話があって。インターネットの自由を信じる僕としては、一国家がこんな曖昧なプロセスで停止していいのか、というアレルギー反応がまず起きるんです。

Anthropicにも、いろんな国の人が働いている。それなのに「アメリカに優位なことしか使わせん」というのは、それありなのか、と。

ただ、これには前振りがあって。Fable5のベース「Mythos」は、まさに神話級。コンピュータのセキュリティやOSの脆弱性を限界まで調べ尽くしてみよう、と。ブレーキを抑えめにして使ってみたら、7週間で2,000件超の未知脆弱性を見つけてしまったんです。

しかも、OpenBSDで27年前のバグ、FFmpegでも16年前のバグまで掘り出してくる。なので、まずはMythosを使って防御を固める必要のある企業にこっそり提供して、防御が固まってから他の人にリリースする、という順番をとるべきだ、という流れになっていた。

いけとも：4月頃から、超クローズドの提供でしたよね。アメリカ企業のAWS、Apple、Microsoft、Googleなどから始まって、6月2日に150組織・15か国以上に拡張すると発表された。日本企業では、トレンドマイクロや日立製作所がこの組織に選ばれる、という流れでした。

尾原：プログラム名は「Project Glasswing（プロジェクト・グラスウィング）」、透明な羽の蝶、という意味ですね。Fable5が「ジェイルブレイク」されて、Mythos級の攻撃性が露出してしまうと、海外がいろんな攻撃をできちゃう。

対外防衛上、それは発動せざるを得ません。皮肉なことに、Anthropic CEOのダリオ・アモデイ自身が、停止の2日前(6月10日)に「政府がフロンティアAIを止められる権限を持つべき」「第三者監査の義務化が必要」というブログを書いた直後に、まさか自分が稲妻を喰らうとは、という話なんです。

「悪魔の証明」とAmazon発の告発

いけとも：「ジェイルブレイク」ですよね。AIを説得したり、悪いことを使わせたりして、隠された能力を引き出す。

尾原：昔から、プロンプトをつついて他の人の入力が見えちゃう、みたいな話もあった。OpenAIが賞金を出してフィルタをかけた例もある。

AIが進化すると、サイバーハックに使えてしまう、将来的には生物兵器も簡単に作れてしまうかもしれない――というリスクは、Anthropic自身が表明していたわけです。

いけとも：今回、Anthropicは一番こういうリスクに真摯に向き合っている会社のはずで、そこを分かった上で「出せる」と判断した。

数日後にアメリカ政府は「いや、ジェイルブレイクできているじゃないか」と。Anthropicからは「いや、その程度のジェイルブレイクは他のモデルでもできる程度で、全面的に歯を剥き出しでヤバくなっているわけじゃない」と発信があったんです。

尾原：これが難しくて、結局「悪魔の証明」なんですよ。「出ない」を証明するには全部洗い出さないと無理ですから。ちょっとでも歯が見えたら、もっと掘ったら全部歯が出るかもしれない、という権威の話になっちゃう。

しかも、面倒くさいのは、最初に発見したのがAmazonのセキュリティ研究者で。AmazonのCEO アンディ・ジャシーが「これ大丈夫か？」とAnthropicに連絡したけど、「全然大丈夫だよ」と拒絶されたらしい。

Jassyとしては「俺としてはリスクを感じたから、政府に言っとかないとまずい」と、財務長官スコット・ベッセントら政権高官に直接通報。そこから商務長官ハワード・ラトニックがAnthropicに何度か打診したけど、Anthropicが良い答えを返さなかったので、しぶしぶ商務長官が6月12日に輸出規制レターを発出して停止、と。

これを公に発信しているのは、トランプ政権のAI & Crypto Czarであるデビッド・サックスさん。彼はもともとAnthropicに対して「スタンダード石油級の独占企業になりかねない」「AIドゥーマー産業複合体の中核」と繰り返し批判してきた人なので、結構政治的な匂いも含む話なんです。

サイバー戦争もウクライナ化する

いけとも：アメリカも、悪意でやっているわけではない。リスクを考えてやらなきゃいけない、という主張もあるし、Anthropicとしては「自分たちの判断で大丈夫なレベル」というジャッジもある。一元的にどちらが悪いとは言えない難しさですよね。

尾原：そうなんです。Anthropicの言い分は、「米国政府の人も入った第三者委員会で、ゴリッゴリの攻撃力を持ったレッドチームを作って叩きまくった上で、この範囲なら大丈夫、と判断してリリースしている」というもの。それでも止められてしまった。

歴史的観点で考えると、論点は2つ。1つ目は、もし本当にサイバー攻撃をAIで強力にできちゃうようになると――ベトナム戦争がアメリカを消耗させた話、今ウクライナが徹底抗戦を続けている状態――と同じことが起きるリスクがある、ということ。

今、ウクライナが自国兵器だけでロシアを追い詰め始めているんです。トルコ製ドローンやアメリカ製の兵器を使っていた状況から、侵攻4年経って、2025年に400万機、2026年は700万機生産を計画する国産化ステージに入った。

長距離型のウクライナ製ドローンが、ロシアの主要33製油所のうち24カ所を攻撃。燃料生産の約1/4を停止させた、というレベル。

しかもコスト構造は完全に非対称なんです。ウクライナ製FPVは1機5万円前後、長距離型・迎撃型でも15〜38万円。対するロシアのIskanderミサイルは1発4.5億円。サイバーセキュリティと全く同じことが起こりうるんです。

いけとも：なるほどね。

尾原：今までの戦いって、アメリカが爆撃の前にハックして電力を落とし、セキュリティ機能をぶった切ってから突撃する、という形でした。サイバーセキュリティとフィジカルアタックはセットなんです。

万が一、Fable5の裏にあるMythosを何回もアクセスして、「あ、こうやってできているのね」と把握――いわゆるディスティレーションですね――されて他国がMythos級のAIを作れちゃったら、永遠にゲリラ的にサイバーアタックを続けられる世界が起きうる。

実際、北朝鮮はロシアからの技術移転とクルスク戦線での実戦経験を経て、アラブガ経済特区で1.2万人を投入して自爆ドローンを生産し始めています。

ここで一番大事なのは、侵略する側は勝ち切らないと負け、される側は負けなければ勝ち、という非対称性です。フィジカルでもサイバーでも、ゲリラ戦闘力がアホみたいに安く上がっていく。これが2026年の現実なんです。

それでも「アメリカしか使えない」のはどうなのか

尾原：とはいえ、「アメリカ国籍しか使えない」というのは、新しい技術のポジティブな面を奪う話でもある。

Fable5を使うと、本当にトップ経営者レベルの経営判断をAIに任せて、各論の実行はハイクやソネットで安く回す、という運用ができる。

さらに、レアアースに依存しないマテリアルの発見みたいに、世界中の天才がアメリカに集まって作ったものが、アメリカ国民しか使えないとなると、格差は開く。これはアンビバレントなんです。

AIサプライチェーンという第3の論点

いけとも：これに関係して、Project Glasswingで150組織以上に提供されていたMythos 5、あれは今どうなっているんですか。

尾原：そっちも全部停止です。

いけとも：日立さんとかも入っていて試そうとしていたのに、プロジェクトも止まっちゃっていて、現場が困っているわけですよね。

尾原：そうなんです。3番目に大事な話は、「AIサプライチェーン」という言い方が使われるようになってきていて。

セキュリティチェックだけならワンショットなんですよ。脆弱性を見つけて穴を埋めましょう、というのは一時的な話。でも、経営レベルでMythosを使って自動化しましょう、という話になったら、「自動化したから人いらない、首にするわ」みたいなことが仮に起きてしまった後で、ある日突然AIが止められたら――もう人のノウハウはなく、AIに依存し、他のAIには移せない、というところまで来ると、ホルムズ海峡と同じ状態になる。

経営に置けるそういう血液と同じ状態にAIがなってきている時に、AIサプライチェーンが第三者機関を通さない判断で止められていいのか、という議論ですね。

Claude Code Opus 4.8の劣化が始まった

いけとも：これ、本当にあり得ます。日立さんとか、ちょうど許諾もらってさぁいろんなところチェックするぞ、という感じで始めていたはずで、防御チェックだけじゃなくAIエージェント系も考えていたはず。超大変ですよね。

実は、このラジオ前にもプロンプトを使っていたんですけど、Fable5とは別軸で――Fable5のせいでもあるんですけど――Claude Code（Opus 4.8）の劣化がヤバいんです。

5月28日にリリースされたばかりのOpus 4.8、Dynamic Workflowsという最大1,000サブエージェント並列の新機能も搭載されていて、本来は超強力なはずなんですけど。

調べたら、おそらくルーティングかハーネス問題で。Fable5でうまくいかないとOpus 4.8にダウングレードする仕組みになっていた。Fable5が全部止まったので、全部Opusに来た結果、Opusのキャパを超えたみたいで、ここ数日の劣化が本当にヤバい。

「プロンプトインジェクションのリスクがあります」と言って全然ない自分の文書を読んでいるだけなのに、意味わからないことを言い始めたり、読めない文章を吐き出したり。

尾原：でしょうね。Fable5もOpusも、リアルタイムルーティングのところを共通で作っちゃっている可能性が結構ある。

いけとも：Opus 4.8 × Claude Codeぐらいであれば、正直Codex × GPT-5.5でもほぼ代替できるんですね。それが使える仕組みになっておけば、最悪AnthropicがダメでもOpenAIで動ける。

特定のモデルや仕組みに依存して、それが止まった場合どうするか、というのは、本当にリスクとして十分に感じた1週間でした。

オープンウェイト、Mistral、政府公認の「AI ISMS」

いけとも：現実的に選択肢って、ClosedモデルのGPT、Gemini、Claudeか、あとは中国系オープン勢くらいしか最高性能は出せないじゃないですか。

GPT-5.5やGeminiも同水準になったときに、アメリカが全部同時に止めるリスクが起こると、もう大体は中国系オープンしかない。

尾原：正確に言うと「オープンウェイト」ですね。オープンソースはソースコード＋訓練データ＋重み＋ライセンスが全公開で誰でも検証できる。オープンウェイトは訓練済みモデル（重み）だけが共有されて使える、というだけ。

「たくさんの人の目で監視されてるからOKじゃん」と言われがちですけど、Anthropicが2024年に出した「Sleeper Agents」という論文があって。安全訓練を経てもバックドアが残存し、特定のトリガーが入力されたときだけ悪意ある挙動を発動する「眠れるスパイ」が作れることを実証しているんですよ。

Anthropicの中には、Interpretability（解釈可能性）チームとAlignment Scienceチームという、ニューラルネットワークの中の変容性を検出する専門集団がいる。ただ、まだまだブラックボックスがある。

そうすると、ヨーロッパがMistralという形で、「上流から自分たちで」作ろうとしているのも理解できる。GDPR・US CLOUD Act回避の「主権AI」を、データセンターから垂直統合する方向ですね。

ゼロベースで1個持っておかないとヤバいんじゃないの、という議論はどこまでいっても残るんです。一方で、Big AI 3社のあんだけ金突っ込んで天才がやっているレベルに、ゼロベースで追いつけるのか――とはいえ中国系オープンウェイト勢（DeepSeek・Qwen・GLM・Kimi）は実用域では肉薄してきているのも事実。

経営はFable、執行はHaiku。レイヤー分離が答え

いけとも：我々ができることは、AIエージェントに丸投げせず、大部分はルールベースで動かす。一部の推論は現実に使いながら、そこまで期待値を持たなくても仕組みは回るので、そういう思考を持っておく方がいい。

尾原：いわゆるISMSの「コンティンジェンシー」ですね。万が一があっても他のルートで実行可能になっているか。「AIコンティンジェンシー」という考え方を、どこまでステップバックして仕込まなきゃいけないんだっけ、と。

おっしゃる通り、経営と執行を分けるんです。実害を起こすのは執行レベル。発注、購買、お客様への連絡といった部分は高度なAIである必要がないので、軽いモデル（Haikuやソネット）で回す。

オープンウェイトを使うとしても、アクセスできる取得データの権限を小さくしておけばいい。決済データや個人データにアクセスする部分はLLMじゃなくてプログラムで取り扱う。

最近ではAP2（Agent Payments Protocol）――2025年9月にGoogle・Coinbase主導で発表、60社超（Mastercard・PayPal・Amex・Salesforceなど）が参加した、エージェント間で決済を完了させる暗号学的プロトコル――みたいに、完全に暗号化された状態でしかLLM側は触らず、実動するのはプログラム側、という切り分けは進んでいくでしょう。

いけとも：高性能なモデルだけで作っているとリスクが高い。GPT-3.5ぐらいでも回せる仕組みのほうが、圧倒的にリスクが低く、安くて良い。改めて感じました。

尾原：将来的にはたぶん、今のPマークやISMSのAI版ができて、取得情報を直接LLM側に渡さない、ローカルAIの中でしか扱わない、ローカルAIが外部サーバーに送るときは別のゲートで止める、といろんな基準ができていく。

ここ半年で、エージェント同士が勝手に取引する「コパイロット時代」のパーツはだいぶ揃ってきている。日本だと「AI版ISMSを取得してください、AIコンティンジェンシープランも作ってください」となりがちで、NTTデータや日立さんが儲けるな、と。ごめんなさい、勝手なこと言っていますけど。

まとめ：握手のタイミングと、ベトナム化のリスク

いけとも：勉強になりました。Fable5から、AIを事業オペレーションにどう組み込むか、リスク対策をどうするか――そこまでやっている会社は多くないと思うんですけど、思考性を持っておかないと、ある時バーン止められて困っちゃう。

尾原：あとはFable5の回復について。これは「悪魔の証明」なので、いつカミングバックしてくるのか、戻ってくる時の握手はどう成立するのか、アメリカのどこで握手してくれるのかは非常に見ておかなきゃいけない。

でも、もっと大事なのは、Mythos級が他国にパクられた時、僕らはサイバー戦争におけるベトナム化を迎える可能性がある――今までライバルが3〜6ヶ月で先行モデルを蒸留して追いついてきた歴史を考えると、これは現実なんだ、と理解しておこう、というのがまとめですね。

いけとも：また実装編、テクニカルな話もぜひやっていきましょう。本日もありがとうございました。

ポッドキャスト（いけとも尾原のディープなAIニュース）はこちら：https://open.spotify.com/episode/5S6KQPrl8MLwFENqJcAYej

■合わせて読みたい

■関連記事