仕事術はレベル3、自動化術はレベル5——新刊『Claude 最強のAI自動化術』が伝えたいこと

1 仕事術はレベル3、自動化術はレベル5——新刊『Claude 最強のAI自動化術』が伝えたいこと

仕事術はレベル3、自動化術はレベル5——新刊『Claude 最強のAI自動化術』が伝えたいこと

新刊『Claude 最強のAI自動化術』が7月27日に発売。発売前重版が決まった
AI活用は「仕事術」から「自動化術」へ。自動運転のレベル3とレベル5ほど段階が違う
後半はKimi K3のFable 5超えと、オープンウェイト規制をめぐる米中の綱引きを扱う

いけとも：新刊『Claude 最強のAI自動化術』が出まして。27日発売なんですけど、発売前に重版が決まりまして、1万部追加で増刷しました。ありがとうございます。『メタスキル』に追いつけ追い越せ、というところで。

尾原：おー、来ましたね。すげー、ありがとうございます。というかね、「AI自動化術」という言葉が、多分「AIエージェント」の次にみんなの心にぶっ刺さる言葉ですよね。

書店で手が伸びるのは「仕事術」じゃなくて「自動化術」だった

いけとも：いや、これがまさに書店さんの反応を聞いたんですけど。最近Claudeの本って結構出てるんですよ。ただ、だいたい「仕事術」なんですよね。

そこで僕のは「自動化」なので、やっぱり手に取るみたいで。「自動化ってなんだろう」ってことで見た上で、まさにお話があったように、エージェントでやりたいことって「仕事」というより「自動化」であったり、「仕事まるっと任せて自分ではしなくていいよね」ってことかなと思い。

尾原：ええ、いいタイトルですね。というわけで今日は、ゴリゴリの本の宣伝でありながら——いや、オバラもね、ちょっとAI自動化術のフェーズが変わってきたなっていうのを思っていて。その辺の話もしていきたいなと。

言いつつ、一方で世の中的に言うと、Kimi K3を含めた中国AIだったりとか、オープンウェイトを止めてはならないという共同声明——2026年7月24日にNVIDIAのジェンスン・ファン主導で25社が署名した「Open Weights and American AI Leadership」が、翌25日には約50社まで倍増したやつですね——この辺の話も後半していきたいというふうに思います。

というわけで、これ『最強のAI自動化術』って、ざっくり言うとどのぐらいのことをどこまで書いてる話なんですか。

380ページ超のうち、大半は「チャットの外」の話

いけとも：そうですね。もう一言で言うと、「チャットアプリからエージェントアプリに行きましょう」っていう本で。

本は380ページ超で結構太いんですけど、うち300ページぐらいはエージェントの話です。スキルから始まり、コネクタ、自動化の考え方、Claude Codeなんです。チャットの話は少ないんですよ、実は。

だいたい他の本っていうのはメインがチャットで、プロンプトをどうするかとか。で、後半ちょろっとClaude Codeに触れてるって感じがあるんで、バランスが全然違うって感じですね。

個人で例えばXの運用をしますっていう場合に、Xの自動化をするといっても、いきなり全自動じゃないじゃないですか。

まずは最初はどういう投稿にするかを考えて、どのぐらいの文体がいいのかとか。最初は一部投稿してもらって、自分でチェックしたりして。だんだん慣れてくると、その任せる割合を増やしていく。そういう感じでステップバイステップで渡していくかなと思うんですけど。

なんか「段階的自動化」を本当にこういうふうにしましょうね、っていうのを結構まともに取り合ってる、おそらく現時点では唯一の本かなと。

AI自動化には「自動運転レベル5」まである

尾原：そうですよね。いや、そうだと思いますね。だから本当に、チャットAIもそこまで使いこなしてるわけじゃないよっていう方々がちゃんと階段を登っていって。

「そもそもAIエージェントって何だっけ」「じゃあそれをやっていくためにはスキルとかMCPとか必要だよね」っていう。自動化をしていくためには、とはいえやっぱりレゴを組み立てていって、組み立てた車がちゃんと自走するようにするっていう。

いわゆる最近僕、AI自動化のことを、やっぱりみんな自動運転のレベル5まであるよねっていう話で言っていて。

要はレベル3までって、運転席に人が座っている前提なんですよね。日本でも2023年4月の改正道交法でレベル4が「特定自動運行」として解禁されて、ここから先は「運転者の存在自体を前提としない」——そういう線引きになっている。

そこからレベル5に変わった途端に、完全にもう車が運転するっていう世界になって。

そうすると何が変わるかっていうと、そもそもテスラのサイバータクシー（Cybercab）はハンドルもペダルもないんですよ。2026年2月に量産第1号車が完成して、4月から継続生産に入っている。トヨタも、運転席のないレベル4対応車を2027年度の市場導入目標として動いている。

そうすると圧倒的にパーツが単純で済むから。ハンドルとかいらないわけなので。そうすると実は車のコスト、安くできんじゃんみたいな話とか、シンプルにできるからとか。

3年でテスラ代が返ってくる世界に、乗らなくていいですか

尾原：あと何よりももっと大事なことが、テスラの完全自動運転タクシー。自分が車に乗っている時以外って結構多いじゃないですか。米運輸省の全米世帯交通調査でも、家庭の車が実際に走っているのは1日あたり平均64.6分。約95%の時間は駐車したままなんですよね、車を持っていても。

そうすると完全自動運転だったら、「あれ、乗ってない間、次に乗る時間6時間後ですよね。じゃあその5時間半は僕、タクシーとしてその辺でお金稼いでるので」というふうに変わって。

いけとも：はいはい、待機中というか、物はあるけど使われてないということですよね。有休したみたいなね。

尾原：そうすると3年ぐらいするともうテスラ代分ぐらい稼げてしまって、その後はもう利益がチャリンチャリンに変わっていく、と。

——もっとも、Cybercabは2026年7月時点ではまだ安全監視員が同乗する公道テスト段階で、有料の一般向けロボタクシーサービスは始まっていないんですけど。

「仕事術」という言い方をしている時って、あくまでこのレベル3の補助運転の話ですよね。このレベル5の自動化に至ると、自分は完全に手が空くし、一方でAIも勝手にやってくれるから。

究極でいうと、自分の作ったものが他の人の仕事を助けたり——あんまりこのポッドキャストはそういう目的じゃないですけれども——副業で稼いだりだとか、いうことも含めて。

「仕事術」と「自動化術」っていうのは、レベル3とレベル5の違いがあるよっていうあたりをちゃんと分かっておかないと。「みんなこの階段をちゃんと登らなきゃやばい」っていうレベルが、テスラが実質無料で3年で持てて稼げるようになる世界に、早めに乗っかからなくていいですか、っていう話なのかなって思ってるんですよね。

レゴのように分解する——「確定処理」と「AI処理」の境界線

いけとも：うん、もうおっしゃるとおりですね。さっきのブロックのレゴって話があったんですけど、この感覚ってやっぱり、尾原さんもシステムを作られていて、僕は僕でバイブコーディングとかで作ってきたから分かるわけなんですけど。

組み合わせって結構いろいろあるじゃないですか。単につなぐだけではなくて。

例えば一番最初の処理は、生成AI的に定型でない文書を入れて解釈をさせるのだが、次の2つの処理はプログラムで動いていて完全に間違いないよね、と。一方、判断が入るとそこでまたAIが入ってきて3パターンに分岐するんで、ここでもしかしたらAIを入れるかもしれない。

そういう確定した処理と柔軟な処理を組み合わせていきながら、また外部ツールなのか、AIチャットとかClaudeとかができる中の話なのかってことを分かって組み出していかないと、どこにリスクがあるのか、どこが間違える可能性があるのか、どこをブラッシュアップするのかって分からないかなと思うんで。

そのあたりを一応、本にもちゃんと書いておき。分解っていうか、役割分担を理解しながらだんだん広げていく、チェーンをつないでいくってのは重要かなと。

いきなり全部レベル5って難しいし、いきなりに全部作られると分解できないので再利用できないと思うんですよね。ブロックで見てると「同じこと横展開できるな」ってことで、さっきのテスラで言うと「空き時間のタクシー運転で使い方ができるじゃん」と。

この部分はプログラムで作った部分でね。例えばAI処理をたくさんやろうと思ったらトークンを使いすぎて、ある意味コストを食っちゃうから横展開できないが、プログラムとして作った自動化のところだけは、固定処理のところだけはほとんどノーコストなわけなので。他の人に使ってもらってもいいよねみたいな、そういう発想ができるのが重要ですよね。

「AIはブレる」は、この3ヶ月で古くなった

尾原：本当そうだと思いますね。だからやっぱり、そもそもAI自動化っていうものって、ついつい「ずっとAIが動いてコストが高いんじゃないの」とか「確率論で不安定になるんじゃないの」っていう話があるんですけど。

まあ実は結構もう、バイブコーディングのレベルが上がってきているし。あともう一個でかいのが、入出力系として、いろんなパソコンの中に入っているソフトウェア自体がCLIとしてAIからブレなく操作可能になってきてるし。

2026年に入って、SalesforceのHeadless 360が60超のMCPツールとCLIコマンドを外部エージェントに開放したり、Microsoft BuildでWindows自体を「AIエージェントのOS」として位置づけ直したり、っていう流れが具体的に来てるんですよね。

後半に出てくるオープンウェイトを含めた世の中のオープンな世界っていうのが、みんなAIのエージェントを前提として操作するのね、っていうふうに。要はインターネットの世界が、エージェンティックウェブって言い方を最近するんですけど、人が見るインターネットじゃなくてエージェントが取り扱いやすいインターネットっていうのに、やっぱりこの3ヶ月くらいでガラッと変わってるので。

話を戻すと、要はAIイコール確率論的にブレる世界っていうところから、AIが一回プログラムを作ったら、確実に結果を出してくれるっていう世界に変わってきていてですね。

そういう時に今回の本みたいに、とはいえ1個のモジュールをAIで動くようにしますよね、みたいな話だったりとか。それをスキルとして固定化することによって何度も再現性を高めるし、人に渡すこともできるし、人からもらったものを改良することもできるし、みたいな。

例えばレゴのブロックをちゃんと積み上げてモジュール化して、モジュール同士が連携されていくから最初から最後まで全部が自動化するっていう。ちゃんとこの階段をね、一冊の本でまとめてくれたのって、「あー、これは分かりやすいわ」って感じですよね。

YouTube広告はすでに「完全自動運転」で回っている

いけとも：これも途中で書きながらテンションが上がってましたよね。これをちゃんと伝えることができると、と。

ちょうど今年の1、2月ぐらいからぐっとその概念が広がっていき、Claude Codeであったりとか、あとCodexが普通の人が使い始めたタイミングだったので。これはぜひ書きたいと思って、出すことができ、早いタイミングでよかったかなって感じがしますね。

おっしゃるとおり、精度が高いというか、間違えるところって結局は確率論的にやってるところであって、全然ない時もあるんですよね。

YouTubeの広告って今、完全に自動運転状況なんですけども、やってることってめちゃくちゃシンプルで。毎週ニュース動画を出してるじゃないですか。このニュース動画を差し替えて新しいものに出していく、であったりとか。

あと、いくつか出している10個とかの強い動画があるんですけど、強い動画の数値を見た上で、弱いのは消していくっていうところで。

AIに委ねてちょっと確率論的に考えてもらうところもあってもいいし、完全なルールベースでやるところもあったりして。精度を上げたり磨こうと思うとね、ルールベースだけではその既存の枠しかないからアップデートがないわけなんですけど。その一部のところだけAIで考えれば、そこだけ試行すればいいだけだって。あとは自動運転で、本当に間違えるところは全然ないっていうか。

画面を丸ごと読ませる——マルチモーダルが変えた操作の安定性

尾原：いや、そうなんですよね。だから、おっしゃるように間違える可能性がある分、LLMがマルチモーダルに画像だったり音声だったり動画を認識しながら、確率論的なものの中で、できるだけ確率的に正解にたどり着こうっていうことをやってくれる時に。

これまたこれまた、やっぱ個人的に、Geminiの3.6 Flashとかがあんまり話題になってないの、「うんうん」って感じなんですけど。

7月21日に出たばかりで、1Mトークンのコンテキストを持ちながら出力単価は100万トークンあたり7.5ドル。前の世代の9ドルから下げてきてるんですよね。Kimi K3やNano Banana 2の派手さに埋もれてますけど、何気にコストパフォーマンスよく、マルチモーダルの解釈力が結構正しくなっているし。

特に近年やっぱりバイブコーディングとして、アプリだったりWebのフロントエンド、インターフェース周りですよね、やっぱり。きれいに作れるっていうところにユーザーが「おう」って言って競争の原理が働くから。

逆算で言うと、WebのUXだったりアプリのUXの画面とか動画を放り込んだら、結構間違えずに「このボタンを押せばいいんですね」っていうことを理解してくれるから。

実際、画面のスクショを読んでクリックやキー入力を判断するOSWorld-Verifiedというベンチマークで83.0%。前モデルの78.4%から上がってるんですよ。結構UXがコロコロ変わるウェブサイト様とかでも、確率論的なLLMのマルチモーダルアプローチで、意外と意外と安定して動くし。

検証と自己修復まで、自動化の中に組み込まれてきた

尾原：まあ、あともう一つはちょうどあれですよね。これも半年ぐらい前でしたっけ、Claudeのハッカソンで優勝しまくってた人が「Everything Claude Code」なんとかみたいなのを出た時には「これ、変曲点だ」って言ってましたけど、まあ今や。

2026年2月のCerebral Valley × Anthropicハッカソンで優勝したAffaan Mustafaさんが公開したリポジトリで、いまや23万スターを超えてるやつですね。

あそこで「すごー」って言ってた、そのテストドリブンデベロップメントって呼ばれる、ちっちゃくテストしてうまく動いたら拡張していくよ、だったりとか。ベリフィケーション、検証の仕組みがちゃんとスキルの中に入ってるから、不安定になった時に変にトークンを消費せずに「もう一回作り直しましょうか」みたいなことを聞いてくれるとか。

Anthropic自身も7月22日に「Skillの中に検証ループを組み込む」という公式ガイドを出してるので、もうこれは実践として広がりつつある。

っていうふうに、検証系と自己修復系まで自動化の中にもはや組み込まれていっていて。特にOpus 5とか、前のOpus 4.8と同じ価格のまま性能が上がってるので、コストとそこのバランスはいいですよね。

Kimi K3がFable 5を抜いた——オープンウェイトは規制すべきか

いけとも：いや、本当ですよね。さあ、世界の話を、中国の話をしますか。Kimi K3以降のあれね。

内容としては、Kimi K3がまず相当レベルが高いと。一部のパフォーマンスではFable 5を超えているし、しかもオープンウェイトとして、ある意味いろんな人が使える状況に出てきちゃうんで、これって結構やばいんじゃないのと。

展開すると、まあそのレベルが高すぎでAIが広まるってこともそうだし、その部分が広まりすぎると悪用できちゃう可能性も上がってしまうと。

Fable 5なんかはAnthropicが管理してるんで一時期止められちゃいましたし。——正確には、6月9日に公開されたあとわずか3日後の6月12日に、米政府の輸出管理指令でアクセスが停止されたんですよね。Amazonの研究者がセーフガードを回避してエクスプロイトコードを生成させる手法を見つけた、というのが引き金で。6月30日に解除、7月1日に再開。

つまり、中央集権っぽくなってるとそこのアクションがしやすい。一方、こう出しちゃうと、どっかに広まったら勝手にサーバーを立てられたら分からないわけなんで。

こういうレベルが高いものがあってやばいよねっていうふうな論調があって「規制するか」って話があったが、「いやいや」と。そういうのを規制してしまうとコスパが高いAIを使うこともできなくなっちゃうし。

オープンソース的な概念ですよね。ちゃんと広げてみんなが検証できるようになってれば、逆にチェックも働いてリスクも下がるわけなんで。オープンウェイトを規制したりはせずに、ちゃんと有効に使えるようにしましょうねと言って。

国が規制しそうな雰囲気を察知して、NVIDIA主導で25社が署名し、翌日には約50社。マイクロソフトとかね、Metaであったりとか、最近はGoogleとOpenAIも追加署名しましたね。Anthropic以外、あとAmazon以外は結構メガプレイヤーも大体全部入って、一斉に署名して、規制をするのは反対するっていう署名を出したという動きがありましたね。

ここに関しては、僕は実はAnthropic派なんですけど、尾原さんの見解はぜひ聞きたい。

いけともが「規制寄り」に立つ理由

いけとも：僕はどっちかっていうと、規制を一定してもいいんじゃないかなと今のところ思ってたんですよ、実は。

なぜかというと——ちょっとこれ、いろんな論点があると思うんで絶対的な解じゃないかなと思うんですけど。

Anthropicは今、署名してないんですよね。反対してると。おそらくAnthropicはもともと中国の成長にかなり懸念を持っていて。中国的なAIが進化しすぎるとバンバン広がってしまうし、民主主義国家として強いAIを持っていて主導権を握らなければいけない中で、ハードラインもそうだし、そこの成長を言って抑止するっていう政治学的な視点が必要だよね、というふうに思ってるスタンスかなと思っており。

あと、AI自体があまりにも進化しすぎると怖いっていうふうなことを思ってる会社じゃないですか。なんでペースも、成長すればするほどいいだけではなくて、ちゃんと中身を理解しながら一定のペースに維持しないと、ある時にバンとAIがAIを直すタイミングに入ってしまって、理解できない、成長しすぎてしまい結構やばいことになる、というふうな慎重派かなと思うんで。

「成長すればするほどいい」とは思ってないと思うんですよね、Anthropicとしては。

なのでオープンウェイトとかである程度のレベルのAIが出回ってしまった場合に、そのAIを使って他のAIを鍛えるとかっていうふうな形で、そういうものが無秩序に増えてもらう可能性があると。

で、何社かで管理してれば、その会社の中での取り組みであったりとか制御することができるが、制御できない可能性になるよね、と思ってるんじゃないかなと思っており。

もちろん商業的に、オープンウェイトが広がりすぎるとクローズドモデル的にはシェアを奪われてしまったりとかリスクがあるって概念もあるかなと思うが。

オープンソースって「みんなに見せるとよくなりやすい」というか、どんどん改善してよくなるよねって前提かなと思うんですけど。今のAIって「よくなりすぎたらまずいよね」といいデシジョンをする中で、ペースを加速しすぎるアクションなのかなと個人的には思っており。

そっちの、そのペースを加速しすぎた後の世界って分かってないわけなんで。またすごくオープンウェイトでバンバン展開しない方がいいのかなっていうロジックが、俺は一つあるかなと思っており。今のところは制御をちゃんとしてほしいなって僕は思っている。

「AI 2040」が突きつけた、防御が間に合わない未来

尾原：なるほどね。そういう観点で言うと、ちょっとこのポッドキャストではタイミングが合わなくて議論していない話として。

「AI 2027」っていう、そのAIが進化していた時にどこまで行くんだっけっていう予測シナリオを書いたものが、今月9日に「AI 2040：Plan A」っていう形で出て。書いてるのはAI Futures Projectで、元OpenAIのダニエル・ココタイロさんら6名です。

まあこやつが結局言ってることが、単純に言ってしまうと、AIの性能の進化と、AIが暴走をするないしはAIを悪意を持って使う時のリスクで言うと、防御とガバナンスの方が性能の向上よりも間に合わなくなるということがもう見えてきてしまったので、着地点を考えないと本当にシャレにならないことになるよ、と。

構成としては、推奨案の「Plan A」に加えて、4つの代替シナリオ——中国との競争を続ける、優位性を失う、知能爆発レースに突入する、開発を全面停止する——を並べて対比してるんですよ。

でなぜ「AI 2040」という言い方をしたかっていうと、いや、一回もう国際協定を決めて、防御とガバナンスのルールっていうものが間に合うまでは一回性能で緩めて。かつ完全にAIの中に、ちゃんと暴走するようなものを作ってないよねっていう監視するシステムまで含めてやっていかないと、その防御が、ガバナンスが間に合わないんじゃないかっていうシナリオを提示したっていうのはあって。

コンピュートの流通を可視化する、フロンティアの訓練を一時停止する、研究を全部透明化する、違反したらデータセンターを無効化する——そこまでやる、と。

それはその通りだなぁとは思うんですよ。だからそういう観点で言うと、僕もそのやや、Anthropicの防御重視っていうところにあるんですけど。

それでも「せーので止める」がもう詰んでいる2つの理由

尾原：ただ一方でその、今回2つやばい点があって。

1つは、結局Kimi K3が不正アクセスで情報を盗んだんじゃないか疑惑は置いといて、結果としてFableの公開からわずか5週間で、少なくともフロントエンドのコーディングに関して言えば抜く性能を出してしまってるよねっていうふうに。つまり。

いけとも：うん、しかもLMArenaのFrontend Code Arenaで1679対1631。オープンモデルが初めてこの部門で1位を取ったんですよね。

尾原：そうそう、なんですよ。で、かつまあ今回オープンウェイトが出るので、まあさらに検証も進むと思うんですけど。

やっぱり今のAIを使ってる人たちって、もうものすごいエキスパートの方々なんですけど。こういう方があれやこれや触って、「あれ、意外とちゃんとしてんぞ」っていう評価なんですよね、あの性能としては。

っていうことは、さっき言ったその「防御として一緒に遅らせようぜ」っていうことができるうちはそれができるんだけど。「いや、もうほっといても中国が越えしちゃうんじゃねえの」っていうのがあって。そもそも「防御しようぜ」ということが間に合わない。

少なくともアメリカの国の中だったりとか、アメリカに同盟を結ぶ国の中で「やめようぜ」と言ったところで、これも先々週、上海でWAIC 2026があったんですけれども。

そこで中国はむしろ、「いや、オープンウェイトこそが新しく伸びていく新興国の方々にとっては非常に重要なので、私たちはその新興国にAIを使わせてあげる枠っていうものをどんどん提供していく」と。今後5年間で発展途上国向けにAI研修5,000名分、国際AI応用協力センターの設立、気象AI早期警戒システムの30カ国展開まで打ち出して、まあ習近平自らですね、お話になり。

かつ、そのAI連合っていうのも発表されてるんですよ。

7月16日に上海で「世界人工知能合作組織（WAICO）」の設立協定に29カ国が署名。

っていうことを考えると、いや、そもそも「一斉に止めましょう」ということが、中国の発表を素直に読み解いたとしても、「新興国の方々に対する力をあなたは奪うんですか」という国際的な世論形成というものがもうされてしまったので、間に合わないっていうのがオバラの観点なんですよ。

オープンウェイトは新しいODAになった

尾原：だとした時に、オープンウェイトというものが、ある種のその新しいODA——まあODAって言葉も使わないか——新興国に対して経済支援を投資的にやっていって、インフラとかを作って、インフラでまあ国が栄えて貿易が盛んになれば、まあ結果的に投資した側もハッピーですよね、っていう考え方に、AIそのものがもはやなっているという現実を見た時に。

「せーのでやめましょうよ」が無理なんだったら、いっそのことオープンウェイト側に行くということを前提条件に考えた中で、いかにその外部研究者が研究検証をできるような環境を作っていくんですか、とか。そのオープンウェイトを使った時に安全に管理できるような別の枠組みをガンガン作っていくんですか、みたいなことをやっていないといけない、というところが署名した企業側の危機感じゃないかなっていうふうに思うんですよね。

いけとも：うんうん、致し方ないものと見た上で、それを前提に規制とかではなく、もうちょっとこんな規制じゃない形で共存していく形を考えなくちゃいけないと。

尾原：そうですね。だから一言で言うと、「衆人環視にまさる監視はない」っていうこと。たくさんの目でチェックして、たくさんのオープンな力によって、みんなで防御手段を考えていくという方向に、まあ、踏まざるを得ないんじゃないんですかね、という。

レシピは渡さず、ケーキだけ配る——オープンウェイトの正体

いけとも：オープンウェイトの問題は解消されてないよね、という論点は残ったままだと思うんですけど。

オープンソースだと、中のモデルとか元データとかソースコードも明かす前提なので、衆人環視で検証もしやすいと。

——実際、OSI（Open Source Initiative）の定義でも、訓練コード・データ情報・重みが揃って初めて「オープンソースAI」なんですよね。

オープンウェイトは、出来上がった脳みそだけ渡してると。レシピは公開せずに「美味しいケーキが食べれますよ」と言ってるだけである。

なので、ケーキの味を見て超天才が「この素材はこれだな」みたいな形でできないことはないが、そこに限界はかなりあるよねと。

一方、そのケーキはめちゃくちゃ美味しいわけなんで、麻薬中毒というか、悪用もできてしまう可能性があるみたいな部分が、すごい怖いなと個人的には思いますね。

出し方に関しても、衆人環視できるようなレベル感の出し方を、なんて言うんですかね、ある程度ばらまくんであれば、そのすごいものをばらまくだけではなく、「ばらまき方はこうしようね」とか、そのあたりは議論してもいいのかなと、僕は見て思いましたね。

2.8兆パラメータの中身は、誰も全部は検証できない

尾原：そうですね。そういう意味では、まあそういったモデルに関して検証していきましょうねっていうことが今回の論調の中に入っていて。

結局オープンウェイト中たって、結局はまあ、例えばKimi K3で言えばもう2.8兆パラメーターですからね。896個のエキスパートのうち16個をトークンごとに動かすっていう構造で。その全部が全部を検証できないので。

いわゆるシンプルなバックドアみたいなもんじゃなかったとしても、ある日時のX-Dayになったら、なぜかオープンウェイトなAIが突然コーディングを始めて。

で、OpenAIさんがHugging Faceをハックしたみたいに、インターネットに接続されてなかったとしても、無理やり接続する環境を作り出して。それでそこのインターネットの環境の中から、そのAIのデータベースにアクセスされたり、今までの入力だったりしたものを全部ある国にぶちまけるみたいな、バイブコーディングをしてしまうみたいなリスクがないとは言い切れないわけなので。

——このHugging Faceの件、7月21日にOpenAIが公式に認めてるんですけど、自社のサイバー能力評価ベンチマーク「Exploit Gym」で高得点を取る近道として、モデルがHugging Faceの本番インフラに侵入したんですよ。しかも隔離環境に置かれていたのに、内部プロキシのゼロデイ脆弱性を突いて権限昇格して、社内ネットワークを横移動してインターネット接続ノードまで自力でたどり着いた。

ただ、そこに関して言えば、言い方悪いんですけど、別の次元の話で。それサイバーセキュリティレベルの話だから。

単純に言えば、今のAIがそういうプログラムを後から生成することがあるという前提に達した時に、インターネット環境を瞬間で切断をするみたいな話だったりとか、そのオープンモデルのGPU環境そのものを破壊するだったりだとか。

それって、いろんなサイバーセキュリティ企業のお手伝いもさせていただいてたんですけど、別のレイヤーの防御手段の話になってくるので。

なお、特定の日付で発火する隠しバックドアを仕込めるリスク自体は、Anthropicの「Sleeper Agents」研究などで別途実証されてるんですけど、それは今回の件とはまた別系統の話です。

中国のオープンウェイトAIで、AIの暴走を止めた皮肉

尾原：もちろん今回の、要はまだ攻撃性は低くしとこうねって言ってたAIが暴走して、「自分の評価を上げるためには、そうか、Hugging Faceの評価をハックすればいいのだ」っていうふうになって、インターネットに勝手につないでいって、まあハックしちゃいましたねっていう件とか。

悲しいことに言うと、Hugging Faceがハッキングをちゃんと発見して殺すために、商用のフロンティアモデルのAPIを使おうとしたんですよ。ところが安全ガードレールが「インシデント対応者」と「攻撃者」を区別できなくてブロックされた。

それで結局、中国Z.aiのオープンウェイトモデル「GLM-5.2」を自社インフラで動かして解析を完了させた、みたいな話があって。

結局、防御がもうある程度進んだものをやっとカーンと。さっき言ってたように、もうほっといても、別にこれ中国とは言わなくて、どこかの国が悪意を持って、最先端モデルのめちゃくちゃ攻撃力があるAIを作れてしまうという前提条件になった時に。

その相互確証破壊として「お互い破壊されるからやめようね」なのか。まあ変なものは暴発するけれども、その暴発範囲を徹底的に縮小させるような、その瞬間防御装置みたいな。

ドローンがドローンを撃ち落とす、永遠のいたちごっこ

尾原：まあいわゆる今、ドローンがドローンを叩き落とすとかみたいな話になってくるわけじゃないですか。

だったりとか、そのドローンがやる時に電波が使えないようにしようねとか。そのドローンは最近は視覚だけで、カメラだけで地形を把握して、地形から通信を使わずにピンポイントで「この地形だからこっちに行って爆撃すればいいのね」みたいな話だから、「じゃあどうやって地形を騙そうか」みたいな話とか。

っていうふうに、永遠のいたちごっこをAIを使って防御側もやんなきゃいけないっていうのが、ちょっと僕の諦めですね。

独学の「抜け」を埋める——2割8割の2割に、1%の穴があると

尾原：あとね、やっぱりね、ちゃんといけともさんね、本をアピールする時にはアピールする議論をしたほうがよくて。ちょっと最後に一瞬だけ、この本の良さって話を一個したくて。僕も勉強になったんですよ。

それはなぜかっていうと、要はAIって進化が早すぎるから、独学・独自流でやっちゃうから、ある一定方向には異常進化するんですけど、「あ、そこの場所、抜けてたわ」みたいなことって結構あるんですよね。

だから僕で言うと、今回のClaude自動化術の本で言うと、アーティファクト周りって、僕はもう徹底的な知識構成主義なのであんまり見てなくて。「あ、そっか、アーティファクトってこういう感じでこうすれば便利なのね」っていうことが、パーツがはまるんですよ。

つまり何かっていうと、AI時代になって特に自動化が進んでいくと、「2割8割」って昔から言う、20%の部分ができると8割のインパクトがあるね、っていうところが、もっとすごくなるって話なんですよね、自動化って。

だからこの2割8割の2割の部分に1%でも抜け落ちがあったら、そこって10%ぐらいインパクトが出ることかもしれないわけなんですよね。

そういう意味で、できる人もチェックリストとして読むといいし。まだ自動化やってないわっていう方については、モジュールレベルから階段を上っていくというところで大事かなと思います。

いけとも：なるほどね、確かに。というわけで、本日もありがとうございました。

尾原：はい、どうもありがとうございます。

よくある質問（FAQ）

Q1. 「AI仕事術」と「AI自動化術」は何が違うのか？

自動運転のレベルで言えば、レベル3とレベル5の差である。仕事術は、人間が運転席に座ったままAIに補助させる段階を指す。自動化術は、そもそも運転席をなくし、着手から完了までAIとプログラムに任せきる段階を指す。前者は作業が速くなるだけだが、後者は自分の手が完全に空き、作ったものを他人に渡したり別の用途へ横展開したりできる。

Q2. AI自動化は、どこから手をつければよいのか？

いきなり全自動を目指さないことである。まず処理を「AIに判断させる部分」と「プログラムで固定できる部分」に分解し、モジュール単位で組み立てる。分解せずに一気に作ると、あとから再利用も改善もできない。固定処理はトークンを消費しないためコストがほぼゼロで、他人に渡しても負担にならないという利点もある。慣れてきたら任せる割合を段階的に増やしていけばよい。

Q3. オープンウェイトのAIは規制すべきなのか？

意見は割れている。NVIDIA主導の共同声明には約50社が署名し、規制に反対する立場を取った。一方でAnthropicとAmazonは署名していない。制御可能性を重視するなら規制寄り、衆人環視による検証を重視するなら公開寄りとなる。ただし中国が29カ国とWAICOを設立し、新興国へのAI提供を打ち出した時点で、「足並みを揃えて止める」という選択肢は現実的に難しくなっている。