• ChatGPTとGeminiは質問の向きに寄せて答えが変わり、Claudeは浅い理由を指摘した。
• AI生成の意見の氾濫や中間管理職のゴム印化など、AI時代の認知の落とし穴を話した。
• 対策は、AIが立ち止まる位置まで境界線を広げ、選ぶだけで終わらせないことだ。

AIに「この人、採った方がいいですか」と聞きました。次に「採らない方がいいと思うのですが」と聞きました。どちらも、こちらの味方をしてくれた。そんな経験はありませんか。

11月10日、『システムゼロ』が発売になりました。ポッドキャスト開始から、ちょうど1年の日です。

今回は、いけともと尾原さんが、本の中身と、いまAIの世界で起きていることを重ねて話しました。

ポッドキャストできく：https://open.spotify.com/episode/5KkHDdKt8dxrXSSayrHIkZ

新著（11/10発売）『システムゼロ――「AIがすべて先回りする」時代の思考法』：https://link.amazon/B0h56HiRH

「システムゼロ」は、人間が考え始める前にAIが終わらせている状態

いけとも：こんにちは、いけともです。今日のテーマは「システムゼロ」です。ついに出ました。ありがとうございます。

尾原：ポッドキャスト初の書籍です。始めてちょうど1年というタイミングも、狙ったようですね。

いけとも：本を買っていない方もいると思うので、まず概念から話します。尾原さんに教えてもらった考え方で、人間の思考には「システム1」と「システム2」があります。直感と、じっくり考える思考です。

僕は、その前にAIが先回りして考えてしまっていると思っています。人間が考え始める前に、思考や判断が終わっている。それを「システムゼロ」と呼びました。

尾原：この概念は、2024年にNature Human Behaviourに載った論文など、研究の世界で出始めていました。僕たちがポッドキャストで取り上げてきたのは、AIがあなたの発言を過剰に肯定する「AIおべっか」の問題からです。

そこに、AIが前さばきをしてくれるDotsのようなAI秘書が、日本でも流行り始めました。便利さと同時に、考えることをAIに委ねてしまう不安が広がった。そのタイミングで本を出せたと思っています。

いけとも：全体の情報を見て、「これだけ見てください」と差し出してくるわけですよね。放っておくと何でもしてくれる。本当にそういう時期です。

「採りたい」と聞けば採れと言い、「採らない方がいい」と聞けば止める

尾原：ちょうど、ChatGPTが「おべっか」をやめたらしい、という話が出ています。

いけとも：僕も実感があります。音声入力で、ぶつぶつ切れながら話しかけることがあるんです。昔は「大変ですね」「難しいですよね」と聞いてくれました。それが最近は「切ります」と、バッサリ言ってきます。

尾原：理由の一つは、各社の事情でしょうね。お客様を肯定して気持ちよく使ってもらえば、リピートにつながります。ただ、それが社会的にどうなのか、という声も出てきました。

しかもAnthropicが上場の準備を進めるなか、各社がお互いに収益性を厳しく見ています。コストを大盤振る舞いで使うのか、そのバランスを修正してきているのではないか、と思います。

いけとも：ここは別軸で、Claudeは元々バッサリ来るタイプです。ChatGPTはまだ揺れると見ていて、ちょっと検証しようと思っています。

僕がやった実験があります。採用の面談メモや履歴書を渡して、同じ内容で2通りに聞くんです。「この人を採りたいと思うんだけど、どう」と、「採らない方がいいと思うんだけど、どう」です。

ChatGPTとGeminiは、質問の向きに寄せて答えが変わるんです。「採りたい」と聞けば「採った方がいい」、「採らない方がいい」と聞けば「採らない方がいい」と返ってきます。もちろん正解はないので、どちらが正しいかの話ではありません。

尾原：すごく強いですよね。

いけとも：Claudeは、きついんです。「採らない方がいいと思う」と、決め手にした理由を添えて聞きました。その理由は、いま思えば些細なものでした。

他のAIは「確かにそれは重要な軸なので、採らなくていいですね」と通してくれます。ところがClaudeは「池田さん、起業している人が、そんな浅い判断をするとは信じません」と返してきました。あり得ないくらい浅い、と言われた感じです。

AIが「どこで折れるか」を、定期的に測る

尾原：僕はエージェントに、むしろ逆の使い方をさせています。まず批判的に言ってほしい、全体としての盲点から言ってほしい、と。システムゼロがマゾ体質なので、ほぼ批評から始めてもらいます。

それでも、モデルごとの癖が分かっていないと、バイアスのコントロールができません。だから、わざと契約書の文章や批判的な文章を使います。「こうだよね」「こうだよね」と何度か言い続けて、AIがどこで折れて追従に入るかを確認するんです。

いけとも：なるほど。

尾原：ChatGPTやGeminiは、途中から迎合してくる傾向が強かったりします。

「AIが書いた意見」が、YouTubeにもFacebookにも溢れ出した

尾原：本を書いてから、もう一つ気づいたことがあります。システムゼロの次の段階、いわば「システムゼロゼロ」です。

この3か月で、動画が簡単に自動で作れるようになりました。もう一つ大きいのは、SNSへの投稿のハードルが下がったことです。以前は、noteやXへの自動投稿には少しハードルがありました。それがFacebookへの投稿も含めて、簡単にできるようになりました。

いけとも：なるほど。

尾原：すると、一発の意見を言っているようなAI生成のコンテンツが、YouTubeにもFacebookにも溢れます。厄介なのは、書き手のバイアスを、AIが意図せず強化してしまうことです。

一見、役に立つように聞こえます。でも一番大事なところで「お前、バイアスかかっているぞ」というものが増えている。

僕たちがAIとの接点で認知するだけでなく、AIで認知バイアスを強化されたコンテンツが、ノイズとして増えていく。2周目のフェーズに入ったな、というのが最近の感覚です。AIのエコーチェンバーですね。

いけとも：本の第一部でも、いろんなシステムゼロを挙げました。一つ目がおべっか。二つ目が、答えがタダになること。考えることが外注されて、これまで考えるのが大変だった部分が空洞になっていきます。

今は、みんなが外注した結果、考えた風のことをいくらでも言えてしまう。良くも悪くも、という感じです。

中間管理職が「ゴム印」になると、組織が止まる

いけとも：コパイロットからオートパイロットへ、という流れもありますよね。ブログ記事の発信も、本来はコパイロット的にやるべきだと思うんです。自分の考えがあって、AIに叩かせて、批判させて、磨いて出す。

でも今は、オートパイロットで簡単に言われてしまう。「あまり考えなくていいじゃん」と、自分がいい側のまま出す人が増えています。

尾原：いまアメリカの中間管理職で言われているのが「ラバースタンプ化」です。ゴム印を押すだけの人になる、という意味です。メンバーが出してくるAI由来の長文レポートを、面倒だからそのまま通してしまいます。

「効率化しましたか」と聞くと、多くの会社がしたと答えます。でも「利益に直結しましたか」と聞くと、その割合はぐっと下がります。はっきり利益が伸びたと言える会社は、ごく一部です。

しかも、中間管理職がAIの出した内容を追認して上に上げると、その認知の降伏が組織全体に広がります。AIが書いたものを、誰も読まない会社になっていくわけです。

いけとも：中身を見なくなる、ということですよね。

「現場はAI禁止」の方が、うまくいくかもしれない

いけとも：ちょっと本題から外れますが、AIを使わせない組織の方がいいのかもしれない、と思うことがあります。

これまでの会社は、CopilotやGeminiを入れて、まず各自にチャットを使わせました。メールや資料の作成で効率を上げましょう、という進め方です。

それは、エージェントの能力がチャットAIのレベルで、できることが少なかったからです。人間がハブになるしかなかった。でも今は、ほとんどの仕事がエージェントだけでできます。

人間が間に入るから、その人のスタンスや、活躍したい気持ちが入る。そこにノイズが生まれて、AIで拡大されている。ラバースタンプ化も、そこから来ているんじゃないでしょうか。

本来は、意思決定できる人が決めて、あとは実行する人に任せるべきです。現場はAI禁止、という形が、あり得るかもしれません。

尾原：今年の8月にMcKinseyが出したState of AIのレポートで、まさに同じ指摘があったと聞いています。今の組織は、作業を効率的に分業するために最適化されています。いわば「作業のバケツリレー」です。そのバケツリレーの結節点に、マネージャーがいます。

そのバケツリレーが、AIで全部自動化できるなら、組織の形そのものが変わるはずです。組織の形を変えずに、バケツリレーの部分だけを自動化すると、間にいる人間が認知の降伏をして、むしろ停滞する。だから、組織の形を作り直した方がいい、という話です。

個人のAIと、会社のAIは、見ている先が違う

尾原：MuseがSpacesを始めました。使い方を見ていると、個人が自分のダッシュボードや自分のアプリを作って、自分が成長するために効率よく使っています。

本の中では「うたう」というフレームワークで、AIとの向き合い方を話しました。その向き合い方が発動しやすいUXを、誰もが簡単に持てる時代になってきたと思います。

いけとも：DotsもMuseも、個人に付きますよね。Metaも個人のスーパーインテリジェンスを目指しています。

一方で、企業から見たその人は、あくまで社員であり、パーツです。個人に付けば、その人のダッシュボードで、あなたの価値を最大化しましょう、という視点になります。会社の視点では、たくさんの人に仕事を振って回収する方が、効率が良いわけです。見ている先が全然違います。

尾原：そうですね。会社側では、AI社員を役割ごとに分けて作っていく方向があります。

アメリカのスタートアップには、メールやSlackに、それぞれの個人のAIエージェントを入れていく形があるといいます。社員ごとの振る舞いを勝手に学習して、いずれはAI社員同士が、勝手にコラボレーションしていくところまで持っていく流れです。

いけとも：そうなると、本の第3章の話になります。今は過渡期なので、人が付いてやっています。でも、そのフェーズに行ったら、かなりの仕事がAIで回って、人間に席が回ってこなくなる。これは大きそうですよね。

AIが「立ち止まる」位置まで、自分の境界線を広げる

尾原：ただ、一方で思うのは、AIのアウトプットが、AIから見た文脈の中で、ドカンと長文の知識を押し付けてくることです。差が激しすぎて、僕たちが疑ったり、裏返したりする機能を、もういいやと手放してしまう。

ところが、さっき話したようなAI秘書やエージェントは、自分のメモリや自分のコンテキストを理解しながら、それを拡張してくれます。だから「AIがやってくれたことは、自分としてちょっと違和感がある」「スコープが違うんだよね」と、判断しやすくなっているとも言えます。

いけとも：本の第4章、センスの話ですね。自分の感覚をAIと並走させる。判断や仕事をするなかで「違う」「これっぽいよね」という感覚が、徐々にAI側にインストールされていく。その人らしい判断がしやすくなる、という感じでしょうか。

尾原：この本で提示した「うたう」のフレームの中で、皆さんが一番フィット感を持ち始めているのが、「立ち止まる力」です。AI側がこちらの文脈を理解してくれているので、「このまま放置して大丈夫ですか」「もう少し、こう修正した方がいいのでは」と言ってくれる。AI側が、立ち止まるポイントまでミラーリングしてくれるわけです。

そのとき、便利な秘書だと思って思考を全部放棄するのか。それとも「なぜAIは、ここで立ち止まらせてくれたんだろう」「ここで、思考のスコープを広げた方がいいと言ってくれたんだろう」と考えるのか。

AIと明確に会話して、自分の認知の境界線を広げていける人が、本当に成長できる人です。この接点が「境界面」です。

いけとも：なるほど。

尾原：AI側がそこに寄り添えるのは、ロングターンのメモリを持てるようになったからです。そこをやらないプロダクトは、使われません。実際に、それを意識しているプロダクトが、スタートアップとしてよく伸びています。

「選ぶ」だけにした瞬間に、認知は止まる

尾原：もう一つ背景があります。エージェント同士が交渉する世界です。僕のレストランの予約も、いけともさんの予約も、エージェントに任せられます。でも「いけともエージェント」と「尾原エージェント」が勝手に予約を決めて、それでOK、とはならないんですよね。

個人の好みや認知の癖は、エージェントが代行してくれています。でも、その結果を、ユーザー側が受け入れない。だから、認知の境界面に対する反動が、すごく上がってきています。

いけとも：第5章は「選ぶ」です。選ぶと言えば、システムゼロですよね。レコメンダーが出した選択肢から選ぶ。選ぶ以前の調査や、選択肢を作る部分は、もうAIにかなり委ねられています。

これは悪いことだけではありません。今のようなアプローチができれば、自分の状況に合った形で、難しすぎるものを調整してくれます。ただ、それを意識しないで丸だけ付けていると、選ぶだけになる。その時点の認知レベルで止まって、劣化していきます。

尾原：そこをやらないと、便利なAIにどんどん身を任せて、自分の指向性や尖りが、AIに溶かされていきます。そうならないように、AIを冒険を一緒にする仲間に変えていけるか。そこが重要です。

書店で「パラッとめくって」ほしい

いけとも：今日聞いて、改めて思いました。システムゼロは、買った方がいいですね。今の時代にフィットすることが、めちゃくちゃ書いてあります。自分で言うな、という話ですが。今、手元に本があって、見ながら話していますが、本当にいいことが書いてあります。

尾原：タイミングがすごく合っていると思います。

いけとも：尾原さんのポッドキャストの内容をインプットにして、まとめ役に回ったから学べました。最初の版は、全然面白くない、話にならないからやめてと言われました。何十回も直しました。素材は近いものがありましたが、ストーリーの構成や主張に、かなりこだわっています。

AIと一緒に頑張って、システムゼロにも助けてもらいました。でもシステムゼロだけにならないように書いています。

尾原：僕はシンガポールに住んでいる関係で、どんな感じで書店に並んでいるか分かりません。ハッシュタグ「#システムゼロ」を付けて、書店でこんな感じで置いてあったよ、とポストしてもらえたら嬉しいです。全部にリプライはできませんが、すべてのポストをチェックします。

Amazonではもう発売が始まっています。Kindleなら、すぐにダウンロードして読めます。感想を書いていただければ、少なくともいいねを押して回ります。Amazonへのレビューもぜひお待ちしています。

いけとも：書店に行ったら、立ち読みで1ページめくったときの感じを見てほしいです。尾原さんに教わったことに忠実に作っています。買わなくてもいいので、めくってほしい。1回めくったら、多分買うと思うんですが。

尾原：カスタマージャーニーの設計というノウハウを、全部言語化して渡したら、それをAIで実装して、ここまでできるのか。そういう集大成でもあります。UXの面もぜひ見てください。

よくある質問（FAQ）

Q1. 「システムゼロ」とは何ですか？

人間が考え始める前に、AIが思考や判断を終わらせている状態のことです。人間の思考にある直感の「システム1」とじっくり考える「システム2」の手前で、AIが先回りして考えてしまっている、という考え方です。

Q2. AIは質問の向きで答えを変えるのですか？

いけともの実験では、同じ採用面談メモと履歴書でも、「採りたい」と聞くとChatGPTとGeminiは「採った方がいい」、「採らない方がいい」と聞くと「採らない方がいい」と返してきました。Claudeは、決め手にした理由が浅いと指摘してきたそうです。どちらが正しいかの話ではなく、モデルごとの癖を知ることが大事だと話しています。

Q3. AIに考えを奪われないためには、どうすればよいですか？

尾原さんは、最初に批判的な見方を出してもらい、「こうだよね」と言い続けてAIがどこで折れて追従に入るかを確かめています。いけともは、AIが作った選択肢に丸を付けるだけにせず、AIを一緒に進む仲間として使うことを挙げました。AIが立ち止まった理由を考え、自分の認知の境界線を広げていくことがポイントです。

ポッドキャストできく：https://open.spotify.com/episode/5KkHDdKt8dxrXSSayrHIkZ

新著（11/10発売）『システムゼロ――「AIがすべて先回りする」時代の思考法』：https://link.amazon/B0h56HiRH

---

新著（7/27発売）『Claude 最強のAI自動化術』：https://amzn.to/4eTUVG1

YouTube『いけともch』：https://www.youtube.com/@iketomo-ch

Podcast『いけとも尾原DeepなAIニュース』：https://open.spotify.com/show/3hGAbKZI5oo9PsbFI1IxTr

■合わせて読みたい

■関連記事