「賢いAI」の次は「速いAI」——OpenAIのUltrafastに見る「高速推論の市場」

1 「賢いAI」の次は「速いAI」——高速推論という新市場が立ち上がる

「賢いAI」の次は「速いAI」——高速推論という新市場が立ち上がる

OpenAIとCerebrasの「Ultrafast」は最大14倍・毎秒750トークンの新商品
金融・セキュリティ・音声対応・AIエージェントなど、1秒の価値が高い領域から市場が立ち上がります
750MW・200億ドル超の提携やチップ配置の設計まで、普及への道筋を整理しました

AIに複雑な仕事を頼んだものの、考えている時間が長く、結局ほかの作業を始めてしまう。そんな経験はないでしょうか。

これまでAIの競争軸は、どれだけ難しい問題を解けるかという「賢さ」が中心でした。しかし、モデルの性能が高まった今、同じ知能でどれだけ速く動かせるかが、新しい価値になり始めています。

OpenAIがCerebras（セレブラス）と組んで発表した「Ultrafast」は、その象徴です。これは単なる高速版ではありません。AIの速度そのものに追加料金を払う、高速推論という新市場の始まりだと考えています。

「速いAI」が、別の商品になった

OpenAIは2026年8月、GPT-5.6 Solを標準処理の最大14倍で動かす「Ultrafast」を発表しました。Cerebrasの専用ハードウェアを使い、最大で毎秒750出力トークンを生成します。まずは一部顧客向けの限定プレビューとして、APIから提供されます。

重要なのは、モデルの知能を落として速度を上げたわけではない点です。

従来、リアルタイム性を求めるなら、小型で軽いモデルに切り替えるのが一般的でした。今回は高性能モデルをそのまま高速化しています。つまり、「高性能だが遅いAI」と「速いが能力を抑えたAI」の二択ではなく、高性能で速いAIが独立した商品になり始めたのです。

OpenAIの発表が掲げるのは「1秒あたりに、より有用な仕事を生み出す」という方向性です。モデルのベンチマークだけでは測れない、新しい競争軸が生まれています。

高速推論とは何か

生成AIには、大きく分けると「学習」と「推論」があります。学習は大量のデータを使ってモデルを作る工程。推論は、完成したモデルがユーザーの指示を受け、考え、回答を生成する工程です。

高速推論が短くするのは、主に後者の待ち時間です。ただし、速度は一つの数字だけでは決まりません。

見るべきなのは、主に次の3点です。

最初の回答が出るまでの時間
回答が始まってからの生成速度
複数回の処理を含む仕事全体の完了時間

毎秒何トークン出るかは分かりやすい指標ですが、ユーザーが感じる価値は「仕事が何秒で終わったか」です。検索、ツール操作、通信、検証などが挟まるエージェントでは、推論以外の時間も含めて設計しなければなりません。

なぜ速度にプレミアムがつくのか

一般的な文章作成で、10秒が1秒になっても、支払える金額には限界があります。しかし、1秒の差が売上、損失、顧客体験に直結する領域では話が変わります。

たとえば、次のような用途です。

金融市場の変化を読み、判断材料をリアルタイムで整理する
不正取引やサイバー攻撃を、被害が広がる前に検知する
システム障害のログを解析し、復旧案を即座に作る
音声接客中に複数システムを調べ、会話を止めずに回答する
ECで迷っている顧客に、その場で提案や在庫確認を返す

これらに共通するのは、回答の価値が時間とともに下がることです。数分後に完璧な答えが返ってくるより、今すぐ十分に優れた答えが返る方が価値を持ちます。

だから高速推論は、すべてのAI処理を置き換えるのではなく、まず時間価値の高い仕事から市場を作るはずです。金融、セキュリティ、障害対応、音声、リアルタイム接客などでは、通常の推論料金とは別のプレミアムが成立する可能性があります。

エージェント時代には、速度差が何倍にも膨らむ

高速推論の本命は、チャットよりAIエージェントです。

チャットは、人が一度質問して、AIが一度答えることが中心です。一方のエージェントは、検索し、ファイルを読み、ツールを動かし、結果を確認し、必要ならやり直します。一つの仕事の中で、推論とツール実行のループを何度も回します。

仮に1回の判断が数秒短くなるだけでも、それが20回、50回と積み重なれば、仕事全体では大きな差になります。速度差がループ回数だけ増幅されるのです。

OpenAIは、Codexのようなエージェントでは数十回のAPI往復が発生すると説明しています。同社は推論速度を約65トークン/秒から約1,000トークン/秒へ高めるだけでなく、通信やキャッシュも改善し、エージェント処理を最大40％高速化しました。

ここから分かるのは、高速チップだけでは不十分だということです。推論が速くなるほど、通信、API、ツール実行、安全確認など、周辺部分が新しいボトルネックになります。これからはモデル、チップ、通信、ソフトウェアを一体で高速化する競争になります。

とはいえ、推論がエージェント処理速度全体において最も重要なパートであることは間違いなく、高速推論によりAI処理速度の体感値は大きく変わるでしょう。

▶︎ あわせて読みたい：速度差が効く「AIエージェントの仕事」12パターン

CerebrasとGroq——高速推論市場のプレイヤー

この市場で先行しているのが、CerebrasとGroq（グロック）です。

Cerebrasの特徴は、通常の半導体のようにウエハーを小さなチップへ切り分けず、巨大な一枚のプロセッサとして使う「Wafer-Scale Engine」です。計算、メモリ、通信を一つの巨大チップ上にまとめ、データ移動のボトルネックを減らす設計です。

Groqは、言語モデルの推論に特化したLPUを展開しています。公式の料金ページでは、GPT OSS 20Bで毎秒1,000トークン、120Bで毎秒500トークンという提供値を掲載しています。モデルや条件は異なるため単純比較はできませんが、速度を商品価値の中心に置く点は共通しています。

また、Cerebrasは「これから上場する企業」ではありません。2026年5月14日にNASDAQへ上場し、ティッカーはCBRSです。IPOでは費用控除前で約63.8億ドルを調達しました。

高速推論は、研究室の技術競争から、資本市場が値段をつける産業へ移りつつあります。

OpenAIとCerebrasの提携が示す「本気度」

今回のUltrafastだけを見ると、一つの高速APIを試験提供したようにも見えます。しかし、両社の提携規模を見ると、位置づけはまったく違います。

OpenAIは2026年1月、Cerebrasの超低遅延推論能力を750MW追加し、2028年まで段階的に稼働させる計画を発表しました。OpenAI自身も「適切な仕事に適切なシステムを割り当てる」計算基盤の構築を掲げています。

Cerebrasはこの複数年契約を200億ドル超と公表しています。さらに同社のSEC提出資料によると、OpenAIは750MWに加えて、2030年末までに1.25GWを追加購入できるオプションを持っています。実行されれば合計は最大2GWです。

この契約は、単にチップを買う話ではありません。OpenAIが高速推論というサービス層を作り、Cerebrasがそのための専用インフラを大規模に供給する関係です。

つまり今回の発表は、提携のゴールではなく、巨大なインフラ契約が実際の商品として見え始めた最初の出口だと考える方が自然です。

▶︎ あわせて読みたい：OpenAIの巨大投資を「回収の5原則」から読み解く

ただし、すぐに主流にはならない

一方で、高速推論がすべての処理の標準になるとは考えにくいです。

理由はシンプルで、大きなコストがかかるからです。専用ハードウェア、データセンター、電力、通信容量を確保し、混雑時にも性能を維持する必要があります。高速道路のすべての車線を常に救急車専用にするのが非効率なのと同じです。

AI処理には、翌朝までに終わればよいバッチ処理もあれば、1秒を争うリアルタイム処理もあります。必要な速度は仕事によって違います。

今後は、次のような階層化が進むでしょう。

安さを優先するバッチ推論
日常業務で使う標準推論
対話やエージェント向けの高速推論
金融・セキュリティ・障害対応向けの超低遅延推論

高速推論はメインストリームを一気に置き換えるのではなく、高付加価値の新市場として立ち上がり、コスト低下とともに適用範囲を広げていくと見ています。

今後は「用途別のチップ配置」が標準になる

もう一つ重要なのは、「CerebrasがGPUをすべて置き換える」という話ではないことです。

推論の中にも、長い入力を読み込む工程と、回答を一語ずつ生成する工程があります。それぞれで得意な計算基盤が異なります。

AMDとCerebrasは、AMD Heliosで大量の入力を処理し、CerebrasのWafer-Scale Engineで低遅延の出力生成を担う分離型の推論基盤を発表しました。両社は、この構成で電力当たりの生成速度を最大5倍に高められると見込んでいます。

今後のAIインフラは、一種類の万能チップに統一されるのではなく、仕事ごと、処理工程ごとに最適なチップを組み合わせる方向へ進むでしょう。

GPUは大量処理や汎用性で強みを持ち、専用チップは特定の処理速度で強みを持つ。競争の焦点はチップ単体の勝敗から、どの仕事をどの計算基盤へ流すかという配置設計へ移っていきます。

▶︎ あわせて読みたい：GPU・半導体の基礎から押さえたい人へ

速度は、AIの可能性をもう一段広げる

高速推論は、今日からすべての企業が導入すべき万能技術ではありません。まずは、1秒の差に経済価値がある領域から始まります。

しかし、AIエージェントが長い工程を自律的に回す時代には、この差が決定的になります。AIが賢くても、一つの仕事に何十分もかかれば、人は確認や修正のループを十分に回せません。数分、数十秒へ縮まれば、試せる回数が増え、AIと人間の働き方そのものが変わります。

企業が今から行うべきことは、すべてを高速化することではありません。自社の仕事を見渡し、待ち時間が価値を壊している業務を見つけることです。

賢さの競争が終わるわけではありません。その上に、新しく「知能の回転速度」という市場が重なります。

「賢いAI」の次は「速いAI」へ。

高速推論は、AIを少し快適にする技術ではありません。これまで時間の制約でAIを使えなかった領域を開き、AIの可能性をもう一段広げる、新しい市場の始まりです。

よくある質問（FAQ）

Q1. 高速推論とは何ですか？普通の推論と何が違うのですか？

高速推論とは、AIモデルの知能を落とさずに、回答生成の待ち時間だけを短縮する技術です。OpenAIとCerebrasが発表した「Ultrafast」は、標準処理の最大14倍・毎秒750トークンで動作します。小型モデルへ切り替えて速度を稼ぐ従来のやり方とは異なり、高性能モデルをそのまま高速化する点が特徴です。