要点
応答速度と高度な推論を両立する「非 同期推論プロトコル」 を音声AIに標準搭載
会話中に裏で思考とAPI実行を継続し、待ち時間を感じさせない自然な対話を実現
相槌を打つ裏で思考トークンが消費され続けるため、1通話あたりの実質単価が跳ね上がるリスク
従来の「タ ーン完結型」 プログラムからの移植には通信制御の根本的な改修が必要
非同期推論プロトコルとは何を捨てて何を得たのか
Google DeepMindが2026年9月15日に一般提供を開始した「G emini 3.8 Live」は、 従来の音声対話AIが抱えていた最大のトレードオフを打ち破った。これまでの会話AIは「応 答は速いが単純な挨拶程度しかできない即答型」 か「裏 でデータベースを参照できるが数秒間の無言状態が発生する思考型」 のどちらかを選ぶしかなかった。
今回新導入された非同期推論プロトコル (A synchronous Reasoning Protocol)は、 ユーザーが話している最中やAI自身が「はい、 承知いたしました」 と相槌を打っている間も、サーバー側でバックグラウンドの推論と外部ツールの呼び出しを止めない仕組みである。Google DeepMindの担当SVPである Koray Kavukcuoglu(コ レイ・カヴクチュオール) らは、人間同士のような自然な会話のテンポを維持しながら、裏で複雑な業務処理を完了させる構造を作り上げた。
音声対話において、速さと賢さはもはやトレードオフではない。相槌の裏で推論を走らせることで、人間同士のような自然な会話と業務処理の完了を同時に実現できる。
Koray Kavukcuoglu(G oogle DeepMind 担当SVP) /Google Blog
ベンチ世界1位の中身と、公称単価に隠れた通話料の罠
第三者機関による検証や公式発表の数値を見ると、モデル性能の高さが際立っている。音声対話の総合品質を示す「S peech to Speech Quality Index」 で82.6点、自律的な業務タスクの完了率を測る「τ -Voice」 で68.6% を獲得し、それぞれ世界1位を記録した。さらに、会話途中で97言語を自動識別して切り替える機能や、カメラ映像をリアルタイムで理解する機能も標準で備えている。
しかし、地方や中小企業の経営者が最初に見るべきはベンチマークの点数ではない。APIの従量課金メーター がどのタイミングで回っているかである。従来のモデルは「入 力された音声の長さ」 と「出 力された音声の長さ」 に対してトークン費用が発生していた。しかし、思考プロセスを走らせる「G emini 3.8 Live Extended Thinking」では、 AIが相槌を打っている数秒間の裏で、数百から数千の思考(T hinking) トークンが非同期に消費され続ける。
従来の会話型音声AI
裏で処理する間、数秒の無言が発生 発言した音声トークンのみ課金対象 単純なQ&Aや予約受付が得意
Gemini 3.8 Live
相槌を打ちつつ即座に応答開始 会話裏で「思 考トークン」 が消費継続 複雑なDB照会や計算処理を並行実行
公称されている「1 00万トークンあたり数ドル」 という表記だけを見て「こ れなら従来の音声モデルと大差ない」 と判断するのは極めて危険だ。1分間の通話において裏で思考プロセスがフル稼働した場合、実際の請求額は基本トークン代の2倍から3倍 に膨らむ構造になっている。AIの応答が自然であればあるほど通話時間が伸び、比例して「隠 れた思考コスト」 が積み重なる点を理解しなければならない。
turnCompleteが意味を失う、既存電話システム移植の壁
現場の開発や既存システムの移植において、もう一つの大きな壁となるのがプログラムの制御構造の変化だ。これまでの電話自動化システムや問い合わせ対応アプリは「ユ ーザーの発言完了を検知→AIが処理して回答を返す(turnComplete: true)→処理終了後に次の発言を待つ」 という厳密な交替制で設計されていた。
しかし、非同期推論の環境下では、会話のターン(発 言権) がユーザー側に戻った後も、サーバー側ではデータベースの書き込みや外部連携処理がバックグラウンドで動き続ける。つまり、プログラム上の turnComplete フラグが「す べての処理の終了」 を意味しなくなる。既存の音声自動応答システムからAPIだけを差し替える安易な移植を行えば、AIが裏で計算を行っている最中に顧客が電話を切ってしまったり、未完了の状態で誤った完了通知を送ったりする障害が発生する。既存の仕組みを使い回すのではなく、通信設計そのものを根本から見直す工数が必須となる。
地方の中小が電話一次対応で試すなら、どこで損益が分かれるか
では、地方の卸売業や工務店、士業事務所などの現場では、この新技術をどのように評価すべきか。判断の軸は「何 でも自動化すること」 ではなく、人件費の削減額と1通話あたりの実質単価の割り算 である。
例えば、社内の電話一次対応が1日30件、1件あたり平均3分かかっていると仮定する。月間(2 0営業日) では900分(1 5時間) の対応時間となる。時給1500円のスタッフが対応する場合、発生している人件費は月額2万2500円だ。もしGemini 3.8 Liveを導入し、裏で大量の思考トークンを消費した結果、1通話(3 分) あたりの実質利用料が50円かかったとすると、月のAPI費用は1500円となり、人件費との差額で確実に利益が出る。
一方で、「はい、 本日の営業は18時までです」 というような単純な定型案内であれば、思考トークンを回す必要は全くない。裏で複雑な在庫管理システムを参照したり、複数の条件を計算して折り返し連絡の手配を行ったりするような、「確 認作業に人手が奪われている電話業務」 に絞って適用することが、損益分岐点を超える唯一の道だ。
中小の一手
まず社内の電話対応から「確 認や計算のために一度電話を置いてシステムを調べる必要がある業務」 を10件抜き出す。1件あたりの平均対応時間が3分を超え、かつ月間50件以上発生している電話から順にGemini 3.8 Liveのテスト対象とし、10件中8件で人間と同等の案内ができ、かつ1通話の費用が想定人件費の半分以下に収まるかを検証する。
社外CTO・内製化代行で、この一手を形にする→
出典 / SOURCES
※本記事は公開情報をもとに AI が自動で編集・要約し、出典を明記しています。正確性は各出典をご確認ください。
30分で課題を整理する→