GPT-Live-1 API、音声の時間と推論の費用を分けて考える

聞きながら話す窓口と、処理を担うモデル

GPT-Live-1は全二重の音声対話を扱う。相手の発話が終わるまで録音し、その後に回答を読み上げる一方向ずつの構成とは異なり、会話の途中にも入力を受け取れる。難しい判断や業務処理は、背後に接続したモデルへ委任する。OpenAIのモデルを組み合わせるほか、開発者側で別の提供元のモデルを接続する構成も可能だ。

この分業は、窓口の応答速度と業務の推論能力を個別に調整できる点に意味がある。予約の空き状況を尋ねる短いやり取りと、例外規定の多い契約変更では、必要な処理が違う。ただし、構成を分ければ自動的に安く、正確になるわけではない。会話と処理の間で渡す情報や、結果が返るまでの利用者への説明も設計の対象になる。

公式発表は、電話回線での運用への対応と12種類の追加音声も紹介した。電話の入り口として使えることと、日本語の固有名詞や聞き取りにくい環境で十分な精度を出せることは別の確認事項である。

1分0.05ドルに含まれる時間

音声層の料金は1分当たり0.05ドル。秒単位で計算され、利用時間を丸ごと1分に切り上げる方式ではない。一方、推論モデルやツールの費用は別にかかる。請求を見積もる際は、音声層だけの価格をサービス全体の原価として扱わないことが必要だ。

料金ガイドが明示するのは、セッションが開いている時間全体が課金対象になる点である。話していない時間、利用者が考える時間、背後の処理を待つ時間も含む。マイクのミュートはセッション終了を意味しない。

例えば音声接続を10分間維持した場合、音声部分だけの単純計算は0.50ドルになる。そこに処理モデルや外部機能の費用が加わる。これは料金体系を説明する計算例であり、一般的な問い合わせの平均費用を示す数字ではない。長い待機を挟む業務では、接続の維持と終了の判断が費用に直接影響する。

単価の低い推論モデルでも、再質問や失敗が増えて会話が長引けば、総費用は上がりうる。逆に、能力の高いモデルが一度で解決すれば、音声接続を短縮できる。比較対象はモデルの値札だけでなく、用件が一件完了するまでの合計額になる。

評価の改善と、導入先での効果を分ける

OpenAIはFull Duplex Benchにおける改善や、GPT-6 Astraを組み合わせたTau3の結果を公表している。これらは同社が示す評価条件での結果であり、日本のコールセンター全般の成果を保証するものではない。

導入企業の説明にも同じ区別が必要だ。公式発表に掲載されたSpeakの初期評価では、学習者が考えている間の不要な割り込みが従来構成より約80％減ったという。EliseAIは、従来の連結型構成に比べコードを大幅に簡素化し、約2万3000行を削減したと説明した。前者は対話体験、後者はその企業の実装負担に関する報告で、同じ指標を測ってはいない。

導入時には、自社の評価用会話を用意し、聞き返し回数、完了率、転送率、処理時間、完了一件当たり費用を同じ条件で比較したい。人が長く考える相談では、短い応答だけを高評価にすると、利用者を急かす設計になりかねない。自然な間合いを残しながら、システム側の無駄な待ち時間を減らすことが課題になる。

「取り消して」が届く範囲を決める

APIガイドでは、権限、利用者への確認、実際の処理、作業状態の保存はアプリケーション側が担う。音声の発話を止めても、すでに裏で開始した業務処理が自動で停止するわけではない。

ここから先は実装上の考察になる。予約確定前に内容を読み返す、確定済みなら取消手続きへ切り替える、応答が途切れても同じ処理を二重実行しない、といった状態管理が重要だ。長い処理を一旦切り離す場合も、再接続先や本人確認を含めて、会話の続きが業務の続きと一致する必要がある。

日本語の受付では、姓名、地名、日時、数字の復唱を別に試す意義が大きい。音声の自然さで違和感が減るほど、利用者は処理も確実に進んだと受け取りやすい。完了・保留・人への引き継ぎを明示する窓口が、実務上の信頼を支える。

本稿はイノベトピアの報道を起点に、OpenAIの発表、モデル仕様、Live APIガイド、遅延と費用の公式ガイドを確認して構成した。料金や提供条件は変更される場合がある。

音声AIを業務へ組み込む際の検討・相談先として、当メディアの運営会社RO合同会社の会社情報も参照できる。