GPT-Live-1.1 API 升級:換模型 ID、開 standby,語音 agent 閒置時少付錢
本文目錄
做語音客服或語音助理時,一通電話裡常有一大段時間沒人講話:使用者在找訂單編號、翻文件,或者只是把 App 開著。GPT-Live 的語音 session 按秒計費,麥克風靜音、沒人講話的時間,只要推論還在跑,都算 active。
OpenAI 在 2026 年 11 月 19 日做了兩件事:開發者可以在 Live API 使用 gpt-live-1.1,同時替 GPT-Live-1 和 GPT-Live-1.1 的 WebRTC session 加上 standby。沒人講話時暫停推論,改用比較低的費率計時,有人開口再接著聊。OpenAI API 更新紀錄
gpt-live-1.1 改了什麼、價格有沒有變
依官方模型頁,GPT-Live-1.1 一樣是可以邊聽邊講的全雙工語音模型。和 GPT-Live-1 相比,官方提到的改進是語音轉文字更準,以及跨語言時口音和聲音更一致。ChatGPT App 裡的 Live 語音依方案使用 GPT-Live-1.1 或 GPT-Live-1.1 Quip,一般使用者那一端的變化可以看 ChatGPT 語音輸入和語音對話的差別。
升級前要知道的幾件事:
| 項目 | 內容 |
|---|---|
| 模型 ID | gpt-live-1.1 |
| 端點 | 只支援 /v1/live/sessions;/v1/realtime、Responses、Chat Completions 都不支援 |
| 語音時長價格 | active 每分鐘 0.02,按秒計費,和 GPT-Live-1 相同 |
| 後端費用 | 交給後端模型推理或呼叫工具的費用另外計算 |
| 併發上限 | GPT-Live-1.1 和 GPT-Live-1 各自計算,不共用 |
價格以 11 月 20 日查到的 OpenAI API 價目表為準。單價沒變,所以升級的重點在行為回歸,帳單差異主要會來自 standby。
升級:先換 model,用固定腳本回歸測試
官方更新紀錄寫的是在既有的 Live session 設定裡把模型換成 gpt-live-1.1。改動本身只有一行,比較花時間的是確認行為:
- 挑一批真實通話腳本。 包含唸訂單編號、Email、英文字母和數字混在一起的句子,以及中英夾雜的段落。這些正好是 1.1 宣稱改善的地方,也最容易出錯。
- 檢查交給後端的時機。 GPT-Live 會依
instructions的描述決定什麼時候把任務交給後端。換模型後,確認原本該查資料、該呼叫工具的句子還是會觸發,不該觸發的閒聊也沒有多打後端。 - 聽聲音一致性。 如果服務同時接中文和英文使用者,聽同一個 voice 在兩種語言下的口音有沒有突然跳掉。
GPT-Live-1.1 的併發上限和 GPT-Live-1 分開,灰度切換時兩個模型可以並行,各吃各的額度。
standby 怎麼設
standby 只適用 WebRTC session,在建立 session 時設定。下面是依官方 session 管理文件與 WebRTC 文件的 Node.js 範例改寫的伺服器端片段,沒有實際送出付費請求,欄位以官方文件為準:
// 伺服器端:用瀏覽器送來的 SDP offer 建立 GPT-Live WebRTC sessionconst result = await client.live.create({ session: { model: "gpt-live-1.1", instructions: "回答簡短。需要查最新資料時交給後端處理。", // 收到語音才開始推論 wake_policy: { type: "speech", vad_threshold: 0.5 }, // 連續 20 秒沒有輸入或輸出逐字稿,就回到 standby idle_timeout_s: 20, }, transport: { type: "webrtc", sdp: request.body.sdp },});每個欄位的規則:
wake_policy.type: "speech":建立後先等人講話才開始推論。idle_timeout_s:整數 5 到 60。這麼多秒內沒有輸入或輸出逐字稿,就回到 standby。沒設的話,第一次喚醒後就一直保持 active 到 session 結束,等於只省到開頭那段。wake_policy.vad_threshold:0 到 1,預設 0.5。數字越高,伺服器要越確定是人聲才會喚醒,背景吵的環境可以調高一點,再實際聽聽看會不會漏掉小聲的使用者。
接上之後有幾個行為要配合:
- standby 期間麥克風 track 要保持開著,伺服器才聽得到下一句話。connection 和 session ID 都不變,喚醒後會帶回原本的對話紀錄。
- 監聽
session.resumed(推論就緒,第一次喚醒也會發)和session.paused(進入 standby),在介面上顯示目前狀態。 - standby 之後的第一句短回應可能比較慢。如果使用者常常只講一兩個字(「好」「下一個」),測一下這段延遲能不能接受。
- 在 App 裡把麥克風靜音,session 還是 active,不會進 standby,照 active 計費。
算一筆帳:idle_timeout_s 設多少
下面是示意計算,不是實測。假設一通 10 分鐘的客服通話,真正在講話的時間共 4 分鐘,中間有 6 段各 1 分鐘的空檔:
| 設定 | active 時間 | standby 時間 | 語音費用 |
|---|---|---|---|
| 沒開 standby | 10 分鐘 | 0 | 10 × 0.50 |
standby,idle_timeout_s: 20 | 4 分鐘+6 × 20 秒 = 6 分鐘 | 4 分鐘 | 6 × 0.02 = $0.38 |
standby,idle_timeout_s: 5 | 4 分鐘+6 × 5 秒 = 4.5 分鐘 | 5.5 分鐘 | 4.5 × 0.02 = $0.335 |
每段空檔一開始的 idle_timeout_s 秒還是算 active,官方的費用文件也把「idle timeout 到期前的沉默」算在 active 時間裡。設得越短越省,但進 standby 越頻繁,喚醒後的第一句延遲就越常出現。可以先從 15 到 20 秒試,看實際通話紀錄裡的空檔長度再調。GPT-Live 費用說明
另外兩個容易漏算的地方:
- WebRTC session 建立時會先計 15 秒語音時長,session 開始跑之後會抵扣,不是多加 15 秒。頻繁斷線重連、或在使用者還沒準備好就先建 session,這 15 秒就會一直被收。
- 後端模型和工具費用另計。 如果交給後端的是 GPT-6.2 這類文字模型,token 費用的算法可以看 GPT-6.2 API 換版與快取費用。
空檔很長的話,直接關 session
standby 適合幾十秒到幾分鐘的停頓。如果使用者可能一走開就是半小時,官方建議的做法是關掉語音 session,回來時再開新的:
- 存下 session ID、對話內容和目前任務狀態,送出
session.close,等收到session.closed再釋放連線。 - 用「繼續對話」按鈕或按住說話,讓使用者回來時啟動新 session。關掉的 session 聽不到使用者講話。
- 原本的 session 若以
store: true建立、錄音也成功保存,可以 fork 接著聊;否則用存下來的文字紀錄開新 session。
已經在用 GPT-Live-1 的服務,可以先挑一小部分 WebRTC 流量換成 gpt-live-1.1、加上 idle_timeout_s,拿一週的 session.usage.updated 紀錄和舊流量比 active 秒數,再決定要不要全面切換。
參考資料: