1545 字
8 分鐘

Cloudflare AI Search 模型怎麼選?六個 Workers AI 新增模型與 context 整理

Cloudflare 在 2026 年 8 月把六個 Workers AI 文字生成模型加入 AI Search 的支援清單。這個更新的重點不是再教一次怎麼呼叫 Workers AI,而是讓既有 AI Search instance 可以在 Cloudflare Dashboard 或 API 選擇不同的生成模型,並依 context window、查詢類型和實際回歸結果做取捨。

先講結論:如果你使用 AI Search,先確認 instance 的生成模型設定和目前模型 ID,再用固定問題集比較答案、引用、延遲與用量。這六個 model ID 是 AI Search 可選的文字生成模型;它們不會自動取代 embedding 或 reranking 設定,也不等於所有文件都會被放進模型的 context window。

六個新增模型與 context window#

Cloudflare 官方支援清單列出的 model ID 和 context window 如下。實作時請保留完整的 @cf/... 字串,不要只記模型的顯示名稱:

Workers AI model IDcontext window
@cf/deepseek-ai/deepseek-v4-flash-07311,048,576
@cf/deepseek-ai/deepseek-v4-pro-08131,048,576
@cf/openai/gpt-oss-120b128,000
@cf/openai/gpt-oss-20b128,000
@cf/qwen/qwen3.8-27b262,144
@cf/moonshotai/kimi-k2.7-code262,144

這裡的 context window 是官方對模型能力的列值,不是你的 AI Search instance 一定會送出的 token 數。實際輸入仍會受到檢索結果、prompt、文件切塊、metadata 和產品設定影響;長 context 也不代表在你的資料集上一定有更好的答案。

AI Search 和直接呼叫 Workers AI 不同#

如果你之前看過 Cloudflare Workers AI 的 model ID,容易把兩種用法混在一起:

  • 直接呼叫 Workers AI:你的 Worker 直接對指定模型發 request,自己處理檢索、prompt、引用和錯誤。
  • AI Search:由 AI Search instance 管理搜尋應用需要的檢索流程,再使用設定好的文字生成模型產生回答;產品也提供可供 agent 使用的 MCP endpoint。

這篇更新針對第二種情境。把 AI Search 的生成模型改成新 ID,不會自動把現有 Worker 裡的 env.AI.run() 呼叫改掉;反過來,直接呼叫 Workers AI 也不會替你的 AI Search instance 更新模型設定。

若你要比較的是直接呼叫 Workers AI 的模型、context 和付費邊界,請另外看 Cloudflare Workers AI DeepSeek V4 的模型整理,不要把那篇的直接呼叫流程套到 AI Search instance。

怎麼在 Dashboard 或 API 選模型#

官方 changelog 說明,建立或更新 AI Search instance 時,可以在 Dashboard 或 API 選擇 Workers AI 模型。實務上可以照這個順序:

  1. 先記錄目前 instance、生成模型、embedding/reranking 設定和 production 問題集。
  2. 在 Dashboard 編輯 instance,或使用 AI Search REST API 的 instance create/update 操作,選擇完整 model ID。
  3. 只在測試 instance 先切換,跑固定的 FAQ、長文件、跨文件和「找不到答案」案例。
  4. 確認 API token 具備文件要求的 AI Search 權限;管理 instance 前尤其要檢查 AI Search:Edit,執行搜尋則檢查 AI Search:Run
  5. 通過回歸後再切換 production,並留下原模型和新模型的設定紀錄。

API 路徑使用 account 和 instance ID,例如:

PUT /accounts/{account_id}/ai-search/instances/{instance_id}

request body 的欄位會跟著 API 文件和產品版本演進,建議以官方 REST API schema 為準,不要把 Dashboard 顯示名稱猜成 API 欄位。若你的 token 還是沿用舊 AutoRAG API 的權限,也要先依官方 migration 文件改用 AI Search 的權限模型。

生成、embedding、reranking 要分開評估#

AI Search 的文字生成模型只負責回答階段,至少要把三層問題分開看:

層次要回答的問題切換生成模型會不會自動改變
Embedding查詢和文件能否被轉成適合檢索的向量不會
Retrieval/reranking正確的段落是否排在前面不會
Text generation模型能否根據檢索內容產生可接受回答會直接影響這一層

因此,若問題是「找不到正確段落」,不要只換更大的生成模型;先檢查資料切塊、metadata filter、embedding 和 reranking。若段落本來就找對了,才有意義比較不同生成模型的引用完整度、拒答行為、格式遵循和長回答穩定性。

選型不要只看 context 數字#

可以把六個模型先按 context window 分組,再用實際資料決定:

  • 長文件、多段規格或需要跨文件整理時,把 deepseek-v4-flash-0731deepseek-v4-pro-0813 列入長 context 測試組。
  • 一般知識庫問答,可以把四個 128K/262K 模型放進同一組,以相同檢索結果和 prompt 做 A/B test。
  • 程式碼或技術文件查詢可以把 kimi-k2.7-code 放入評估清單,但不要只因 model ID 帶有 code 就預先宣稱品質一定較好。

每次比較都固定:問題、top-k、prompt、文件版本、引用格式和 timeout。至少記錄:

  1. 是否引用了真正支援答案的段落。
  2. 找不到資料時是否明確拒答,而不是自行補完。
  3. 首 token 和完整回答延遲。
  4. token/request 用量與帳單影響。
  5. JSON、Markdown 或你自己的輸出 schema 是否穩定。

Cloudflare 已把這些模型放在 Workers AI 供 AI Search 使用,因此不需要另外配置第三方 provider key;但帳號權限、AI Search plan、instance 設定和實際用量仍要按自己的環境確認。

常見問題#

Q: 新增模型後需要把文件重新 ingestion 嗎?#

A: 單純切換文字生成模型,並不等於修改文件內容或 embedding。是否需要重新 ingestion,要看你是否同時改了資料來源、切塊、embedding 或其他索引設定;不要把生成模型切換和索引重建綁成同一個無條件步驟。

Q: context window 越大,就一定要選它嗎?#

A: 不一定。context window 是上限,不是答案品質、延遲或成本的保證。先用真實查詢比較引用、拒答、延遲和用量,再決定是否值得使用較大的 context。

Q: 這些 model ID 可以直接放進 Workers AI 的任何程式嗎?#

A: model ID 是否可用,要看該產品的支援清單和帳號環境。本文列的是 AI Search 支援的六個新增文字生成模型;若要在 Worker 直接呼叫,請另外查 Workers AI 的模型文件,不要把 AI Search instance 設定當成直接 API 呼叫範例。

參考資料:

Cloudflare Changelog:New Workers AI text generation models in AI Search

AI Search supported models

Cloudflare AI Search 官方文件

AI Search REST API:Instances

Cloudflare AI Search 模型怎麼選?六個 Workers AI 新增模型與 context 整理
https://laplusda.com/posts/cloudflare-ai-search-workers-ai-models/
作者
Zero
發佈於
2026-08-27
許可協議
CC BY-NC-SA 4.0
這篇文章有幫助嗎?

回報錯字、失效連結,或告訴我你想看的延伸主題。