Cloudflare 在 2026 年 11 月 5 日公布新一批 Workers AI 模型退場計畫,涵蓋 16 個 LLM 與 8 個語音、影像、視覺及 embedding 模型。官方最初寫明 11 月 15 日,之後把日期延到 11 月 20 日;目前文件說明,自該日起請求不會再取得模型回應,而會收到 HTTP 410 Gone 與錯誤碼 5028。

這不是 Workers AI 整體停止服務,也不是所有模型都要更換。影響只限公告清單內的 model ID,但同一個 ID 可能藏在 Worker binding、REST client、OpenAI-compatible endpoint、AI Gateway route、環境變數或後台設定。若只搜尋主要程式碼,很容易漏掉排程、測試工具與租戶自訂值。

先盤點 model ID,不要先挑替代品

建立一份實際使用清冊,來源至少包含 repository、環境變數、Cloudflare Dashboard、AI Gateway logs、部署設定、資料庫內的租戶設定與觀測平台。對每個 model ID 記錄用途、環境、呼叫量、輸入輸出型態、是否使用 tool calling、vision、LoRA、structured output 或長 context,以及失敗時會影響哪個業務流程。

公告中的 LLM 包含 DeepSeek R1 Distill Qwen 32B、Nemotron 3 120B、部分 DeepSeek V4、QwQ、Qwen3、Kimi K2.6/K2.7 Code、GLM 5.2/5.3 Flash、Llama 與 Gemma LoRA 變體。其他類型則包含 MeloTTS、數個 Stable Diffusion 模型、Whisper Tiny English、LLaVA 與 EmbeddingGemma 300M。不能用「我們沒有聊天機器人」判定不受影響,語音轉換、圖片生成、向量索引或批次分析也可能直接引用清單。

程式碼搜尋後,再用流量證據驗證。近 30 天沒有請求的 ID 不代表可以忽略,可能是月底報表、災難復原或低頻客戶功能。相反地,設定裡存在但從未被呼叫的舊 ID,也應移除,避免未來回復功能時才遇到 410。

官方推薦是起點,不是等價替換保證

Cloudflare 對 frontier LLM 建議 DeepSeek V4.1 Flash 1017 或 GLM 5.3,較小模型建議 Gemma 4 26B A4B IT 或 Qwen 3.8 27B;其他類型則逐項列出 Aura 2 English、Flux 2 Klein 9B、Nova 3、Moondream 3.1 與 EmbeddingGemma 2 等方向。不過推薦清單不代表輸出格式、語言品質、延遲、費用與安全行為完全相同。

先依能力做淘汰,而不是只看名稱。需要 function calling 的流程要驗證 tool schema、參數遵循與多輪狀態;影像模型要檢查尺寸、輸入格式與內容政策;語音模型要核對語言,因為 Aura 2 English 不能直接被假設為所有語系的等價替代;embedding 更換後,維度與語意空間可能改變,既有向量不能在沒有驗證時混用。

Cloudflare 文件也顯示部分建議模型需要 Workers Paid plan 或 prepaid AI Gateway credits,且不同計費方式有不同 rate limit。遷移評估要在 2026 年 11 月 8 日重新核對官方 model page 與 pricing,不沿用舊模型成本,也不把供應商 benchmark 當成自己的流量結果。

用雙跑資料決定,而不是直接換 ID

從真實流量抽取去識別化測試集,涵蓋常見請求、長輸入、繁體中文、工具呼叫失敗、敏感內容、空結果與尖峰併發。生成式流程要定義任務完成率、格式合法率、人工偏好、延遲與單次成本;分類或 embedding 流程則要用標註資料評估 precision、recall、排序品質與下游轉換,不只比較「有沒有回應」。

在 staging 同時呼叫舊模型與候選模型,先把新輸出送到影子紀錄,不影響使用者。確認資料保存與隱私政策允許後,才進行人工抽樣。涉及訂單、客服自動操作或內容發布的 agent,還要驗證工具權限與拒絕行為,避免模型替換後雖然文字更自然,卻更容易呼叫錯誤工具。

若應用以硬編碼 model ID 呼叫,可先改成由設定層或 AI Gateway alias 控制,但別把 alias 當作測試替代品。Alias 能減少重新部署,仍需要版本紀錄、變更審批與快速切回。每次切換應記錄舊 ID、新 ID、prompt 版本、參數與生效時間,讓品質或成本異常能追溯。

遷移、回滾與 410 演練

先選低風險流量做 canary,觀察錯誤率、429、timeout、輸出驗證失敗、token 或 neuron 用量及業務指標。逐步提高比例後,再處理低頻 batch 與租戶自訂功能。Embedding 若需要重建索引,建立新舊 index 雙讀或分批回填,不要直接覆寫唯一的 production index。

回滾不能只寫「切回舊模型」,因為 11 月 20 日後舊 ID 已不再提供回應。期限前可以暫時切回舊模型,期限後的回復目標應是另一個已驗證的候選、降級功能,或把高風險操作轉人工。對每個受影響路徑主動模擬 410 與錯誤碼 5028,確認 client 不會無限重試、queue 不會塞滿,使用者也不會只看到空白頁。

監控要把 model ID、版本、route、HTTP status、Cloudflare error code、延遲與用量放在同一筆事件中。410 是明確退場訊號,不應和短暫 5xx 共用 exponential retry;收到 5028 時應觸發設定告警與降級,而不是重送到同一個 ID。

11 月 20 日前的完成標準

如果只使用公告外模型,仍應保存一次清冊結果與查核日期,不必為了這次事件更換。若有受影響 ID,最晚在期限前完成 production 切換,並移除排程、測試與租戶設定中的舊值。Embedding、LoRA、語音與影像流程通常比純文字聊天更難直接替代,應優先處理,而不是等 LLM 改完才開始。

完成條件包括:所有 model ID 都有 owner、替代方案通過真實測試、費用與方案已核對、production 不再送到退場 ID、410 能正確降級,且期限後的回復方案不依賴已停止回應的模型。這樣才是模型遷移,而不是把一個字串換成另一個字串。