Vercel 在 2026 年 11 月 9 日宣布,Workflow SDK 從 [email protected] 起,會在 Vercel Workflows 上預設以 WebSocket 傳送 event writes 與 stream writes,取代每次寫入或每組 stream 寫入各發一個 HTTP request。既有 v5 串流程式不必改 API;升級並部署後,新啟動的 runs 會使用新版,已在執行中的 runs 則留在原本開始時的 deployment 完成。

這項更新對 AI agent 的 token stream、步驟很多的長流程與頻繁寫入事件特別重要,但不能只看官方的倍數就直接推算自己的延遲或費用。WebSocket 是 v5.2 的其中一項 runtime 改進;若專案仍在 v4,升級同時跨越 major version,還包含 replay、序列化、錯誤與 runtime 行為變化,必須按遷移專案處理。

官方數據代表什麼,也不代表什麼

官方 performance 文件以同一個 Vercel production region iad1、同一個 managed World,同時比較 v5.2.0 與 v4.8.12。串流 benchmark 重播 52.4 秒、2,593 chunks 的 AI agent 輸出,共跑 10 次;v4.8.12 的完整傳送中位時間為 226.1 秒,v5.2.0 為 53.5 秒,也就是公告所說約 4.2 倍。p75 chunk trip time 從 172 ms 降至 102 ms;超過一秒的 chunk delay,在 v5.2.0 是 0/10 runs,v4.8.12 是 6/10。

這是公開且方法清楚的第一手測試,但官方也明確限制解讀:測試只在一個 region、一個 World 與指定 workload 執行,其他地區、World、chunk 大小與網路條件會不同。因此文章或採購評估可以引用它說明變更方向,不應把 4.2 倍寫成所有應用的保證。自己的驗收仍要量 time to first chunk、完整串流時間、p95 chunk delay、斷線與重試,以及使用者真正看到的 UI 更新頻率。

WebSocket 也不只改善 token stream。每個 step start 與 completion 都會形成 event write,改用持續連線後可減少很多 HTTP requests。官方 v5 文件還說明 batching、inline execution、壓縮與 retained VM 等改進會一起影響長流程;所以觀察到的總效能差異,不能全部歸因於 WebSocket,更不能只用 request 數直接換算固定成本。

先判斷是小升級還是 major migration

已在 v5.0 或 v5.1 的專案,可先把 workflow 與所有 @workflow/* 套件鎖到相容的 5.2 以上版本,重新安裝、typecheck、build、test,再執行一條端到端 workflow。若是 v4,不要只執行 npm install workflow@latest 就上 production。官方 v5 指南要求一起更新所有 Workflow dependencies,套用機械式改寫,並把需要判斷的 behavior changes 列出,不要靜默改掉。

盤點至少包含:每個 workflow 與 step 的入口、hook、wait、stream、錯誤處理、重試與 idempotency;是否把大型或持續成長的 state 傳入 steps;是否使用自架或第三方 World;以及 deployment、region、function duration 與觀測方式。把現有 lockfile、環境變數與一筆可重播的測試輸入留存,才能區分版本變更與測試資料差異。

若流程會產生外部副作用,例如扣款、寄信、建立訂單或寫入第三方 CRM,驗收重點不是「跑完」,而是重試與重新派送時仍只執行一次業務動作。WebSocket 降低傳輸 overhead,不會替應用層自動解決冪等鍵、交易邊界或補償流程。

建立可比較的 staging 驗收

先選三種代表性流程:短而頻繁的五步流程、含人工 hook 或長時間 wait 的流程、以及會持續輸出 AI tokens 的串流流程。在相同 region、相同輸入與相近時間各跑多次,記錄開始到第一步、step-to-step、hook resume、第一個 chunk、完整 stream、錯誤率與重試次數。不要只保留平均值;至少看中位數與高百分位,並把冷啟動與外部模型回應時間分開。

串流 UI 要模擬慢速客戶端、頁面中途關閉與重新連線。確認 writer lock 正常釋放、讀取端不會重複 append、網路切換後可恢復,而且取消操作不會留下持續消耗資源的 run。官方說 queue handler 每次 delivery 都會開啟 connection;企業代理、防火牆或特殊 egress policy 若限制 WebSocket,也要在真實網路路徑測試,不能只在開發者家中完成驗收。

部署時先小比例或先從非關鍵 workflow 開始。因為 in-flight runs 會在原 deployment 完成,新舊版本可能暫時並存;Dashboard、log 與告警要能依 deployment 或 SDK version 分組。發布窗口內不要立刻移除舊版所需設定,也不要用重新部署強迫長流程切換版本。

成本、效能與供應商選擇

如果主要問題是 AI 串流落後,v5.2 值得優先測試,因為官方 benchmark 直接覆蓋 token stream。若問題是外部模型本身慢、前端緩衝過大或 CDN 沒有即時 flush,升級 SDK 可能只改善其中一段。用 trace 或自訂 timestamp 把「模型產生」、「writer 寫入」、「reader 收到」與「瀏覽器繪製」拆開,才知道瓶頸是否真的在 workflow transport。

若團隊只需要簡單 cron 或單次 background job,平台原生排程、queue consumer 或資料庫 job 可能比 durable workflow 更容易維護。需要長時間等待、人工核准、可重播狀態、並行 fan-out 與 durable stream 時,Workflow SDK 才能發揮價值。需要跨雲可攜性或完全掌握 backend 時,可評估 self-hosted 或第三方 World,但效能與成本不能沿用 Vercel managed World 的數據。

正式升級的完成條件應包含:所有 workflow dependencies 已一致、lockfile 已提交、v4 behavior changes 已逐項確認、端到端與失敗路徑通過、串流在真實網路測過、新舊 deployment 可辨識、外部副作用具有 idempotency,以及回退時不破壞進行中 runs。WebSocket 改善的是傳輸方式;把 major version、長流程生命週期與業務副作用一起納入,才是安全取得效能收益的做法。