Agent 長時間任務的 Durable Execution 實作課:斷線、重啟、等人都不能重來

Agent 長時間任務的 Durable Execution 實作課:斷線、重啟、等人都不能重來

今日主題:Agent 長時間任務的 Durable Execution
2026-10-27 | 資料來源:Temporal、DBOS、Inngest、LangGraph、Durable Execution 平台對照

前言

一個寫程式的 Agent 跑一小時很正常:先讀需求、改二十個檔案、跑測試、開出合併請求,中間還可能停下來等人審查。問題是,一小時足夠發生很多事:部署上線把進程換掉、雲端把機器收回、記憶體爆掉、模型服務暫時出錯。對兩百毫秒的網頁請求來說,重跑一次沒什麼;對跑了一小時的 Agent 來說,從頭重跑不只是浪費錢,更可能重複做已經做過的事。

更麻煩的是,重跑的 Agent 不一定走同一條路。模型輸出本來就有隨機性,第一次訂了去惠斯勒的機票,第二次可能改訂去日本,第一次訂的票就得另外處理。長時間 Agent 真正需要的,是不怕中斷:斷在哪裡,就從哪裡繼續,已經做過的事絕不重做。

一、為什麼檢查點不等於 Durable Execution

很多人以為只要定期把狀態存起來,就解決了長時間執行的問題。這個直覺只對了一半。檢查點(checkpoint)回答的是「狀態長什麼樣子」,Durable Execution 回答的是「每一步到底有沒有真的做完」。

差別可以用一個例子說明。假設 Agent 已經寄出一封信,接著在寫入檢查點之前當掉。重啟之後,檢查點裡沒有寄信的紀錄,Agent 會再寄一次。反過來,如果先寫檢查點、再寄信,當掉之後重啟,檢查點說信已經寄了,但其實還沒寄,信就永遠不會寄出。檢查點與副作用之間永遠存在一個縫隙,縫隙裡的步驟要嘛重複、要嘛遺失。

Durable Execution 用事件日誌把縫隙封起來。每一步的結果在完成的那一刻就寫進日誌,恢復時先讀日誌,已經完成的步驟直接取用舊結果,不再重跑;還沒完成的步驟才真的執行。這個機制叫重播:工作流程程式碼本身不儲存狀態,狀態來自日誌,重跑時每一步對照日誌,就能回到中斷前的位置。檢查點是圖層的狀態快照,Durable Execution 是執行層的保證,兩者可以搭配,但不能互相取代。

二、核心機制:三條規則

如圖一,Durable Execution 建立在三條規則之上,缺一條就會在某個深夜出問題。

規則一:一切非確定性都要關進步驟裡

模型呼叫、工具執行、對外發出的 HTTP 請求,全部只能出現在步驟(step 或 activity)裡面。工作流程本身只能是確定性的編排邏輯:按順序走、分支判斷、等待、重試。原因很簡單:恢復時流程會重播,流程裡的任何隨機數、系統時間、直接對外呼叫,在第二次重播時都可能給出不同答案,讓重播對不上日誌。Temporal 的規則說得很直白:流程程式碼不能直接讀時鐘、不能直接產生隨機數,這些都要透過流程提供的確定性介面,或者放進步驟裡。

規則二:步驟結果只寫一次,恢復只讀不重跑

步驟完成後,結果立刻寫入日誌。恢復時,引擎看到日誌裡已有結果,就直接回傳,不再執行步驟。這就是為什麼「步驟外的模型呼叫」最貴:它沒有被日誌保護,當掉之後一定重買一次。實作時有一個自我檢查方法:列出 Agent 裡所有的模型呼叫與工具呼叫,逐一確認每一個都在步驟邊界之內,沒有漏網之魚。

規則三:副作用要有冪等鍵

日誌保證步驟不重跑,但它保證不了「步驟本身執行到一半當掉」的情況。工具可能已經寄出信、扣了款,進程卻在收到回應前死掉。這時候重試步驟是必要的,但重試必須是安全的。做法是每個副作用帶一個冪等鍵(idempotency key),通常由工作流程編號加上步驟編號組成。對端收到重複的鍵,就回傳第一次的結果,不再真的執行第二次。沒有冪等鍵的重試,只是把重複執行的問題從流程層搬到外部系統。

三、四個平台怎麼選

如圖二,市面上的 Durable Execution 平台各有取捨,選型時看部署型態與團隊現況,比看功能清單更準。

Temporal 是最成熟的一套。工作流程與活動的心智模型很清楚,事件歷史就是重播的依據,工作流程可以存活數年。代價是要營運一個叢集或購買雲端服務,適合已有平台團隊、預期要跑大量長時間工作流程的組織。

DBOS 走了另一條路:資料庫就是執行期。工作流程與步驟只是加上裝飾器的普通函式,狀態以交易的方式寫進 Postgres,步驟輸出與業務資料寫在同一個交易裡,恢復時自然一致。優點是除了現有資料庫之外不需要新基礎設施,缺點是與 Postgres 綁定,生態系也比 Temporal 小。團隊已經有 Postgres、又不想多營運一個叢集時,DBOS 的起手成本最低。

Inngest 是無伺服器原生的選擇。函式每到一個步驟就重新被喚起,已經完成的步驟結果由平台注入,不需要自己管理進程。TypeScript 優先,在 Vercel、Cloudflare Workers、AWS Lambda 上都很好放。代價是執行期依賴代管服務,長時間任務的計費與除錯模型要先習慣。

LangGraph 的定位不太一樣。它是圖層的狀態機,檢查點在每個超步驟後儲存圖狀態,支援暫停、恢復與人類介入。對大多數 Agent 來說已經夠用;但當任務長到超過一次部署週期,或需要跨進程、跨機器的保證時,常見做法是 LangGraph 負責圖層編排,Temporal、DBOS 或 Restate 負責執行層的耐久性,兩層分工而不是二選一。

四、最小可跑的 Durable 骨架

不需要一次導入整套平台。先用一個小原則重寫 Agent 迴路:每一步都是有編號的步驟,每個副作用都有冪等鍵,等待人類時把狀態存起來而不是佔著進程。


def run_long_task(task_id, steps):
    # 每一步都有穩定編號:恢復時靠編號對照日誌
    for step in steps:
        key = f"{task_id}:{step.name}"
        # 日誌裡已有結果就直接取用,不重跑
        if (cached := journal.read(key)) is not None:
            yield cached
            continue
        # 副作用帶冪等鍵:重試也不會重複生效
        result = step.run(idempotency_key=key)
        journal.write(key, result)  # 結果寫入後才往下一步
        yield result

這個骨架有三個檢查點:模型呼叫是不是都在步驟裡面;步驟結果是不是完成後立刻寫入,而不是等整個迴路跑完才一次寫入;等人審查時,流程是不是真的停下來、把狀態交給日誌,而不是開著進程空等。第三點最容易被忽略:一個要等審查者睡醒的暫停,絕對不能活在進程記憶體裡。

五、三個常見陷阱

第一個陷阱是步驟邊界畫錯。最常見的漏網之魚是流程主體裡順手寫的模型呼叫,例如「先請模型判斷要不要繼續」,這句話沒包進步驟,當掉就重買一次。畫邊界時要狠一點:凡是會花錢、會改變外部世界、會回傳不確定結果的呼叫,全部進步驟。

第二個陷阱是非確定性偷渡。流程程式碼裡出現系統時間、隨機數、字典迭代順序、直接讀取全域變數,都可能讓重播走偏。Temporal 的做法值得借鏡:流程只能用平台提供的確定性介面拿時間與隨機數,其他一律放進步驟。

第三個陷阱是重試策略與冪等鍵脫鉤。重試次數、退避間隔、超時時間都要寫清楚,否則卡住的外部服務會讓流程無限重試。但重試策略寫得再好,沒有冪等鍵的副作用還是不敢重試。先補冪等鍵,再談重試策略,順序不能反。

結論

長時間 Agent 的可靠性問題,歸根究柢是「進程一定會死」這個事實。部署、驅逐、記憶體不足、服務出錯,遲早會在某個步驟之間發生。Durable Execution 不是讓進程不死,而是讓進程死了也沒關係:事件日誌記住每一步的結果,確定性流程保證重播走回同一條路,冪等鍵保證重試不會重複生效。

起手時不用一次導入最重的平台。先把步驟邊界畫乾淨、把副作用加上冪等鍵、把等待變成儲存的狀態,團隊就能先拿到大部分好處。等任務真的長到跨部署、跨機器,再把執行層交給 Temporal、DBOS 或 Inngest 這類專門的引擎。Agent 跑得久不可怕,可怕的是跑到一半斷掉,還得從頭再來一次。

資料來源

- Temporal:動態 Agent 與 Durable Execution:https://temporal.io/blog/of-course-you-can-build-dynamic-ai-agents-with-temporal

- DBOS:從 Temporal 遷移到 DBOS 的對照:https://docs.dbos.dev/explanations/migrating-from-temporal

- Durable Execution 完整解析:檢查點、重試與人工審核:https://safeguard.sh/resources/blog/durable-execution-for-ai-agents-explained-checkpoints-retries-idempotent-tool-calls-and-human-approval

- LangGraph、DBOS、Inngest、Temporal 四平台對照:https://hackernoon.com/durable-execution-for-ai-agents-langgraph-dbos-inngest-and-temporal-compared

- 2026 年 Durable Agent 平台總覽:https://www.reactify-solutions.com/articles/durable-ai-agents-2026

Uploaded Image Uploaded Image

沒有留言:

張貼留言