Stateful workflows
ステップが呼び出し間で持続。Node 再起動で進行中の注文を失いません。
サービス · 03
Durable Execution
再起動を生き残る sagas + retries。任意の入力に対して replay、任意の失敗を debug。
Retry 予算
ステップごとの retry 回数 + 指数バックオフ。枯渇時は dead-letter queue。
Replay debug
すべてのステップで入力を取得。Known-bad 入力での replay が失敗を厳密に再現。
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · PII redact
オーケストレーション
Orchestrator
planner · router · memory
エージェント & ツール
Retrieval
ハイブリッド · rerank · cite
Tool calls
sandboxed · timeboxed
Evaluator
gates · rubrics · LLM-judge
データ & 信頼
Vector + BM25
tenant-isolated
Traces / logs
OTel · replayable
署名された出力
auditable · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/runアプリから first-notice-of-loss。エージェントは <4s でルーティング・準備金設定・書類依頼。
trace · claimsspan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
FNOL: 契約確認、写真ビジョン、不正検知、重大度と準備金、支払いゲート。
Subtasks
retrieval.policytool.visiontool.fraud_checkreasoner.severityevaluator
0ms/2.33s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
ルーティング済 · 準備金 $4 800
重大度 LOW。準備金設定、ボディショップ網を起動、被保険者へ書類2件を依頼。
latency2.78scost$0.018tokens2,210evals7/7
09 · STACK
Modern tools, composed cleanly.
Runtime
Temporal, Inngest
Observability
OpenTelemetry, Langfuse
Deploy
Vercel, AWS, GCP
オーケストレーション
Workflows, sagas
09 · FAQ
FAQ · Durable Execution
キックオフから本番ロールアウトまで 8 〜 14 週間。Discovery を一緒に行う場合は含まれます。そうでなければ既存の spec から作業します。
はい。Durable execution が各ステップで入力をキャプチャ。Known-bad 入力に対する replay は、モデルが seedable な場合の非決定的 LLM 呼び出しも含めて failure を正確に再現します。