Stateful workflows
Adımlar çağrılar arasında kalıcıdır. Node yeniden başlatması uçuştaki siparişlerinizi kaybetmez.
HİZMET · 03
Durable Execution
Yeniden başlatmaları atlatan Sagas + retries. Her input için replay, her hata için debug.
Retry bütçeleri
Adım başına retry sayısı + exponential backoff. Tükendiğinde dead-letter queue.
Replay debug
Her adımda input yakalanır; bilinen kötü bir input ile replay hatayı tam olarak yeniden üretir.
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · PII redact
ORKESTRASYON
Orchestrator
planner · router · memory
AJANLAR & TOOLS
Retrieval
hibrit · rerank · cite
Tool calls
sandboxed · timeboxed
Evaluator
gates · rubrics · LLM-judge
VERİ & GÜVEN
Vector + BM25
tenant-isolated
Traces / logs
OTel · replayable
İmzalı çıktı
auditable · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/runFirst-notice-of-loss uygulamadan gelir. Ajan <4s içinde yönlendirmeli, rezerv koymalı ve belge istemeli.
trace · claimsspan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
FNOL: poliçe doğrula, foto vision, dolandırıcılık, şiddet & rezerv, payout kapıları.
Subtasks
retrieval.policytool.visiontool.fraud_checkreasoner.severityevaluator
0ms/2.33s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
YÖNLENDİRİLDİ · rezerv $4 800
Şiddet LOW. Rezerv kondu, kaporta ağı devreye alındı, sigortalıdan 2 belge istendi.
latency2.78scost$0.018tokens2,210evals7/7
09 · STACK
Modern tools, composed cleanly.
Runtime
Temporal, Inngest
Observability
OpenTelemetry, Langfuse
Deploy
Vercel, AWS, GCP
Orkestrasyon
Workflow, saga
09 · FAQ
FAQ · Durable Execution
Kick-off'tan üretim rollout'una sekiz ila on dört hafta. Discovery'yi bizimle yaparsanız dahildir; yapmazsanız mevcut spec'inizden çalışırız.
Evet. Durable execution her adımda input'ları yakalar. Bilinen bozuk bir input'a karşı replay, model seedable olduğunda nondeterministik LLM çağrıları dahil, hatayı birebir yeniden üretir.
BAŞLA
İlk sistemi yayına alın.
2 haftada sabit fiyatlı discovery. Mimari, çalışan bir spike ve build planıyla yola çıkarsınız.