Stateful workflows
Стъпките персистират между извикванията. Рестарт на нод не губи поръчките в полет.
УСЛУГА · 03
Durable Execution
Sagas + retries, които оцеляват при рестарт. Replay срещу всеки input, debug на всяка грешка.
Retry бюджети
Брой retries на стъпка + exponential backoff. Dead-letter queues при изчерпване.
Replay debug
Captura на inputs на всяка стъпка; replay срещу известно лош input възпроизвежда грешката точно.
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · PII redact
ОРКЕСТРАЦИЯ
Orchestrator
planner · router · memory
АГЕНТИ И TOOLS
Retrieval
хибриден · rerank · cite
Tool calls
sandboxed · timeboxed
Evaluator
gates · rubrics · LLM-judge
ДАННИ И ДОВЕРИЕ
Vector + BM25
tenant-isolated
Traces / logs
OTel · replayable
Подписан изход
auditable · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/runFirst-notice-of-loss пристига през app. Агентът трябва да маршрутизира, сложи резерв и поиска docs за <4s.
trace · claimsspan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
FNOL triage: валидирай активна полица, vision върху снимки, fraud sniff срещу история, severity & reserve, evaluator gates върху payout outputs.
Subtasks
retrieval.policytool.visiontool.fraud_checkreasoner.severityevaluator
0ms/2.33s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
МАРШРУТИРАНА · резерв $4 800
Тежест LOW. Резервът е сложен, body-shop мрежата е ангажирана, 2 docs са поискани от застрахования.
latency2.78scost$0.018tokens2,210evals7/7
09 · STACK
Modern tools, composed cleanly.
Runtime
Temporal, Inngest
Observability
OpenTelemetry, Langfuse
Deploy
Vercel, AWS, GCP
Оркестрация
Workflows, sagas
09 · FAQ
FAQ · Durable Execution
Осем до четиринайсет седмици от kick-off до production rollout. Discovery е включен, ако го правите с нас; иначе работим от вашата съществуваща спецификация.
Да. Durable execution улавя inputs на всяка стъпка. Replay срещу известно лош input възпроизвежда грешката точно, включително недетерминистични LLM повиквания, когато моделът е seedable.
СТАРТ
Пуснете първата система.
Discovery на фиксирана цена за 2 седмици. Получавате архитектура, работещ spike и план за изграждане.