Workflow stateful
Gli step persistono tra le chiamate. Un riavvio di nodo non perde gli ordini in volo.
SERVIZIO · 03
Durable Execution
Saga + retries che sopravvivono ai riavvii. Replay contro qualunque input, debug di qualunque failure.
Budget di retry
Contatori di retry per step + backoff esponenziale. Dead-letter queue all'esaurimento.
Replay debug
Cattura input a ogni step; replay contro un input bad-known riproduce il failure esattamente.
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · redact PII
ORCHESTRAZIONE
Orchestrator
planner · router · memory
AGENTI & TOOL
Retrieval
ibrido · rerank · cite
Tool call
sandboxed · timeboxed
Evaluator
gate · rubriche · LLM-judge
DATI & FIDUCIA
Vector + BM25
isolato per tenant
Traces / log
OTel · replayabili
Output firmato
auditabile · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/runArriva il first-notice-of-loss via app. L’agente deve instradare, impostare riserva e chiedere docs in <4s.
trace · claimsspan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
Triage FNOL: valida polizza, vision foto, frode, severità e riserva, gate payout.
Subtasks
retrieval.policytool.visiontool.fraud_checkreasoner.severityevaluator
0ms/2.33s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
INSTRADATO · riserva $4 800
Severità LOW. Riserva impostata, rete carrozzerie attiva, 2 docs richiesti all’assicurato.
latency2.78scost$0.018tokens2,210evals7/7
09 · STACK
Modern tools, composed cleanly.
Runtime
Temporal, Inngest
Observability
OpenTelemetry, Langfuse
Deploy
Vercel, AWS, GCP
Orchestrazione
Workflow, saga
09 · FAQ
FAQ · Durable Execution
Da otto a quattordici settimane dal kick-off al rollout in produzione. La discovery è inclusa se la fate con noi; altrimenti lavoriamo dalla vostra spec esistente.
Sì. La durable execution cattura gli input a ogni step. Il replay contro un input bad-known riproduce il failure esattamente, incluse le chiamate LLM non deterministiche quando il modello è seedable.
INIZIA
Manda live il primo sistema.
Discovery a prezzo fisso in 2 settimane. Te ne vai con architettura, spike funzionante e piano di build.