Contratti tipizzati
Ogni tool, ogni input, ogni output ha uno schema Zod/JSON. La runtime lo impone; il LLM non può deviare.
SERVIZIO · 01
Agenti & Skills
Strumenti multi-step con evals, traces e guardrails — eseguono nel vostro stack, non in una sandbox.
Eval gate
Ogni release passa per evals deterministici e LLM-judge prima del promote. Le regressioni bloccano il deploy.
Traces + piano di rollback
Span OpenTelemetry ovunque; il rollback è un cambio di route di una riga dietro a un feature flag.
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · redact PII
ORCHESTRAZIONE
Orchestrator
planner · router · memory
AGENTI & TOOL
Retrieval
ibrido · rerank · cite
Tool call
sandboxed · timeboxed
Evaluator
gate · rubriche · LLM-judge
DATI & FIDUCIA
Vector + BM25
isolato per tenant
Traces / log
OTel · replayabili
Output firmato
auditabile · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/runIl desk invia un block trade da €4,2M. L’agente deve rifiutare, approvare o flaggare in <3s.
trace · compliancespan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
La revisione pretrade richiede: regole applicabili, market data, position-check e gate deterministico.
Subtasks
retrievaltool.market_datatool.position_checkevaluator
0ms/1.82s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
APPROVATO · 1 flag
Il trade passa 11 di 12 regole. Regola 23.2 (concentrazione book) flaggata per firma desk-head.
latency2.41scost$0.014tokens1,827evals12/12
09 · STACK
Modern tools, composed cleanly.
Modelli
Claude, GPT-4, Llama 3
Runtime
Temporal, Inngest
Eval
Promptfoo, Braintrust
Observability
OpenTelemetry, Langfuse
Auth
Clerk, Auth0
Deploy
Vercel, AWS, GCP
09 · FAQ
FAQ · Agenti IA & Skills
Ogni release passa per eval gate: check deterministici (schema, latenza, costo), copertura tool-call e spot check LLM-judge. Il deploy si ferma se uno di questi regredisce.
Budget per chiamata e per giorno. Tappiamo il contesto con retrieval-truncation, instradiamo verso modelli meno costosi dove gli evals lo permettono, e ricadiamo su path deterministici sotto pressione di costo.
Ogni path ha un fallback. Logica deterministica intercetta i casi comuni; il path agente sta sopra. Il rollback è un cambio di route di una riga dietro a un feature flag.
Due settimane di shadowing durante la rampa, runbook + eval suite consegnati nel vostro repo, sovrapposizione di on-call per il primo incident. Dopo è vostro.
INIZIA
Manda live il primo sistema.
Discovery a prezzo fisso in 2 settimane. Te ne vai con architettura, spike funzionante e piano di build.