Stateful workflows
Τα βήματα επιβιώνουν μεταξύ κλήσεων. Restart κόμβου δεν χάνει τις παραγγελίες σας εν πτήσει.
ΥΠΗΡΕΣΙΑ · 03
Durable Execution
Sagas + retries που αντέχουν στα restarts. Replay σε οποιοδήποτε input, debug σε οποιαδήποτε αποτυχία.
Budgets retry
Μετρητές retry ανά βήμα + exponential backoff. Dead-letter queues στην εξάντληση.
Replay debug
Καταγραφή inputs σε κάθε βήμα· replay σε known-bad input αναπαράγει την αποτυχία πιστά.
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · PII redact
ΕΝΟΡΧΗΣΤΡΩΣΗ
Orchestrator
planner · router · memory
AGENTS & TOOLS
Retrieval
υβριδικό · rerank · cite
Tool calls
sandboxed · timeboxed
Evaluator
gates · rubrics · LLM-judge
ΔΕΔΟΜΕΝΑ & ΕΜΠΙΣΤΟΣΥΝΗ
Vector + BM25
tenant-isolated
Traces / logs
OTel · replayable
Υπογεγραμμένο output
auditable · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/runΤο first-notice-of-loss έρχεται από app. Ο agent πρέπει να δρομολογήσει, θέσει reserve και ζητήσει docs σε <4s.
trace · claimsspan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
FNOL triage: επικύρωση πολιτικής, vision φωτογραφιών, fraud, severity & reserve, payout gates.
Subtasks
retrieval.policytool.visiontool.fraud_checkreasoner.severityevaluator
0ms/2.33s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
ΔΡΟΜΟΛΟΓΗΘΗΚΕ · reserve $4 800
Severity LOW. Reserve τέθηκε, body-shop ενεργοποιήθηκε, 2 docs ζητήθηκαν από ασφαλισμένο.
latency2.78scost$0.018tokens2,210evals7/7
09 · STACK
Modern tools, composed cleanly.
Runtime
Temporal, Inngest
Observability
OpenTelemetry, Langfuse
Deploy
Vercel, AWS, GCP
Ενορχήστρωση
Workflows, sagas
09 · FAQ
FAQ · Durable Execution
Οκτώ έως δεκατέσσερις εβδομάδες από το kick-off μέχρι το rollout στην παραγωγή. Το discovery περιλαμβάνεται αν το κάνουμε μαζί· αλλιώς δουλεύουμε από το υπάρχον spec σας.
Ναι. Η durable execution καταγράφει inputs σε κάθε βήμα. Replay σε γνωστό-κακό input αναπαράγει την αποτυχία ακριβώς, συμπεριλαμβανομένων μη-ντετερμινιστικών LLM κλήσεων όταν το μοντέλο είναι seedable.
ΕΚΚΙΝΗΣΗ
Βγάλτε ζωντανό το πρώτο σύστημα.
Discovery σταθερής τιμής σε 2 εβδομάδες. Φεύγετε με αρχιτεκτονική, λειτουργικό spike και σχέδιο υλοποίησης.