SERVICIU · 02

Pipeline-uri RAG

Retrieval hibrid cu citate și detectare de drift — răspunsuri pe care auditorii tăi pot să le citească.

Începe un proiectVezi o arhitectură de referință
WHAT YOU GET

Index hibrid

Dense embeddings + BM25, combinate cu un reranker învățat. Recall-ul rămâne sănătos când corpus-ul crește.

Răspunsuri legate de sursă

Fiecare afirmație citează pasajul-sursă. Evals de faithfulness și grounding rulează în fiecare noapte.

Detectare de drift

Distribuția embeddings și hit-rate-ul retrieval-ului sunt monitorizate. Alertele se declanșează înainte ca răspunsurile să se degradeze.

02 · Reference architecture

What we actually ship.

Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."

EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · PII redact
ORCHESTRARE
Orchestrator
planner · router · memory
Durable · exactly-once
AGENȚI & TOOLS
Retrieval
hibrid · rerank · cite
Tool calls
sandboxed · timeboxed
Evaluator
gates · rubrics · LLM-judge
DATE & ÎNCREDERE
Vector + BM25
tenant-isolated
Traces / logs
OTel · replayable
Output semnat
auditable · rollback
04 · Run

Watch an agent do the job.

Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.

POST/api/v1/agent/runConsult ambient de 7 minute → notă gata pentru clinician cu citări.
trace · clinicalspan_id 7c1f…
orchestrator.run0ms
PLANorchestrator.planorchestrator · 80ms · 178 tok · $0.0013
Plan rationale

Pipeline scribe: ASR medical, context pacient + template, ciornă SOAP, safety gates.

Subtasks
tool.asrretrieval.contextreasonerevaluator
0ms/3.07s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
GATA · review clinician
Ciornă SOAP. 14 citări. 2 afirmații cu confidență scăzută evidențiate.
latency3.12scost$0.022tokens3,104evals9/9
09 · STACK

Modern tools, composed cleanly.

Modele
Claude, GPT-4, Llama 3
Retrieval
pgvector, Qdrant, BM25
Eval
Promptfoo, Braintrust
Observability
OpenTelemetry, Langfuse
Index vectorial
Embeddings · hibrid
Stocare
Postgres, S3, R2
09 · FAQ

FAQ · Pipeline-uri RAG

Preț fix, scoped la două săptămâni. Putem împărtăși un rate sheet la cerere — scopul e să pleci cu ceva concret (arhitectură + spike) indiferent dacă mergi mai departe cu noi.

START

Pornește primul sistem.

Discovery la preț fix în 2 săptămâni. Pleci cu arhitectură, spike funcțional și plan de build.

Începe un proiectVezi modelele de engagement