Хибриден индекс
Dense embeddings + BM25, обединени с обучен reranker. Recall остава смислен, когато корпусът расте.
УСЛУГА · 02
RAG конвейери
Хибридно извличане с цитати и откриване на drift — отговори, които вашите одитори могат да четат.
Отговори със свързан източник
Всяко твърдение цитира своя източник. Faithfulness и grounding evals се изпълняват нощно.
Откриване на drift
Разпределение на embedding и retrieval hit-rate се мониторират. Alerts се задействат преди отговорите да се влошат.
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · PII redact
ОРКЕСТРАЦИЯ
Orchestrator
planner · router · memory
АГЕНТИ И TOOLS
Retrieval
хибриден · rerank · cite
Tool calls
sandboxed · timeboxed
Evaluator
gates · rubrics · LLM-judge
ДАННИ И ДОВЕРИЕ
Vector + BM25
tenant-isolated
Traces / logs
OTel · replayable
Подписан изход
auditable · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/run7-минутна ambient консултация → бележка готова за клиницист с цитати към източници.
trace · clinicalspan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
Scribe pipeline: ASR с medical lexicon, retrieve на patient context + template, draft по SOAP секции, evaluator gates за clinical-safety claims.
Subtasks
tool.asrretrieval.contextreasonerevaluator
0ms/3.07s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
ГОТОВА · преглед от клиницист
SOAP бележка е чернова. 14 цитата решени. 2 твърдения с ниска увереност са повдигнати за клинициста.
latency3.12scost$0.022tokens3,104evals9/9
09 · STACK
Modern tools, composed cleanly.
Модели
Claude, GPT-4, Llama 3
Извличане
pgvector, Qdrant, BM25
Eval
Promptfoo, Braintrust
Observability
OpenTelemetry, Langfuse
Векторен индекс
Embeddings · хибриден
Съхранение
Postgres, S3, R2
09 · FAQ
FAQ · RAG конвейери
Фиксирана цена, обхват от две седмици. Можем да споделим rate sheet при заявка — целта е да тръгнете с нещо конкретно (архитектура + spike), независимо дали продължавате с нас.
Faithfulness (следва ли отговорът от цитираните документи?), grounding (реални ли са цитатите?) и recall (намерихме ли правилните документи?). Всяко release изпълнява suite-а.
СТАРТ
Пуснете първата система.
Discovery на фиксирана цена за 2 седмици. Получавате архитектура, работещ spike и план за изграждане.