Hibrit indeks
Yoğun embeddings + BM25, öğrenilmiş bir reranker ile birleştirilir. Korpus büyüdükçe recall makul kalır.
HİZMET · 02
RAG pipeline'ları
Atıflı ve drift tespitli hibrit retrieval — denetçilerinizin okuyabileceği yanıtlar.
Kaynak bağlantılı yanıtlar
Her iddia kaynak pasajını atıfla gösterir. Faithfulness + grounding eval-leri gece çalışır.
Drift tespiti
Embedding dağılımı ve retrieval hit-rate izlenir. Yanıtlar bozulmadan önce alarmlar tetiklenir.
02 · Reference architecture
What we actually ship.
Every system we build follows this shape. Client at the edge, tools in a sandbox, traces everywhere, evaluators gating output. No black boxes, no "it works on my machine."
EDGE
Client
web · mobile · API
Gateway
auth · rate-limit · PII redact
ORKESTRASYON
Orchestrator
planner · router · memory
AJANLAR & TOOLS
Retrieval
hibrit · rerank · cite
Tool calls
sandboxed · timeboxed
Evaluator
gates · rubrics · LLM-judge
VERİ & GÜVEN
Vector + BM25
tenant-isolated
Traces / logs
OTel · replayable
İmzalı çıktı
auditable · rollback
04 · Run
Watch an agent do the job.
Three real production scenarios, replayed at observed latency. Every box is a span; every span has tokens, cost, and an eval gate. This is what shows up in your traces, not a marketing animation.
POST/api/v1/agent/run7 dakikalık ambient muayene → kaynaklı klinisyen hazır not.
trace · clinicalspan_id 7c1f…
orchestrator.run
PLANorchestrator.plan
Plan rationale
Scribe: tıbbi ASR, hasta bağlamı + şablon, SOAP taslağı, güvenlik kapıları.
Subtasks
tool.asrretrieval.contextreasonerevaluator
0ms/3.07s
LATENCY0msbudget 3.00s
TOKENS0in + out
COST$0.0000budget $0.025
EVAL GATE—deterministic + LLM-judge
HAZIR · klinisyen incelemesi
SOAP taslağı. 14 alıntı. 2 düşük güven iddiası klinisyen için işaretlendi.
latency3.12scost$0.022tokens3,104evals9/9
09 · STACK
Modern tools, composed cleanly.
Modeller
Claude, GPT-4, Llama 3
Retrieval
pgvector, Qdrant, BM25
Eval
Promptfoo, Braintrust
Observability
OpenTelemetry, Langfuse
Vektör indeksi
Embeddings · hibrit
Depolama
Postgres, S3, R2
09 · FAQ
FAQ · RAG pipeline'ları
Sabit fiyat, iki haftaya scoped. Talep üzerine rate sheet paylaşırız — amaç, devam etseniz de etmeseniz de somut bir şeyle (mimari + spike) ayrılmanız.
Faithfulness (cevap atıf yapılan dokümanlardan çıkıyor mu?), grounding (atıflar gerçek mi?) ve recall (doğru dokümanları bulduk mu?). Her release suite'i çalıştırır.
BAŞLA
İlk sistemi yayına alın.
2 haftada sabit fiyatlı discovery. Mimari, çalışan bir spike ve build planıyla yola çıkarsınız.