Teknik Problem
Standart büyük dil modellerinin (LLM) şirket içi özel verilere erişememesi, zamanla güncelliğini yitirmesi ve soru sorulduğunda gerçeğe dayanmayan mantıksal hatalar (halüsinasyon) üretmesi.
HizmetlerI — Yapay Zekâ Mimarisi ve Model Mühendisliği
KurumsalRAGMimarisi
Vektör Veri Tabanı (Vector DB) Entegrasyonu
Mimari Çözüm
Şirketinizin veri depolama altyapısı (SQL, NoSQL, bulut depolama, yerel sunucular) ile LLM'ler arasında hibrit bir RAG (Retrieval-Augmented Generation) katmanı inşa ediyoruz. Dokümanların anlamsal parçalara ayrılması (chunking), vektör uzayında temsil edilmesi (embeddings) ve yüksek performanslı vektör veri tabanlarına (Qdrant, Milvus, Pgvector) indekslenmesi süreçlerini yönetiyoruz. Metin aramalarda hem semantik (yoğun) hem de anahtar kelime bazlı (seyrek) aramayı birleştiren hibrit arama ve yeniden sıralama (reranking) algoritmaları entegre ediyoruz.
Operasyonel Çıktı
Sorulan her sorunun cevabıyla birlikte hangi belgeye dayandığının da görüldüğü bir bilgi katmanı: kaynak gösterilemiyorsa sistem cevap üretmek yerine susuyor. İçerik güncellendiğinde cevaplar da güncelleniyor, çünkü bilgi modelin içinde değil kaynağın kendisinde duruyor.
Başlangıç Koşulları
Kurum içi bilgi aramayla bulunamıyorsa, aynı sorunun cevabı departmana göre değişiyorsa ya da bir modelin verdiği cevabın hangi belgeye dayandığı gösterilemiyorsa bu hizmet devreye girer. İki ön koşul sizde olmalı: erişilebilir bir doküman kaynağı ve kimin neyi görebileceğini söyleyen bir yetki tanımı. Yetki tanımı yoksa işe oradan başlıyoruz — kaynağı belirsiz bir cevap, cevapsızlıktan daha risklidir.
Çalışma Biçimi
Önce envanter çıkarıyoruz: hangi kaynak, hangi biçim, hangi yetki. Ardından sınırlı bir korpusla pilot kuruyoruz; tüm arşivi indekslemeden önce yöntemin sizin verinizde çalıştığını görmek gerekiyor. Ölçüm pilotla aynı anda kuruluyor, çünkü sonradan eklenen ölçüm neyin düzeldiğini söyleyemez: hangi soruya hangi belgeyle cevap verildiği kayıt altına alınıyor. Üretime geçiş kademeli — önce tek departman, sonra kaynak kaynak genişleme. Her adımda geri dönülebilir bir durak var.
Kapsam Dışı
Bu hizmet model eğitmez; kuruma özgü davranış gerekiyorsa Dil Modeli Eğitimi ayrı bir iştir. Veri temizliğinin tamamını da üstlenmez: bozuk taramaları ve eksik meta veriyi görünür kılarız, düzeltme kararı ve emeği sizde kalır. Erişim yetkisi olmayan hiçbir belgeyi indekslemeyiz — RAG katmanı mevcut yetkiyi taşır, genişletmez. Kaynak gösteremediği bir soruya cevap üretmesi de beklenmemeli; sistemin susması, uydurması yerine tercih edilen davranıştır.