Teknik Problem
Finans, sağlık, savunma ve hukuk gibi regülasyona tabi sektörlerde, hassas verilerin üçüncü taraf API'lere gönderilmesinin veri güvenliği ve KVKK/GDPR açısından yasal risk oluşturması.
HizmetlerIII — Süreç Otomasyonu, Otonom Etmenler ve İş Akışları
LLMKurulumu
Kapalı Devre (On-Premise / Private Cloud) LLM Kurulumu ve Veri Güvenliği Katmanları
Mimari Çözüm
Tüm yapay zeka modellerini ve vektör veri tabanlarını tamamen kurumun kendi fiziksel sunucularında (On-Premise) veya izole özel bulut (Private Cloud) ortamında kuruyoruz. Dış dünyayla bağlantısı kesilmiş (air-gapping) altyapılar tasarlıyoruz. Modelin veri getirme aşamasında, kullanıcının şirket içindeki yetki seviyesine göre doküman parçası sunan Satır Düzeyinde Güvenlik (Row-Level Security) ve Rol Tabanlı Erişim Denetimi (RBAC) katmanları inşa ediyoruz.
Operasyonel Çıktı
Modelin ve vektör veri tabanının kurum sınırının içinde çalıştığı, dışarıya çıkan trafiğin beyaz listeyle sınırlandığı ve bu sınırın ölçülerek gösterilebildiği bir kurulum. Yasal uyumun kendisi hukuk değerlendirmesi gerektirir; burada üretilen şey o değerlendirmenin dayanacağı teknik kanıttır.
Başlangıç Koşulları
Verinin kurum sınırının dışına çıkmaması gerekiyorsa bu hizmet devreye girer. Sizde olması gereken üç şey: modelin çalışacağı donanım ya da izole bulut kaynağı, bu kaynağa erişim yetkisi, ve hangi verinin gerçekten hassas olduğunu söyleyen bir sınıflandırma. Üçüncüsü en çok atlanan: her şeyi hassas saymak, kapalı devre kurulumu gereksiz yere pahalı ve yavaş hâle getirir.
Çalışma Biçimi
Önce sınıflandırma ve model seçimi birlikte yapılıyor: hangi işi hangi boyutta model kaldırıyor — kapalı devrede her modelin donanım karşılığı vardır. Kurulum önce izole bir bölütte ayağa kalkıyor, dış dünyaya çıkışı kapalı. Ölçüm ve kayıt ilk günden açık, çünkü sonradan eklenen kayıt geriye dönük soruları cevaplayamaz. Devir teslimde çalıştırma ve güncelleme yordamı yazılı olarak veriliyor.
Kapsam Dışı
Kapalı devre kurulum tek başına uyum belgesi değildir; ağ, erişim ve kayıt katmanı ayrı bir iştir ve On-Premise / Private Cloud hizmetinde anlatılıyor. Donanım tedarikini üstlenmiyoruz. Modelin kalitesini de kurulum belirlemez: dışarıdaki en büyük modelin cevabını bekleyip kapalı devrede daha küçük bir modelle çalışmak, farkı önceden konuşulması gereken bir karardır.