Technisches Problem
In regulierten Branchen wie Finanzen, Gesundheit, Verteidigung und Recht begründet das Senden sensibler Daten an Drittanbieter-APIs ein rechtliches Risiko hinsichtlich Datensicherheit und DSGVO/KVKK.
LeistungenIII — Prozessautomatisierung, autonome Agenten und Workflows
LLM-Bereitstellung
Geschlossene (On-Premise / Private Cloud) LLM-Bereitstellung und Datensicherheitsschichten
Architektonische Lösung
Wir betreiben sämtliche KI-Modelle und Vektordatenbanken vollständig auf Ihren eigenen physischen Servern (On-Premise) oder in einer isolierten Private Cloud. Wir entwerfen Air-Gapped-Infrastrukturen ohne Verbindung zur Außenwelt. In der Abrufphase bauen wir Row-Level-Security und rollenbasierte Zugriffskontrolle auf, sodass dem Modell nur die Dokumentteile vorgelegt werden, für die der Nutzer berechtigt ist.
Operatives Ergebnis
Eine Installation, in der Modell und Vektordatenbank innerhalb der Unternehmensgrenze laufen, der ausgehende Verkehr auf eine Positivliste begrenzt ist und sich diese Grenze durch Messung belegen lässt. Die rechtliche Konformität selbst verlangt eine juristische Bewertung; hier entsteht der technische Nachweis, auf den sich eine solche Bewertung stützt.
Ausgangsbedingungen
Diese Leistung greift, wenn Daten die Grenze des Unternehmens nicht verlassen dürfen. Drei Dinge müssen bei Ihnen vorliegen: Hardware oder eine isolierte Cloud-Ressource, auf der das Modell läuft, die Zugriffsrechte darauf, und eine Einstufung, welche Daten wirklich sensibel sind. Das Dritte wird am häufigsten übersprungen: Alles als sensibel zu behandeln macht eine geschlossene Installation unnötig teuer und langsam.
Arbeitsweise
Einstufung und Modellauswahl entstehen zuerst gemeinsam: welche Aufgabe ein Modell welcher Größe trägt — im geschlossenen Betrieb hat jedes Modell einen Hardwarepreis. Die Installation läuft zunächst in einem isolierten Segment ohne Weg nach außen an. Messung und Protokollierung sind vom ersten Tag an aktiv, denn nachträglich eingeführte Protokolle beantworten keine Fragen zur Vergangenheit. Bei der Übergabe werden die Verfahren für Betrieb und Aktualisierung schriftlich übergeben.
Nicht im Leistungsumfang
Eine geschlossene Installation ist für sich genommen kein Konformitätsnachweis; Netz-, Zugriffs- und Protokollschicht sind eine eigene Arbeit und werden unter On-Premise / Private Cloud beschrieben. Die Hardwarebeschaffung übernehmen wir nicht. Die Installation bestimmt auch nicht die Modellqualität: Die Antwort des größten gehosteten Modells zu erwarten und zugleich ein kleineres im geschlossenen Betrieb zu fahren, ist eine Abwägung, die vorher besprochen gehört.