LeistungenIII — Prozessautomatisierung, autonome Agenten und Workflows

KI im eigenen Rechenzentrum (On-Premise-LLM)

Geschlossene (On-Premise / Private Cloud) LLM-Bereitstellung und Datensicherheitsschichten

Welches Problem löst das?

In regulierten Branchen wie Finanzen, Gesundheit, Verteidigung und Recht begründet das Senden sensibler Daten an Drittanbieter-APIs ein rechtliches Risiko hinsichtlich Datensicherheit und DSGVO/KVKK.

Wie bauen wir es?

Wir betreiben sämtliche KI-Modelle und Vektordatenbanken vollständig auf Ihren eigenen physischen Servern (On-Premise) oder in einer isolierten Private Cloud. Wir entwerfen Air-Gapped-Infrastrukturen ohne Verbindung zur Außenwelt. In der Abrufphase bauen wir Row-Level-Security und rollenbasierte Zugriffskontrolle auf, sodass dem Modell nur die Dokumentteile vorgelegt werden, für die der Nutzer berechtigt ist.

Was ändert sich?

Eine Installation, in der Modell und Vektordatenbank innerhalb der Unternehmensgrenze laufen, der ausgehende Verkehr auf eine Positivliste begrenzt ist und sich diese Grenze durch Messung belegen lässt. Die rechtliche Konformität selbst verlangt eine juristische Bewertung; hier entsteht der technische Nachweis, auf den sich eine solche Bewertung stützt.

Wann ist der richtige Zeitpunkt?

Diese Leistung greift, wenn Daten die Grenze des Unternehmens nicht verlassen dürfen. Drei Dinge müssen bei Ihnen vorliegen: Hardware oder eine isolierte Cloud-Ressource, auf der das Modell läuft, die Zugriffsrechte darauf, und eine Einstufung, welche Daten wirklich sensibel sind. Das Dritte wird am häufigsten übersprungen: Alles als sensibel zu behandeln macht eine geschlossene Installation unnötig teuer und langsam.

Wie arbeiten wir?

Einstufung und Modellauswahl entstehen zuerst gemeinsam: welche Aufgabe ein Modell welcher Größe trägt — im geschlossenen Betrieb hat jedes Modell einen Hardwarepreis. Die Installation läuft zunächst in einem isolierten Segment ohne Weg nach außen an. Messung und Protokollierung sind vom ersten Tag an aktiv, denn nachträglich eingeführte Protokolle beantworten keine Fragen zur Vergangenheit. Bei der Übergabe werden die Verfahren für Betrieb und Aktualisierung schriftlich übergeben.

Wann ist es nicht das Richtige?

Eine geschlossene Installation ist für sich genommen kein Konformitätsnachweis; Netz-, Zugriffs- und Protokollschicht sind eine eigene Arbeit und werden unter On-Premise / Private Cloud beschrieben. Die Hardwarebeschaffung übernehmen wir nicht. Die Installation bestimmt auch nicht die Modellqualität: Die Antwort des größten gehosteten Modells zu erwarten und zugleich ein kleineres im geschlossenen Betrieb zu fahren, ist eine Abwägung, die vorher besprochen gehört.