Technisches Problem
Standard-Sprachmodelle erreichen die unternehmenseigenen Daten nicht, veralten mit der Zeit und beantworten Fragen mit Schlüssen, die nicht auf Fakten beruhen (Halluzination).
LeistungenI — KI-Architektur und Model Engineering
Unternehmens-RAG-Architektur
Vektordatenbank-Integration (Vector DB)
Architektonische Lösung
Wir bauen eine hybride RAG-Schicht (Retrieval-Augmented Generation) zwischen Ihrer Speicherlandschaft — SQL, NoSQL, Cloud-Objektspeicher, lokale Server — und den Sprachmodellen. Wir verantworten die gesamte Strecke: Dokumente in semantische Abschnitte zerlegen (Chunking), sie als Embeddings abbilden und in leistungsfähige Vektordatenbanken (Qdrant, Milvus, Pgvector) indexieren. Für die Textsuche integrieren wir eine hybride Suche aus semantischer (dichter) und schlüsselwortbasierter (spärlicher) Übereinstimmung sowie Reranking.
Operatives Ergebnis
Eine Wissensschicht, in der zu jeder Antwort auch das Dokument sichtbar ist, auf dem sie beruht: Lässt sich keine Quelle zeigen, schweigt das System, statt eine Antwort zu erzeugen. Wird der Inhalt aktualisiert, ändern sich die Antworten mit, denn das Wissen liegt in der Quelle und nicht im Modell.
Ausgangsbedingungen
Diese Leistung greift, wenn internes Wissen sich nicht mehr finden lässt, wenn dieselbe Frage je nach Abteilung anders beantwortet wird oder wenn niemand zeigen kann, auf welches Dokument sich die Antwort eines Modells stützt. Zwei Voraussetzungen müssen bei Ihnen liegen: eine erreichbare Dokumentenquelle und eine Festlegung, wer was sehen darf. Fehlt diese Festlegung, beginnen wir dort — eine Antwort ohne belegbare Quelle ist riskanter als gar keine Antwort.
Arbeitsweise
Zuerst die Bestandsaufnahme: welche Quelle, welches Format, welche Berechtigung. Danach ein Pilot auf einem begrenzten Korpus, denn das Verfahren muss sich an Ihren Daten bewährt haben, bevor das gesamte Archiv indexiert wird. Die Messung entsteht gemeinsam mit dem Piloten und nicht danach — nachträglich eingeführte Messung kann nicht sagen, was besser geworden ist: Zu jeder Antwort wird festgehalten, aus welchem Dokument sie stammt. Der Produktivgang erfolgt schrittweise, erst eine Abteilung, dann Quelle für Quelle. Jeder Schritt hat einen Punkt, an den man zurückkehren kann.
Nicht im Leistungsumfang
Diese Leistung trainiert kein Modell; wird unternehmensspezifisches Verhalten gebraucht, ist die Sprachmodell-Schulung eine eigene Arbeit. Sie übernimmt auch nicht die gesamte Datenbereinigung: Wir machen fehlerhafte Scans und fehlende Metadaten sichtbar, Entscheidung und Aufwand der Korrektur bleiben bei Ihnen. Wir indexieren kein Dokument, für das keine Zugriffsberechtigung vorliegt — die RAG-Schicht trägt die bestehenden Rechte, sie erweitert sie nicht. Ebenso wenig sollte erwartet werden, dass eine Frage beantwortet wird, für die sich keine Quelle nennen lässt; dass das System schweigt, ist das gewollte Verhalten und nicht das Erfinden einer Antwort.