LeistungenI — KI-Architektur und Model Engineering
Allzweckmodelle scheitern am Fachjargon einzelner Branchen (Recht, Medizin, Finanzen, Fertigung und so weiter) oder an unternehmensspezifischer Geschäftslogik, und der produktive Betrieb allgemeiner Modelle verursacht hohe API- und Hardwarekosten.
Wir trainieren fortgeschrittene quelloffene Basismodelle (Llama, Mistral und andere) mit Ihren eigenen Daten und nutzen dafür parametereffiziente Feinabstimmung (PEFT) wie LoRA und QLoRA. Mit Modell-Distillation übertragen wir die Fähigkeiten großer Modelle auf kleinere, schnellere. Für höhere Hardwareeffizienz quantisieren wir Modelle (Komprimierung auf INT8/INT4) und konfigurieren sie auf dedizierten Inferenzservern (vLLM, TensorRT-LLM).
Ein angepasstes Modell, das die Sprache und die Geschäftslogik des Hauses trifft und ohne Abhängigkeit von einer externen API auf Ihrer Hardware läuft. Wie viel gewonnen wurde, zeigt der Vergleich vor und nach dem Training auf demselben Auswertungssatz — die Zahl liefert die Messung am Ende, nicht wir am Anfang.
Diese Leistung greift, wenn nicht Wissen fehlt, sondern Verhalten: wenn das Modell Ihre Fachsprache nicht kennt, dieselbe Frage jedes Mal anders beantwortet oder der Logik der Arbeit selbst nicht folgt. Zwei Dinge müssen bei Ihnen vorliegen: ein Satz echter Frage-Antwort-Beispiele aus dem laufenden Betrieb und die Zeit einer Person, die beurteilen kann, ob eine Antwort richtig ist. Fehlt beides, hat das Training nichts, woraus es lernen könnte.
Der erste Schritt ist, nicht zu trainieren: Liegt die Lücke beim Wissen, ist Retrieval günstiger und schneller — und das sagen wir. Fällt die Entscheidung fürs Training, wird der Beispielsatz geteilt, in Training und Auswertung, und die Auswertungshälfte fließt nie ins Training. Der Ausgangsstand wird vor dem Training gemessen; ohne Startpunkt lässt sich kein "besser" belegen. Dann Training mit LoRA/QLoRA, danach derselbe Vergleich. Produktivgang nur, wenn der Vergleich dafür spricht.
Training ist keine Wissensquelle: Ein Modell merkt sich neue Fakten nicht verlässlich, dafür ist die Unternehmens-RAG-Architektur da. Es behebt auch keine Fehler in Ihren Daten — ein mit falschen Beispielen trainiertes Modell lernt den Fehler. Mit Daten, an denen Sie keine Nutzungs- oder Weitergaberechte haben, trainieren wir nicht. Ist der Beispielsatz zu dünn, sagen wir es und halten an; Training auf unzureichenden Daten ist ein Aufwand, dessen Scheitern erst Monate später sichtbar wird.