Wie die KI an euer eigenes Firmenwissen kommt
In Teil 4 haben wir gesehen, wie eine Antwort entsteht. Häppchen für Häppchen, immer nur die Frage nach dem nächsten Stück. Und wir haben gesehen, warum kaum je ein „weiß ich nicht“ kommt, weil irgendein nächstes Häppchen immer das wahrscheinlichste ist.
Genau das wird zum Problem, sobald es um eure Sachen geht. Das Modell hat im Training das halbe Internet gelesen, aber euren Rahmenvertrag mit Lieferant Nummer drei hat es nie gesehen. Fragt man trotzdem, kommt keine Fehlermeldung. Es kommt eine Antwort, die klingt wie eine.
Der Zettel auf dem Tisch
Zurück zu unserem Kind. Es hat viel gelernt, es kann lesen, rechnen, erklären. Trotzdem weiß es nicht, wann bei euch der Müll rausmuss.
Man kann ihm das jetzt monatelang beibringen. Oder man legt ihm den Abfallkalender auf den Tisch und stellt die Frage danach.
Das Kind lernt dabei nichts dazu. Nach der Frage ist der Zettel wieder weg. Aber die Antwort ist richtig, und man kann nachschauen, woher sie kommt.
Nichts anderes passiert, wenn eine KI mit Firmenwissen arbeitet.
Was dabei wirklich abläuft
Die Frage geht nicht direkt ans Modell. Sie macht einen Umweg.
Erst wird in euren eigenen Dokumenten gesucht. Dann werden die passenden Stellen herausgezogen, meist einzelne Absätze, nicht ganze Handbücher. Diese Absätze werden zusammen mit der Frage an das Modell gegeben. Und erst dann antwortet es, auf Basis dessen, was da vor ihm liegt.
Im Fachjargon heißt dieses Vorgehen RAG. Das steht für ein englisches Wortungetüm, das man sich nicht merken muss. Gemeint ist: nachschlagen, dann antworten.
Interessant ist die Suche selbst. Sie funktioniert nicht wie die Suche in Word, die nach genau eurem Wort fahndet. Sie arbeitet mit der Landkarte der Bedeutungen aus Teil 2. Wer nach „Kündigungsfrist“ fragt, bekommt auch den Absatz, in dem „Vertragsende“ steht.
Warum das der ehrlichere Weg ist
Der eigentliche Gewinn steht nicht in der Antwort, sondern darunter. Weil das System weiß, aus welchem Dokument es die Absätze geholt hat, kann es die Quelle mitliefern. Handbuch, Seite 12.
Damit verschiebt sich etwas Grundlegendes. Aus „die KI behauptet“ wird „hier steht es, schau selbst“. Für alles, wo eine falsche Auskunft Geld oder Ärger kostet, ist das der Unterschied zwischen brauchbar und unbrauchbar.
Nebenbei bleiben die Dokumente da, wo sie sind. Sie werden nicht in ein Modell eingebacken und wandern nicht in ein Training ein. Was tatsächlich das Haus verlässt, ist die Frage samt den gefundenen Absätzen, und auch das nur, wenn das Modell außerhalb läuft. Steht es bei euch im Haus, verlässt gar nichts das Gebäude. Das ist eine Entscheidung, die man treffen kann, keine, die einem vorgegeben wird.
Und jetzt die Auflösung von Teil 1
Ganz am Anfang der Serie stand die Geschichte einer Kollegin, die den Copiloten nach dem aktuellen Stand einer internen Regelung gefragt hat. Zurück kam ein Mischmasch aus Aktuellem und längst Überholtem. Ich hatte versprochen, dass das später einen eigenen Teil bekommt.
Das war genau dieser Umweg, nur mit einem verwahrlosten Bestand. Im Datenbestand lag alles zu dem Thema, drei Jahre alt neben vorletzter Woche. Die Suche hat brav alles herausgezogen, was thematisch passte. Auf dem Tisch lagen also mehrere widersprüchliche Zettel gleichzeitig.
Und ein Modell, das nur schätzt, welches Häppchen als Nächstes kommt, merkt diesen Widerspruch nicht. Es sieht keine falschen Zettel, es sieht Text. Ein Kollege hätte an der Stelle gefragt, welche Fassung denn gilt.
Daraus folgt die unbequeme Wahrheit dieses Teils. Der Nutzen so eines Systems hängt weniger an der KI als an der Ordnung im eigenen Bestand. Wer drei Versionen desselben Handbuchs herumliegen hat, bekommt keine schlaue Antwort, sondern eine selbstsichere Mischung aus allen drei.
Bis hierher
Unser Modell kann lernen, Sprache in Zahlen fassen, das Gelernte verteilt speichern, Häppchen für Häppchen antworten und inzwischen sogar nachschlagen.
Bleibt der unangenehme Teil. Auch mit Zettel auf dem Tisch liegt es manchmal daneben, und zwar ohne den leisesten Zweifel in der Stimme.
Teil 6: Warum sie manchmal danebenliegt, und was das für den Betrieb bedeutet.
*Inhalt und Skript von mir. Geglättet von KI, Bilder von Gemini
Comments are closed