Bei uns steht ein Server mit einer RTX 5090, auf dem ein Sprachmodell lokal läuft. Kein Cloud-Zugang, keine Daten, die das Haus verlassen. Darauf sind in den vergangenen Monaten ein gutes Dutzend Werkzeuge entstanden.
Eines davon ist eine interne KI mit Zugriff auf unsere eigenen Dokumente. Genau das, was ich in meiner Serie als den praktischen Weg beschrieben habe. Sie funktioniert. Als ich Ende September die Einlese-Kette umgebaut habe, stieg das Ergebnis eines Testlaufs mit 21 Fragen von 13 auf 19 richtige Antworten. Kleine Stichprobe, ein Durchlauf, trotzdem ein deutlicher Sprung.
Im Mai gab es 170 Nachrichten in diesem System. Im Juni waren es 20. Im Juli sechs. Im August keine.
Zwei Sorten Projekte
Ein Teil von dem, was auf dem Server liegt, ist schlicht Neugier. Ich wollte wissen, ob ein lokales Modell alte Fotos restaurieren kann, ob sich aus einem Standbild ein Video von einer Minute erzeugen lässt, ob ein Modell Raumstempel aus einem Bauplan liest. Das ist Lernen auf eigene Rechnung, und dafür ist es auch gedacht.
Interessant ist der andere Teil. Die Werkzeuge, die für andere Menschen gebaut wurden.
Zwei Projekte, ein Unterschied
Daneben gibt es bei uns ein Portal für Tickets und Abrechnung, das auf unserem eigenen kleinen Webserver läuft. Gebaut hat es derselbe Entwickler in denselben Monaten. Drei bis vier Leute arbeiten täglich damit, es gibt immer etwas zu verbessern, und das hört auch nicht auf.
Im Ticketsystem steckt übrigens keine KI. Gebaut habe ich es trotzdem mit KI-Unterstützung, so wie alles andere auch. In beiden Fällen war Künstliche Intelligenz im Spiel, einmal im Werkzeug und einmal beim Bauen. Ohne sie gäbe es weder das eine noch das andere, jedenfalls nicht in dieser Zeit.
Das eine läuft seit Monaten. Das andere war im Mai kurz lebendig und danach still.
Am Aufwand liegt der Unterschied nicht, und am Können auch nicht. Er liegt darin, dass ich beim Ticketsystem selbst weiß, wie ein gutes Ergebnis aussieht. Ich arbeite ja damit.
Bei der Dokumenten-KI weiß ich das nicht. Ich kann prüfen, ob eine Antwort aus dem richtigen Absatz stammt. Ob sie fachlich taugt, ob sie die Frage beantwortet, die jemand im Arbeitsalltag wirklich hat, kann ich nicht beurteilen. Ich baue die Technik. Was hinten rauskommen soll und wann es gut ist, müssen die wissen, die das Fachwissen haben.
Der Punkt, an dem es hakt
Dieses Muster sehe ich nicht nur bei uns. Es läuft fast immer gleich.
Jemand sagt, schau doch mal, ob das geht. Ich setze mich ein bis drei Tage hin und baue einen Prototyp. Der steht dann und tut etwas. Ab hier bräuchte es Leute aus dem Fach, die ihn benutzen, die sagen, das Ergebnis ist Unsinn oder das war fast richtig, und die das ein paar Wochen lang durchhalten.
Und genau diese Zeit hat niemand eingeplant.
Das ist kein Vorwurf an irgendwen. Deren Tagesgeschäft läuft ja weiter, und niemand hat ihnen gesagt, dass sie jetzt vier Stunden pro Woche für ein KI-Projekt brauchen. Es steht nirgends. Im Plan stehen Hardware, Software und Entwicklungstage. Die Zeit der Fachleute steht da nicht, weil sie beim Rechnen nie auftaucht.
Damit ist das Projekt nicht an der KI gescheitert. Es ist an einer Zeile im Projektplan gescheitert, die gefehlt hat.
Was ich daraus mitnehme
Die Frage, ob etwas technisch geht, ist inzwischen selten die schwierige. Ein brauchbarer Prototyp steht an einem Wochenende. Die schwierige Frage kommt danach.
Wer vor einem KI-Vorhaben steht, sollte deshalb zwei Dinge klären, bevor irgendwer anfängt zu bauen.
Erstens: Wer entscheidet, ob ein Ergebnis gut ist? Nicht wer es bestellt, sondern wer es fachlich beurteilen kann. Diese Person braucht einen Namen, keine Abteilung.
Zweitens: Wie viele Stunden pro Woche hat diese Person dafür, und wer hat ihr die freigeräumt? Wenn darauf niemand antworten kann, wird das Werkzeug gebaut und nicht benutzt. Das ist kein Risiko, das ist der Normalfall.
Wie es weitergeht
Ab nächster Woche soll jemand aus dem Fach tatsächlich mit der Dokumenten-KI arbeiten. Eine Person, nicht fünf. Ob es diesmal hält, weiß ich nicht.
Ich schreibe hier ehrlicher über die eigenen Zahlen, als mir lieb ist. Aber ich habe sechs Teile lang erklärt, wie diese Technik funktioniert, und es wäre merkwürdig, den unbequemsten Teil wegzulassen.
Wie läuft das bei euch? Steht bei euren Vorhaben jemand aus dem Fach mit fester Zeit drin, oder wird gebaut und dann gehofft?
Comments are closed