LLM-Integration

KI als Bestandteil der Anwendung

LLMs sind nicht nur Hilfsmittel für Recherche, Entwicklung oder Kommunikation. Richtig eingesetzt übernehmen sie einen klar abgegrenzten Teil des fachlichen oder operativen Ablaufs und werden damit selbst zu einem Bestandteil der Anwendung.

Cloud oder lokal — passend zur Aufgabe

Neben Cloud-LLMs kommen spezialisierte lokale Modelle zum Einsatz, wenn Datenschutz, Verfügbarkeit oder eigenes Domänenwissen dies verlangen. Die Wahl des Modells folgt dem Schutzbedarf der Daten, der Aufgabe und dem Umfang dessen, was ohne menschliche Prüfung entschieden werden soll.

Beispiel: internes LLM-Wiki

In einem internen LLM-Wiki wird firmeneigenes Wissen nicht einfach an ein Modell übergeben. Dokumente, Begriffe und Quellen werden in einem geschützten Umfeld strukturiert zugänglich gemacht. Ein lokales oder speziell abgeschirmtes Modell beantwortet Fragen, erklärt Zusammenhänge und verweist auf die zugrunde liegenden Informationen.

Rollen, Datenherkunft, Aktualität und Berechtigungen gehören dabei zum Design. Antworten werden als Unterstützung behandelt und dort bestätigt, wo daraus eine fachliche oder geschäftliche Entscheidung entsteht. So wird das Modell zu einem nutzbaren Teil der internen Wissensarbeit – mit klaren Grenzen und nachvollziehbarer Herkunft.

Beispiel: Dokumente in Geschäftsprozesse überführen

Rechnungen und andere Dokumente enthalten Informationen, die heute oft manuell gelesen, übertragen und kontrolliert werden. KI ergänzt die reine Texterkennung oder ersetzt sie in geeigneten Fällen: Inhalte werden erkannt, in eine strukturierte Form überführt und mit Regeln, Stammdaten und bestehenden Geschäftsvorgängen abgeglichen.

Aus einer Rechnung entstehen so Lieferant, Rechnungsnummer, Beträge, Steuerangaben, Bestellbezug und Kostenstelle als geprüfte Felder. Plausibilitätsprüfungen markieren Abweichungen; nur bestätigte Informationen fliessen in die interne Freigabe, Buchung oder Ablage ein. Das Modell liefert damit keinen unkontrollierten Text, sondern einen geprüften Prozessbaustein.

Beide hier beschriebenen Lösungen sind gebaut, laufen und lassen sich jederzeit vorführen.

Integration entlang des Lösungswegs

LLM-Integration verbindet mehrere technische und fachliche Kompetenzen. Architektur klärt Grenzen und Schutzbedarf, Automatisierung überführt Wissen in wiederholbare Abläufe und Testen stellt sicher, dass das Ergebnis fachlich und technisch trägt.