KI-Integration: Wann Standard-KI nicht mehr ausreicht und Unternehmen eigene KI-Anwendungen brauchen

Standard-KI ist stark, solange die Aufgabe standardisiert bleibt

Der Einstieg in die Arbeit mit KI ist in den vergangenen Jahren spürbar leichter geworden. Wer heute ein Sprachmodell nutzt, braucht dafür weder ein Projekt noch eine IT-Abteilung. Genau diese Niedrigschwelligkeit erklärt, warum Standardlösungen so schnell Verbreitung gefunden haben.

Was Standard-KI im Arbeitsalltag zuverlässig leistet

Unter Standard-KI fallen Chatoberflächen, Copiloten in Office-Umgebungen und die KI-Funktionen, die Softwareanbieter ihren bestehenden Produkten beilegen. Je nach Produkt arbeiten sie mit allgemein verfügbarem Wissen, mit dem vom Nutzer mitgegebenen Kontext und mit bereits angebundenen Unternehmensdaten.

Standardisiert ist damit nicht zwingend der Datenzugriff, sondern der vom Anbieter vorgegebene Funktions- und Integrationsrahmen. Er endet dort, wo der Hersteller ihn enden lässt.

In diesen Aufgabenfeldern liefern Standardlösungen verlässlich brauchbare Ergebnisse:

• Entwürfe und Umformulierungen: Serienbriefe, Stellenanzeigen, Protokollnotizen oder eine höflichere Fassung einer Absage entstehen in wenigen Sekunden.
• Zusammenfassungen: Lange Protokolle, Normtexte oder Mailverläufe lassen sich auf das Wesentliche eindampfen, solange das Dokument mitgeliefert wird. Der Zeitgewinn ist hier besonders spürbar, weil das Lesen die eigentliche Arbeit war.
• Übersetzungen und Sprachniveau: Fachtexte wechseln die Sprache oder das Formalitätsniveau, ohne dass ein Dienstleister eingebunden werden muss.
• Recherche und Strukturierung: Erste Orientierung in einem unbekannten Thema, Gliederungsvorschläge, Checklisten und Argumentsammlungen.
• Einfache Klassifizierung: Eingehende Nachrichten grob nach Anliegen sortieren, solange die Kategorien allgemein beschreibbar sind. Sobald die Einordnung vom Kundenstatus oder vom Auftragsstand abhängt, reicht eine Einordnung ohne Systemzugriff nicht mehr aus.
• Erste Prüfung von Texten: Verträge oder Angebote auf Verständlichkeit, Vollständigkeit und offene Punkte durchsehen lassen, als Vorstufe zur fachlichen Prüfung durch einen Menschen.

Für diese Aufgaben bleibt Standardsoftware die wirtschaftlich vernünftige Entscheidung. Sie ist sofort verfügbar, kalkulierbar und erfordert keine Entwicklungsleistung im Haus.

Experten-Tipp!
Führen Sie eine Liste der KI-Aufgaben, die im Haus bereits ohne Anbindung funktionieren. Sie ist die ehrlichste Grundlage für die Frage, welcher zusätzliche Nutzen eine Integration überhaupt rechtfertigen müsste.

Wichtig ist dabei die Einordnung. Diese Einsatzformen lösen reale Aufgaben und sparen messbar Zeit. Sie bleiben dabei am einzelnen Arbeitsplatz und greifen nicht in den Ablauf zwischen mehreren Beteiligten ein. Genau diese Unterscheidung wird relevant, sobald die Erwartungen steigen.

Wo die unsichtbare Grenze zur KI-Integration verläuft

Die Grenze zeigt sich selten an der Qualität der Antwort. Sie zeigt sich am Arbeitsplatz, an dem jemand sitzt und die KI mit Kontext versorgt. Der Mitarbeiter sucht Zahlen aus drei Systemen zusammen, fügt sie ins Chatfenster ein, prüft das Ergebnis und überträgt es zurück.

Diese Handgriffe fallen im Alltag kaum auf, weil sie nach produktiver Arbeit aussehen. Rechnerisch zehren sie einen erheblichen Teil des Zeitgewinns wieder auf. Die KI funktioniert dann bereits, der Prozess funktioniert noch nicht mit KI. Sichtbar wird das überall dort, wo Informationen zwischen Systemen von Hand wandern und ohne Medienbruch weitergegeben werden müssten.

Ein zweites Symptom derselben Lücke ist der Weg an der IT vorbei. Fehlt ein offizieller Zugang zu den eigenen Daten, kopieren Beschäftigte Vertragstexte, Preislisten oder Kundenhistorien in einen nicht freigegebenen externen Dienst, weil das die unmittelbare Aufgabe scheinbar löst. Welche Fragen der Abfluss von Unternehmenswissen an externe KI-Dienste aufwirft, ist ein eigenes Thema. Für die Integrationsfrage zählt vor allem der Befund: Der Umweg entsteht, weil der direkte Weg fehlt.

Der Wendepunkt: Wenn KI-Integration den Unternehmenskontext erschließt

Sobald die Aufgabe unternehmensspezifisch wird, verschiebt sich die Anforderung vom Formulieren zur KI-Integration. Über das Ergebnis entscheidet dann der Zugriff auf das, was nur im eigenen Haus liegt: Stammdaten, Vorgangsstände, gewachsene Regeln und Dokumente, die nie für die Öffentlichkeit gedacht waren.

Gemeint ist mit KI-Integration in diesem Beitrag die technische und prozessuale Einbindung von KI in Unternehmensdaten, Berechtigungen und Bestandssysteme. Nicht gemeint ist der organisatorische Weg dorthin, also die Frage, wie ein Unternehmen ein KI-Vorhaben aufsetzt und im Haus verankert.

Interne Daten machen aus allgemeiner KI eine Unternehmensanwendung

Das Wissen, das den Unterschied ausmacht, steht selten im Internet. Es steht in Angeboten, Verträgen, Servicetickets, Montageanleitungen, Projektdokumentationen und internen Richtlinien. Ein allgemeines Sprachmodell kennt davon nichts.

Der gängige Weg, diese Lücke zu schließen, heißt Retrieval Augmented Generation, kurz RAG. Dabei durchsucht das System zunächst eine aufbereitete Sammlung unternehmenseigener Dokumente, die Knowledge Base, und übergibt die passenden Fundstellen an das Modell. Die internen Belegstellen werden ihm damit als zusätzlicher Kontext bereitgestellt und lassen sich zur Begründung der Antwort mit ausweisen.

Für den Aufbau einer solchen Sammlung zählt weniger die Menge als die Pflege. Wer zehn Jahre alte Preislisten mit aufnimmt, erhält Antworten auf Basis veralteter Angaben. Die Auswahl der Quellen und ein klarer Zuständiger für ihre Aktualität gehören deshalb zum Vorhaben und lassen sich nicht an die Technik delegieren.

Was RAG leisten kann und was offen bleibt

An dieser Stelle lohnt Nüchternheit. Eine Anbindung an geprüfte Quellen kann das Risiko erfundener Antworten senken und macht Ergebnisse besser überprüfbar, weil sich die Fundstelle mitliefern lässt. Sie beseitigt das Risiko jedoch nicht vollständig.

Fehlausgaben, Automatisierungsfehler und die Abhängigkeit von Modellanbietern bleiben eine fortlaufende Managementaufgabe und sind kein einmalig gelöstes Problem. Wer eine Anwendung produktiv stellt, plant Stichproben und Korrekturwege deshalb von Anfang an mit ein.

Vom Abrufen zum Ausführen: Der Kern jeder KI-Integration

Der größere Schritt liegt hinter der Frage des Wissens. Er liegt in der Handlung. Eine Anwendung, die Informationen liefert, unterstützt einen Menschen. Eine Anwendung, die einen Vorgang anlegt, ändert oder weiterreicht, greift in den Geschäftsprozess ein. Solche agentischen Workflows verlangen Rechte, Regeln und Rückfallebenen.

Genau an diesem Übergang wird die Bauweise zur Entscheidung. Sobald proprietäre Daten, eigene Geschäftslogik und mehrere Bestandssysteme zusammenspielen müssen, werden individuelle KI-Lösungen für Unternehmen zu einer ernsthaften Alternative zur reinen Standardsoftware. Über die Machbarkeit entscheidet damit die Bauweise der Anwendung und weit weniger die Leistungsfähigkeit des Modells.

Wie weit die beiden Welten auseinanderliegen, zeigt der Vergleich anhand von vier alltäglichen Aufgaben.

Aufgabe im Alltag	Was Standard-KI ohne Anbindung leistet	Was eine integrierte Anwendung leistet
Angebot an einen Bestandskunden	Formuliert einen Entwurf aus den Angaben, die eingegeben werden.	Zieht Kundenhistorie und hinterlegte Konditionen, erzeugt den Entwurf und legt ihn nach Freigabe am Kundenkonto ab.
Serviceanfrage zu einer Störung	Beantwortet allgemeine Fragen zum Produkt auf Basis öffentlicher Angaben.	Erkennt Kunde, Auftrag und Ticketstand, prüft die Gewährleistungslage und stößt den definierten Folgeschritt an.
Eingehendes Dokument	Fasst den Inhalt zusammen, wenn die Datei übergeben wird.	Erkennt den Dokumenttyp, gleicht die Angaben mit dem Systemstand ab und leitet den Vorgang nach hinterlegten Regeln weiter.
Rückfrage zu einer Bestellung	Erklärt allgemein, wie ein Bestellvorgang üblicherweise abläuft.	Liest den konkreten Bestellstatus, erkennt Abweichungen zum Liefertermin und benachrichtigt die zuständige Stelle.

Tabelle 1: Dieselbe Aufgabe ohne und mit Systemanbindung. Der Unterschied liegt im Zugriff und in der Handlungsfähigkeit, nicht in der Sprachqualität.

Auffällig ist, dass in der rechten Spalte kein einziges Mal ein besseres Modell den Ausschlag gibt. Den Unterschied machen Anbindung, Rechte und hinterlegte Regeln.

KI-Integration im Mittelstand: Die Lücke in den Zahlen

Wer die bisherigen Beobachtungen für Einzelfälle hält, findet in der Statistik ein bemerkenswert klares Muster. Es zeigt sich, sobald man die Nutzung nach einzelnen Technologien aufschlüsselt statt sie auf einen Gesamtwert zu verdichten.

Einfach nutzbare KI ist verbreitet, integrationsintensive Anwendungen sind seltener

KfW Research hat für den Zeitraum 2022 bis 2024 ausgewertet, welche KI-Technologien mittelständische Unternehmen einsetzen. Erhebungsbasis ist das KfW-Mittelstandspanel mit gut 5.200 Antworten. Insgesamt nutzen 20 Prozent der Unternehmen mindestens eine KI-Technologie, wie die Untersuchung von KfW Research ausweist.

Die Aufschlüsselung ist aufschlussreicher als die Gesamtzahl. Die Erzeugung natürlicher Sprache erreicht 14 Prozent, die Texterkennung 10 Prozent. Technologien zur Automatisierung von Arbeitsabläufen und zur Entscheidungsunterstützung kommen auf 5 Prozent, die Datenanalyse auf 3 Prozent.

Die Reihenfolge folgt den unterschiedlichen Anforderungen dieser Anwendungen. Ganz oben stehen jene, die weitgehend ohne Zugriff auf interne Systeme auskommen. Weiter unten stehen jene, die häufiger eigene Daten, spezifisches Wissen oder eine stärkere Einbindung in die IT-Landschaft voraussetzen. Zwischen beiden Gruppen liegt der Unterschied, um den es in diesem Beitrag geht.

Bemerkenswert ist die Begründung, die KfW Research selbst gibt. Die selteneren Anwendungen seien sehr unternehmensspezifisch, benötigten zugeschnittenes Wissen oder beträfen spezifische Prozesse und erforderten oftmals eine Integration in die IT-Landschaft. Ein wesentlicher Teil des Abstands zwischen 14 und 5 Prozent lässt sich damit als Integrationslücke lesen. Gemessen hat die KfW diese Lücke nicht, sie ergibt sich aus der Zusammenschau der Technologiearten mit der Begründung der Autoren.

Warum die Unternehmensgröße allein die Lücke nicht erklärt

Die naheliegende Erklärung wäre, dass größere Unternehmen mehr Mittel haben. In den deskriptiven Werten steigt die Nutzung mit der Größe tatsächlich an. Rechnet die KfW jedoch andere Merkmale heraus, bleibt für die meisten Technologien kein eigenständiger Größeneffekt übrig. Hervorgehoben werden stattdessen Digitalisierungsgrad, digitales Knowhow und Innovationstätigkeit.

Für die Praxis heißt das: Der Zugang zu anspruchsvolleren KI-Anwendungen hängt stärker von digitaler Reife, Knowhow und geeigneter Infrastruktur ab als von der Mitarbeiterzahl allein. Wer seine IT-Strategie im Mittelstand geordnet hat, kann eine Anbindung realistisch planen. Wer historisch gewachsene Insellösungen betreibt, zahlt den Rückstand an dieser Stelle nach.

Eine Einordnung ist dabei wichtig, weil im Markt gern Zahlen nebeneinandergestellt werden, die Verschiedenes messen. Die ifo-Konjunkturumfrage vom Mai 2026 weist 54,5 Prozent KI-Nutzer aus, nach 40,9 Prozent im Vorjahr. Sie befragt allerdings Unternehmen aller Größenklassen und fragt nach der Nutzung in Geschäftsprozessen allgemein. Die Erhebung des ifo Instituts zeigt die Breite der Nutzung. Die KfW-Auswertung unterscheidet dagegen nach Technologiearten und macht sichtbar, dass integrationsintensivere Anwendungen deutlich seltener eingesetzt werden. Hinzu kommt der zeitliche Abstand: Die zugrunde liegende Panelwelle wurde im Frühjahr 2025 erhoben und fragte nach dem Zeitraum 2022 bis 2024. Beide Werte widersprechen sich nicht, sie beleuchten verschiedene Fragen.

Wo KI-Integration im Unternehmensalltag konkret ansetzt

Die Statistik bleibt abstrakt, solange offen ist, worum es im Tagesgeschäft eigentlich geht. Gemeint sind Abläufe, die in nahezu jedem mittelständischen Unternehmen vorkommen, über Jahre gewachsen sind und quer durch mehrere Systeme laufen.

In diesen sechs Feldern zeigt sich der Nutzen einer Anbindung besonders deutlich:

• Vertrieb und Angebotswesen: Angebote entstehen aus Kundenhistorie, gültigen Konditionen und technischen Unterlagen statt aus dem, was jemand gerade zur Hand hat. Nachfassaktionen lassen sich an den tatsächlichen Angebotsstatus koppeln.
• Kundenservice und Support: Anfragen werden mit Auftrag, Liefertermin, Gewährleistungslage und bisherigem Schriftverkehr beantwortet. Wiederkehrende Standardfälle laufen weitgehend selbstständig, Sonderfälle gehen an einen Menschen.
• Rechnungs- und Belegverarbeitung: Eingehende Belege werden erkannt, den richtigen Vorgängen zugeordnet und für die Buchhaltung vorbereitet. Abweichungen zwischen Bestellung, Lieferschein und Rechnung fallen früher auf.
• Einkauf und Lieferantenmanagement: Anfragen, Rahmenverträge und Preisstaffeln liegen verteilt in Systemen und Postfächern. Eine Anbindung macht den geltenden Stand auffindbar, statt ihn aus dem Gedächtnis zu rekonstruieren.
• Personal und interne Auskünfte: Fragen zu Regelungen, Fristen oder Abläufen beantwortet die Anwendung aus den geltenden internen Dokumenten, jeweils in den Grenzen der Berechtigung des Fragenden.
• Technische Dokumentation und Wissenssicherung: Montageanleitungen, Prüfprotokolle und Projektberichte werden durchsuchbar. Dokumentiertes Erfahrungswissen ausscheidender Mitarbeiter bleibt damit leichter zugänglich.

Allen sechs Feldern ist gemeinsam, dass nicht die Sprachfähigkeit den Ausschlag gibt. Den Unterschied macht der Zugriff auf den jeweils geltenden Stand im eigenen Haus.

Sieben Signale, dass Ihr Unternehmen KI-Integration braucht

Der richtige Zeitpunkt für eine KI-Integration lässt sich schwer aus dem Bauch beantworten. Hilfreicher ist ein Prüfraster. Die folgenden sieben Signale stammen aus wiederkehrenden Mustern im Arbeitsalltag und lassen sich ohne technische Vorkenntnisse beurteilen.

Vier technische Signale für den Bedarf an KI-Integration

Diese vier Beobachtungen deuten darauf hin, dass die Anwendung an ihre bauliche Grenze stößt:

• Ständiges Übertragen: Beschäftigte kopieren regelmäßig Informationen zwischen der KI und anderen Systemen hin und her, in beide Richtungen. Ein guter Prüfwert ist das Verhältnis von Vorbereitungszeit zur eigentlichen Bearbeitungszeit.
• Bedarf an internen Informationen: Brauchbare Antworten setzen voraus, dass vertrauliche oder unternehmenseigene Inhalte jedes Mal manuell mitgeliefert werden.
• Abhängigkeit vom Zustand: Die richtige Antwort hängt von Rolle, Kunde, Auftrag oder Bearbeitungsstand ab und ändert sich, sobald sich einer dieser Werte ändert. Eine gestern richtige Auskunft kann heute falsch sein.
• Bedarf an Aktionen: Gewünscht ist am Ende eine Buchung, ein Statuswechsel oder eine Weiterleitung in einem anderen System und damit mehr als eine Auskunft.

Fällt eine dieser Beobachtungen wiederholt auf, spricht vieles dafür, dass ein wesentlicher Teil des Engpasses in der fehlenden Anbindung liegt.

Drei wirtschaftliche und organisatorische Signale

Die verbleibenden drei Signale betreffen weniger die Technik als die Wirtschaftlichkeit:

• Hohe Wiederholfrequenz: Ein eng umrissener Vorgang läuft oft genug, dass sich eine Automatisierung über die Menge trägt. Als grobe Orientierung dient, ob der Vorgang täglich statt monatlich anfällt. Allein maßgeblich ist die Frequenz jedoch nicht, wenn Wert oder Fehlerfolgen eines Vorgangs hoch sind.
• Anpassungsdruck durch das Werkzeug: Das Unternehmen ändert zunehmend seinen eigenen Ablauf, damit er zur Standardsoftware passt, statt umgekehrt.
• Prozess als Unterscheidungsmerkmal: Der Vorgang enthält eigenes Knowhow oder ist Teil dessen, was das Unternehmen im Markt auszeichnet.

Ein einzelnes Signal rechtfertigt noch keine Eigenentwicklung. Treten mehrere gleichzeitig auf, ist eine strukturierte Prüfung angebracht.

Der letzte Punkt verdient besondere Aufmerksamkeit, führt aber nicht automatisch zur Eigenentwicklung. Entscheidend ist, ob eine Standardlösung die Besonderheiten des Prozesses vollständig abbildet. Tut sie das, bleibt Standard die wirtschaftlich richtige Wahl. Muss die eigene Prozesslogik dagegen dauerhaft umgangen werden, gewinnt eine individuelle Umsetzung an Gewicht.

Experten-Tipp!
Prüfen Sie die sieben Signale an einem einzigen, gut bekannten Vorgang statt am gesamten Unternehmen. Ein konkreter Fall liefert belastbarere Antworten als eine allgemeine Einschätzung und lässt sich später rechnen.

Praxisbeispiel: Wenn die Angebotsfreigabe an drei Systemen hängt

Ausgangslage: Ein mittelständischer Zulieferer erstellt pro Woche rund 60 Angebote für Bestandskunden. Der Innendienst nutzt seit einem Jahr einen Copiloten für die Formulierung. Die Vorarbeit blieb jedoch unverändert: Kundenhistorie aus dem CRM, Konditionen aus einer gepflegten Preistabelle, technische Angaben aus dem Dokumentenarchiv. Alles wird gesucht, geprüft und in das Chatfenster übertragen. Der fertige Text wandert anschließend zurück ins CRM.

Vorgehen: Die Geschäftsführung misst zunächst, wie viel Zeit auf welchen Schritt entfällt. Das Ergebnis überrascht: Auf das Formulieren entfallen wenige Minuten, auf das Zusammensuchen und Zurückübertragen ein Vielfaches. Statt ein weiteres Werkzeug einzuführen, wird der Vorgang neu geschnitten. Eine Anwendung greift lesend auf CRM und Preistabelle zu, holt die technischen Angaben aus dem Archiv und legt den Entwurf nach Freigabe durch den Innendienst am Kundenkonto ab.

Ergebnis: Die Formulierungsqualität bleibt unverändert, denn das Modell ist dasselbe. Verändert hat sich der Weg davor und danach. Die Freigabe bleibt bewusst beim Menschen, weil Konditionen kaufmännisch verantwortet werden. Als nächster Schritt ist vorgesehen, denselben Zuschnitt auf Nachfassangebote zu übertragen.

Vier Ausbaustufen der KI-Integration: Vom Copilot bis zu eigenen Komponenten

Die Frage wird häufig als Entweder-oder gestellt: Standard kaufen oder selbst bauen. Diese Zuspitzung führt in die Irre, weil sie den größten Teil der real verfügbaren Möglichkeiten überspringt. Zwischen dem Chatfenster und eigenen KI-Komponenten liegen vier unterscheidbare Stufen.

Die folgende Übersicht ordnet sie nach Individualisierungsgrad und Integrationstiefe, bevor die einzelnen Stufen erläutert werden.

Stufe	Was individualisiert wird	Integrationstiefe	Aufwand	Geeignet für
1. Standard-KI	Nichts, außer der Eingabe im Moment der Nutzung	Keine	Lizenzkosten, sofort verfügbar	Allgemeine Assistenz am Arbeitsplatz
2. Konfigurierte Standard-KI	Prompts, Vorlagen, Regeln, fertige Konnektoren	Gering bis mittel	Interne Einrichtungszeit, wenig Entwicklung	Wiederkehrende Abläufe mit gleichem Muster
3. Individuelle Anwendung	Datenzugriff, Berechtigungen, Geschäftslogik, Oberfläche	Hoch	Projektaufwand, laufender Betrieb	Unternehmenseigene Prozesse über mehrere Systeme
4. Eigene KI-Komponenten	Modellverhalten, spezialisierte Verfahren, eigene ML-Komponenten	Sehr hoch	Hoch, dazu dauerhafte Fachkompetenz	Fachdomänen mit besonderen Anforderungen an das Modell

Tabelle 2: Die vier Ausbaustufen der KI-Integration im Überblick. Sie sind kein Reifegradmodell, kein Unternehmen muss sie durchlaufen, und Stufe 4 ist kein Ziel.

Entscheidend ist die Einsicht, dass mit der Stufe nicht nur die Möglichkeiten steigen, sondern auch die dauerhafte Verantwortung für Betrieb und Pflege. Jede Stufe erzeugt Aufwand, der nach dem Projektende weiterläuft.

Stufe 1: Standard-KI ohne Anpassung

Hier stehen die Werkzeuge, die ohne Vorbereitung nutzbar sind: Chatoberflächen, Copiloten in der Office-Umgebung und KI-Funktionen, die in vorhandener Software bereits enthalten sind. Der Kontext kommt bei jeder Anfrage vom Nutzer selbst.

Der Wert dieser Stufe wird gern unterschätzt. Sie ist am Tag der Lizenzierung verfügbar, verursacht keinen Projektaufwand und lässt sich mit geringem Rückbauaufwand wieder beenden. Für viele Unternehmen bleibt sie dauerhaft die richtige Antwort, weil der Aufwand jeder weiteren Stufe erst durch einen konkreten Prozess gerechtfertigt werden muss.

Stufe 2: Konfigurierte Standard-KI

Auf dieser Stufe bleibt die Software Standard, wird aber auf das Haus zugeschnitten. Dazu gehören hinterlegte Prompts und Vorlagen, definierte Arbeitsabläufe, Regeln für die Nutzung sowie vorhandene Konnektoren zu gängigen Systemen.

Sie erzeugt spürbare Individualisierung, ohne dass eine Zeile Software entsteht, und ist meist der wirtschaftlich beste erste Schritt in Richtung KI-Integration. Wo ein vorhandener Konnektor die fachlichen, technischen und sicherheitsbezogenen Anforderungen abdeckt, ist er in aller Regel die wirtschaftlichere Lösung als eine Eigenentwicklung.

Ihre Grenze liegt dort, wo die Konfiguration endet. Was der Hersteller darin nicht ermöglicht, lässt sich auf dieser Stufe nicht abbilden.

Stufe 3: Individuelle Anwendung auf etablierten Modellen

Auf dieser Stufe entsteht eine eigene Anwendung, die auf einem etablierten Modell aufsetzt. Kombiniert werden ein Standardmodell, eine eigene Oberfläche, der Zugriff auf Unternehmensdaten über eine Knowledge Base, Verbindungen zu den Bestandssystemen, ein Berechtigungskonzept, die fachliche Prozesslogik und eine Überwachung im Betrieb.

Für Prozesse mit eigenen Daten, eigener Geschäftslogik und mehreren Bestandssystemen ist diese Ebene besonders relevant. Für viele andere Aufgaben bleiben Stufe 1 oder 2 wirtschaftlicher. Bei modularer Architektur lässt sich das Modell als weitgehend austauschbarer Baustein auslegen. Die Intelligenz wird nicht neu erfunden, die Anwendung wird individuell gebaut.

Stufe 4: Spezialisierte Modelle und eigene Komponenten

Erst hier wird am Modell selbst gearbeitet. Dazu zählen die Anpassung eines vorhandenen Modells an eine Fachdomäne, spezialisierte Verfahren für eng umrissene Aufgaben und eigene Komponenten des maschinellen Lernens, etwa für Prognosen auf eigenen Zeitreihen.

Zwei Abgrenzungen sind wichtig. Die Anpassung eines bestehenden Modells ist etwas anderes als die Entwicklung eines eigenen großen Sprachmodells von Grund auf. Letzteres ist für mittelständische Unternehmen weder erforderlich noch wirtschaftlich sinnvoll. Und diese Stufe sagt nichts darüber aus, wo eine Anwendung betrieben wird. Der Betriebsort ist eine eigene Entscheidung, die auf jeder der vier Stufen ansteht.

Was produktive KI-Integration technisch und organisatorisch braucht

Zwischen einem überzeugenden Prototyp und einer KI-Integration, die im Tagesgeschäft trägt, liegt der größere Teil der Arbeit. Drei Themenfelder entscheiden darüber, ob eine KI-Integration den Sprung in den Regelbetrieb schafft.

Datenzugriff und Rollen als Fundament der KI-Integration

Der am meisten unterschätzte Punkt ist das Berechtigungskonzept. Eine Anwendung, die auf Unternehmensdaten zugreift, muss dieselben Zugriffsgrenzen kennen wie die Systeme dahinter. Sonst beantwortet sie einem Mitarbeiter Fragen zu Gehältern, Margen oder Personalakten, die er nie hätte sehen dürfen.

Praktisch heißt das, dass bestehende Zugriffsrechte in der Anwendung durchgängig abgebildet und technisch durchgesetzt werden. Je nach Architektur werden sie aus den Quellsystemen übernommen oder in einer eigenen Berechtigungsschicht nachgebildet. Eine Anweisung im Prompt, vertrauliche Inhalte nur Berechtigten zu zeigen, ersetzt dieses Konzept nicht.

Bei wissensbasierten Antworten sollte zudem die zugrunde liegende Quelle nachvollziehbar bleiben, damit Beschäftigte kritische Aussagen prüfen können. Bei automatisierten Aktionen treten an diese Stelle Protokollierung und Datenherkunft. Wie Zugriffe im Haus geordnet werden, gehört zur IT-Sicherheit als Strategie und Praxis und ist keine Frage, die eine KI-Anwendung nebenbei löst.

Ebenso gehört die Zuständigkeit geklärt. In größeren Häusern entsteht dafür zunehmend eine eigene Rolle, deren Aufgabenbild das Berufsprofil des KI-Managers beschreibt. Im Mittelstand übernimmt diese Aufgabe häufig die IT-Leitung gemeinsam mit einer verantwortlichen Person aus dem Fachbereich.

Datenqualität ist die zweite Voraussetzung. Sie muss nicht perfekt sein, aber verlässlich, einheitlich benannt und zugänglich. Wie Unternehmen dieses Fundament schrittweise ordnen, ist im Beitrag zur KI-Implementierung im Mittelstand ausführlich beschrieben.

Schnittstellen als Lebensader der KI-Integration

Der Zugriff auf ERP, CRM, Dokumentenmanagement (DMS) oder DATEV läuft über Schnittstellen. Eine dokumentierte und für den benötigten Funktionsumfang geeignete Programmierschnittstelle senkt den Aufwand erheblich. Zu prüfen bleiben dennoch Authentifizierung, Datenmodell, Rechte, Leistungsgrenzen und Fehlerbehandlung.

Bei historisch gewachsenen Bestandssystemen kann eine ausreichend leistungsfähige Schnittstelle jedoch ganz fehlen. Dann entscheidet nicht die KI über die Machbarkeit, sondern das Altsystem. Die verfügbaren Wege drumherum reichen von Zwischenlösungen über Exporte bis zur Ablösung des Systems, und sie unterscheiden sich in Aufwand und Haltbarkeit erheblich. Wer ohnehin vor einer ERP-Einführung im Mittelstand steht, sollte die KI-Anforderungen dort gleich mitdenken.

Kontrolle, Protokollierung und menschliche Freigabe

Sobald eine Anwendung Vorgänge auslöst, braucht sie Grenzen. Dazu gehören protokollierte Aktionen, definierte Freigabepunkte bei kaufmännisch oder rechtlich bindenden Schritten, klare Fehlerbehandlung und ein Eskalationsweg zum Menschen.

Auch die Abhängigkeit vom Modellanbieter gehört auf die Liste. Preise, Verfügbarkeit und Verhalten eines Modells können sich ändern, ohne dass das Unternehmen darauf Einfluss hat. Das BSI behandelt diese Risiken generativer KI-Modelle systematisch entlang des gesamten Lebenszyklus.

Eng damit verbunden ist die Frage nach dem Betriebsmodell. Ob eine Anwendung in der öffentlichen Cloud, in einer privaten Umgebung oder im eigenen Haus läuft, prägt wesentlich, welche Daten die Unternehmensumgebung verlassen. Maßgeblich ist dabei der gesamte Datenfluss, einschließlich externer Modellschnittstellen und eingebundener Protokollierungsdienste. Die Frage stellt sich unabhängig davon, ob eine Standardlösung oder eine eigene Anwendung im Einsatz ist.

Zu den rechtlichen Rahmenfragen von der Beschaffung bis zum Schutz von Geschäftsgeheimnissen bietet der Bitkom-Leitfaden zu generativer KI im Unternehmen eine praxisnahe Orientierung. Wer mehrere Werkzeuge parallel betreibt, sollte zudem den Flickenteppich aus Einzeltools im Blick behalten, weil sich Nachweispflichten sonst über viele Systeme verteilen. Nachvollziehbarkeit und Dokumentationsfähigkeit bilden die Grundlage jeder späteren Prüfung, ob durch Wirtschaftsprüfer, Aufsichtsbehörden oder den eigenen Datenschutzbeauftragten.

Zusammengenommen liegen zwischen einem Sprachmodell und einem laufenden Geschäftsprozess fünf Schichten: der Zugriff auf die Quellen, der Kontext des Vorgangs, die Berechtigung des Anfragenden, die Aktion im Zielsystem und die Kontrolle über das Ergebnis. Was fehlt, wenn eine davon nicht trägt, zeigt die folgende Übersicht.

Teilen: Link kopieren

Einbetten

Für Anwendungen, die nicht nur informieren, sondern selbst Vorgänge auslösen, sind alle fünf Schichten relevant. Eine reine Auskunftsanwendung kommt ohne die Aktionsschicht aus, braucht die übrigen vier aber ebenso.

Die Entscheidung: Wann sich KI-Integration wirtschaftlich rechnet

Am Ende steht bei jeder KI-Integration eine kaufmännische Frage. Sie lässt sich nicht allgemein beantworten, wohl aber strukturiert. Wichtig ist, die richtige Rechnung aufzumachen und nicht die bequeme.

Warum der Lizenzpreis nicht der Gesamtpreis ist

Standardsoftware wirkt günstig, weil ihr Preis auf einem Beleg steht und dort jeden Monat sichtbar wiederkehrt. Was der Umweg drumherum verbraucht, erscheint nirgends. Es versteckt sich in Minuten, die niemand erfasst, und in Nacharbeit, die erst Wochen später auffällt.

Zur ehrlichen Gegenüberstellung gehören auf der Standardseite diese Positionen:

• Lizenzen je Nutzer: Kosten, die bei nutzerbasierter Abrechnung mit der Zahl der Lizenzen wachsen, auch wenn der Nutzen ungleich verteilt ist.
• Manuelle Übergaben: Arbeitszeit für das Zusammensuchen, Einfügen und Zurückspielen von Informationen.
• Zusätzliche Werkzeuge: Ergänzende Abonnements, die entstehen, weil eine Lücke punktuell geschlossen wird.
• Qualitätskontrolle: Zusätzlicher Prüf- und Korrekturaufwand, wenn relevanter Kontext fehlt oder jedes Mal von Hand bereitgestellt werden muss.
• Prozessumwege: Kosten, die anfallen, weil der Ablauf an das Werkzeug angepasst wurde und nicht umgekehrt. Sie tauchen in keiner Rechnung auf und fallen erst bei einer ehrlichen Prozessaufnahme wirklich ins Auge.
• Doppelte Datenhaltung: Aufwand für Pflege und Abgleich, wenn Informationen parallel im Werkzeug und im Fachsystem gehalten werden.

Auf der Seite einer eigenen Anwendung stehen dafür Analyse, Entwicklung, Schnittstellen, Tests, Absicherung, Betrieb, Modellkosten und Weiterentwicklung. Diese Posten sind sichtbar, aber sie sind nicht automatisch höher.

Eine Rechenlogik statt gegriffener Zahlen

Allgemeingültige Vergleichswerte für den Nutzen individueller KI-Anwendungen gibt es nicht, weil er stark vom jeweiligen Prozess abhängt. Statt einer Zahl hilft deshalb eine Rechenlogik, die sich mit den eigenen Werten füllen lässt.

Der jährliche Nutzen ergibt sich aus der Vorgangsmenge multipliziert mit der je Vorgang eingesparten Zeit und dem internen Kostenwert dieser Zeit. Hinzu kommen vermiedene Fehler- und Nacharbeitskosten. Dem gegenüber stehen die einmalige Einführung und der laufende Betrieb.

Die Werte sind jeweils separat zu erheben. Vorgangsmengen und Zeitanteile schwanken erheblich nach Branche, Prozessreife und Systemlandschaft.

Aus dieser Logik folgt eine klare Regel. Je spezieller, je häufiger und je wirtschaftlich relevanter ein Vorgang ist, desto eher trägt sich die Individualisierung. Ein seltener Sonderfall mit geringem wirtschaftlichem Gewicht rechnet sich meist auch dann nicht, wenn er technisch reizvoll ist. Wie sich der Nutzen anschließend dauerhaft messen lässt, ist Teil der Frage, wie aus ersten Use Cases messbarer Nutzen wird.

Praxisbeispiel: Die Rechnung für einen wiederkehrenden Dokumentenvorgang

Ausgangslage: Ein Dienstleister mit rund 90 Beschäftigten erhält monatlich etwa 1.400 Eingangsdokumente unterschiedlicher Art. Sie werden gesichtet, einem Vorgang zugeordnet, mit dem Systemstand abgeglichen und weitergeleitet. Zwei Mitarbeiterinnen verbringen damit einen erheblichen Teil ihrer Arbeitszeit. Ein Copilot half beim Zusammenfassen, an der Zuordnung änderte er nichts.

Vorgehen: Vor jeder Investitionsentscheidung wird der Vorgang gemessen statt geschätzt. Erfasst werden die Menge je Dokumenttyp, die durchschnittliche Bearbeitungszeit und die Quote der Fehlzuordnungen, die später Nacharbeit auslösen. Erst danach wird der Aufwand für eine Anwendung ermittelt, die Dokumenttyp und Vorgangsbezug erkennt, gegen das System abgleicht und nach hinterlegten Regeln weiterleitet. Beide Seiten werden über drei Jahre gerechnet, inklusive Betrieb und Pflege.

Ergebnis: Die Rechnung trägt für die drei häufigsten Dokumenttypen, die zusammen den Großteil der Menge ausmachen. Für die verbleibenden Sonderformen bleibt die manuelle Bearbeitung bestehen, weil die Menge den Aufwand nicht deckt. Entschieden wird damit über einen klar abgegrenzten Teil des Vorgangs und nicht über eine Technologie im Ganzen.

Standard, hybrid oder individuell: Die Matrix zur KI-Integration

Aus den bisherigen Kriterien lässt sich eine Orientierung ableiten, die im Führungskreis in einer knappen Sitzung durchgegangen werden kann. Maßgeblich ist die Situation des jeweiligen Prozesses, nicht die des Unternehmens insgesamt.

Als hybride Integration ist dabei eine Lösung gemeint, die Standardsoftware oder Standardmodelle mit vorhandenen Konnektoren und gezielten eigenen Integrationsbausteinen verbindet. Sie liegt damit zwischen der zweiten und der dritten Ausbaustufe. Die Spalte Standard-KI fasst umgekehrt die Stufen 1 und 2 zusammen, also unveränderte wie konfigurierte Standardlösungen.

Situation im Prozess	Standard-KI	Hybride Integration	Individuelle Anwendung
Allgemeine Aufgabe ohne Bezug zu internen Daten	Geeignet	Nicht erforderlich	Nicht erforderlich
Standardisierter Branchenablauf	Häufig ausreichend	Sinnvoll bei Konnektoren	Selten begründbar
Eigene Daten entscheiden über die Antwort	Nur mit passendem Konnektor	Gut geeignet	Geeignet
Mehrere Bestandssysteme müssen zusammenspielen	Nur mit passendem Konnektor	Möglich	Gut geeignet
Unternehmenseigene Prozesslogik	Meist begrenzt	Begrenzt möglich	Gut geeignet
Hoher manueller Aufwand bei großer Menge	Prozessabhängig	Gut geeignet	Gut geeignet
Vorgang trägt zum Wettbewerbsvorteil bei	Nur bei vollständiger Abbildung	Möglich	Gut geeignet
Seltener Sonderfall mit kleiner Menge	Geeignet	Selten begründbar	Nicht empfehlenswert

Tabelle 3: Entscheidungsmatrix zur KI-Integration. Die Einordnung ersetzt keine Prüfung des Einzelfalls, macht aber sichtbar, wo sich eine Diskussion über Individualisierung überhaupt lohnt.

Wer die Zeilen für den eigenen Prozess durchgeht, erhält meist ein deutliches Bild. Häufen sich die Einträge in der rechten Spalte, ist eine strukturierte Prüfung angebracht. Bleiben sie links, ist der Standard die richtige Antwort.

Experten-Tipp!
Gehen Sie die Matrix mit zwei Personen getrennt durch, einer aus dem Fachbereich und einer aus der IT. Weichen die Einschätzungen ab, liegt genau dort der Punkt, an dem Prozess und Systemwirklichkeit auseinanderlaufen.

KI-Integration beginnt beim Prozess und nicht beim Modell

Eine KI-Integration ist nicht für jeden Ablauf die Antwort. Für viele Aufgaben bleiben Standardlösungen der richtige Weg, und sie bleiben es häufig dauerhaft. Wer allgemeine Arbeiten schneller erledigen will, braucht dafür keine eigene Anwendung. Der Wechsel beginnt erst dort, wo generische KI den relevanten Unternehmenskontext nicht mehr abbilden kann.

Die KfW-Zahlen zeigen, dass leicht nutzbare Sprachanwendungen im Mittelstand deutlich häufiger eingesetzt werden als anspruchsvollere und oft integrationsintensive Anwendungen. Wer diese Lücke im eigenen Prozess schließt, gewinnt weniger durch bessere Antworten als durch kürzere Wege zwischen den Systemen.

Der praktische Einstieg in die KI-Integration ist unspektakulär: einen häufigen, gut bekannten Vorgang auswählen, die sieben Signale prüfen, die Rechnung aufmachen. Der Wettbewerbsvorteil liegt selten im Modell, sondern darin, wie gut Daten, Prozesse und Systeme damit verbunden sind.

Häufige Fragen (FAQ) zur KI-Integration in Unternehmen