Chancen und Risiken von KI im eigenen Betrieb abwägen

Die erste Fassung dieses Beitrags vom Januar 2026 war ein allgemeiner Überblick. Medizin, autonomes Fahren, Kunst, dazu Bias, Datenschutz und Überwachung. Das stimmt alles und hilft niemandem, der entscheiden muss, ob der Kundenservice nächsten Monat ein Sprachmodell bekommt.

Diese Fassung dreht die Frage um. Nicht die Technik hat Chancen und Risiken, sondern jeder konkrete Einsatz. Ein Modell, das Rechnungen ausliest, trägt andere Risiken als eines, das Kunden eigenständig antwortet. Deshalb lohnt es sich, jeden Anwendungsfall einzeln zu prüfen.

Laut ifo nutzen Unternehmen KI im Frühjahr 2026 vor allem für Verwaltungsaufgaben, Datenanalyse, Programmierung, Korrespondenz und Recherche. Die Boston Consulting Group schätzt, dass rund 70 Prozent des möglichen Werts von KI in Kernfunktionen liegen, also Vertrieb, Marketing, Fertigung, Lieferkette und Preisgestaltung. Auf die IT entfallen nach dieser Schätzung nur 13 Prozent.

Übersetzt in Abläufe heißt das etwas Einfaches. Die Chance liegt dort, wo viel Text gelesen, sortiert oder geschrieben wird und wo das Ergebnis direkt ein Geschäft berührt. Eine Anfrage schneller beantworten, ein Angebot schneller vorbereiten, eine Rechnung ohne Abtippen buchen.

• Falsche Ergebnisse. Sprachmodelle formulieren auch dann überzeugend, wenn der Inhalt nicht stimmt. Das Risiko wächst mit jedem Schritt, den niemand mehr prüft.
• Daten. Sobald Kundendaten oder Daten von Mitarbeitenden durch ein Modell laufen, gilt die DSGVO. Unter den Unternehmen, die KI schon nutzen, nennen laut Bitkom 66 Prozent den Datenschutz als Hemmnis.
• Pflichten. Seit dem 2. August 2026 gelten die Transparenzpflichten des EU AI Act. Ein Chatbot muss zum Beispiel erkennbar als KI auftreten.
• Projekte ohne Nutzen. Gartner erwartet, dass über 40 Prozent der Projekte mit KI-Agenten bis Ende 2027 eingestellt werden, wegen steigender Kosten, unklaren Nutzens oder fehlender Risikokontrollen.

Auffällig ist, was fehlt. Die großen gesellschaftlichen Fragen sind wichtig, entscheiden aber selten über einen einzelnen Workflow. Dort entscheiden Fehlerquote, Datenfluss und Zuständigkeit.

1. 1

   Was kostet ein Fehler?

   Ein falsch sortiertes Ticket kostet Minuten. Eine falsche Zusage an einen Kunden kann Geld kosten. Je teurer der Fehler, desto wichtiger ist eine Prüfung durch einen Menschen.

2. 2

   Wer sieht das Ergebnis?

   Bleibt es intern, ist Spielraum da. Geht es nach außen, braucht es eine Freigabe oder zumindest Stichproben.

3. 3

   Welche Daten fließen?

   Keine personenbezogenen Daten ist der einfachste Fall. Sonst klären, wo das Modell läuft und was der Anbieter mit den Daten tun darf.

4. 4

   Wie oft läuft es?

   Ein Vorgang, der hundertmal im Monat anfällt, rechtfertigt Aufwand. Einer, der viermal im Jahr kommt, meist nicht.

5. 5

   Wer ist zuständig?

   Wenn niemand benannt ist, der bei einem Fehler Bescheid bekommt und handelt, ist der Fall noch nicht reif.

Was bei der Einführung typischerweise bremst, steht im Beitrag Woran die Einführung von KI im Mittelstand scheitert. Wann man ganz die Finger davon lassen sollte, im Beitrag Wann Sie nicht automatisieren sollten.