Daten, Telefon, Fehlentscheidungen. Drei KI-Meldungen vom Januar 2026 eingeordnet

Die erste kam aus dem Gesundheitswesen und handelte von Daten. Die zweite aus der Versicherung und handelte von einem Agenten am Telefon. Die dritte war eine Risikoumfrage, in der KI plötzlich weit oben stand. Die Fassung dieses Beitrags vom Februar hat das als Revolution und als Gefahr durch interne Sabotage beschrieben. Beides trifft es nicht. Hier die drei Meldungen noch einmal, geprüft an den Quellen.

Zum Jahrestreffen in Davos erschien am 14. Januar 2026 auf der Seite des World Economic Forum ein Gastbeitrag von Gianrico Farrugia, dem Chef der Mayo Clinic. Es ist also keine Analyse des WEF selbst, sondern die Sicht eines großen Klinikbetreibers. Seine These lautet, dass KI die Versorgung verbessern kann, aber von alten Datenarchitekturen gebremst wird. Die Daten liegen getrennt nach Abteilung und Funktion. Für KI, die Befunde, Bilder und Verläufe zusammen auswerten soll, taugt das nicht.

In der EU soll der Europäische Gesundheitsdatenraum (EHDS) daran etwas ändern. Die Verordnung ist seit März 2025 in Kraft und gilt ab dem 26. März 2027. Die Teile zum Austausch der wichtigsten Gesundheitsdaten greifen gestaffelt erst ab 2029 und 2031. KI in Medizinprodukten fällt unter die Hochrisiko-Regeln des EU AI Act. Die gelten nach der Änderung durch den Digital-Omnibus zur KI erst ab dem 2. August 2028.

Laut CIO vom 19. Januar 2026 gehen bei der allgemeinen Service-Hotline der Württembergischen Versicherung rund 300.000 Anrufe im Jahr ein. Etwa ein Viertel davon musste an die richtige Stelle weitergeleitet werden. Seit dem Einsatz eines Voice-Agenten des Berliner Anbieters Parloa nimmt der Agent die Anrufe in natürlicher Sprache an, erkennt das Anliegen und verbindet mit der Person, die dafür zuständig ist. Die Beratung selbst bleibt beim Menschen.

Bemerkenswert ist, was der Agent nicht tut. Er schließt keine Verträge ab, bewertet keine Schäden und entscheidet nichts über Leistungen. Er sortiert. Genau das macht den Einsatz beherrschbar. Seit dem 2. August 2026 gilt außerdem die Transparenzpflicht des EU AI Act. Wer mit einem KI-System spricht, muss das erfahren, sofern es nicht ohnehin offensichtlich ist.

Im Allianz Risk Barometer 2026 steht künstliche Intelligenz weltweit auf Platz 2 der Geschäftsrisiken, genannt von 32 % der Befragten. Im Vorjahr war es Platz 10. In Deutschland liegt KI laut CIO auf Platz 4. Davor bleibt, zum fünften Mal in Folge, das Cyberrisiko.

Die Allianz nennt als Gründe vor allem betriebliche, rechtliche und Reputationsrisiken. Dazu zählen Fehler in automatisierten Abläufen, Haftung für Schäden durch KI, verzerrte Modelle und unklare Verantwortung. Ein Artikel bei CIO sprach dazu im Titel von einer Gefahr von innen und von Sabotage. Gemeint war aber keine absichtliche Sabotage durch Mitarbeitende. Gemeint war, dass Menschen auf Basis falscher oder erfundener KI-Ergebnisse Entscheidungen treffen, ganz ohne böse Absicht.

• Erst die Daten, dann das Modell. Prüfen Sie, ob die Informationen, die eine KI braucht, überhaupt an einer Stelle zusammenkommen.
• Klein und messbar anfangen. Ein Agent, der Anfragen sortiert, lässt sich an Wartezeit und Fehlleitungen messen. Ein Agent, der entscheidet, nicht so leicht.
• Ergebnisse prüfbar machen. Wo eine KI etwas vorschlägt, das Folgen hat, schaut ein Mensch drauf, und jeder Lauf wird protokolliert.
• Offen sagen, wo KI spricht. Seit August 2026 ist das bei Chat- und Voice-Agenten Pflicht.

Welcher Prozess sich für einen ersten Einsatz eignet und welcher nicht, besprechen wir im KI-Audit. Die Einordnung zum EU AI Act ist Stand September 2026 und keine Rechtsberatung.