KI-Agenten in regulierten Branchen. Freier Input, fester Ablauf

Im Januar 2026 beschrieb das IT-Haus adesso in seinem Blog, wie sich Agentic Automation in Versicherungen, Banken und Behörden einsetzen lässt. Der Kern ist ein Vergleich mit Robotic Process Automation (RPA). RPA ahmt Eingaben eines Menschen nach und braucht dafür saubere, strukturierte Daten. Ein Agent verbindet ein Sprachmodell mit Werkzeugen. Er liest ein Schreiben, zerlegt die Anfrage in Teilaufgaben, zieht Daten heraus, ordnet sie zu und ruft dafür die passenden Werkzeuge auf.

Die Formel, auf die adesso das bringt, trifft es gut. Flexibler Input, strukturiertes Ergebnis. Der Agent darf mit unordentlichen Eingängen umgehen, also E-Mails, eingescannten Formularen oder Freitext. Was hinten herauskommt, muss aber in ein festes Format passen und in einen festen Ablauf.

Drei Regelwerke spielen dabei zusammen. Die DSGVO gilt seit 2018 und gibt Menschen in Artikel 22 das Recht, keiner Entscheidung unterworfen zu werden, die ausschließlich automatisiert fällt und rechtliche Wirkung für sie hat oder sie ähnlich erheblich beeinträchtigt. Ausnahmen gibt es, etwa wenn die Entscheidung für einen Vertrag erforderlich ist. Dann braucht es aber Schutzmaßnahmen, darunter das Recht, einen Menschen einzuschalten.

Der EU AI Act ist seit dem 1. August 2024 in Kraft und wird schrittweise anwendbar. Im Juli 2026 hat die EU ihn mit der Digital-Omnibus-Verordnung zur KI (Verordnung (EU) 2026/1744) geändert, in Kraft seit dem 27. Juli 2026. Stand September 2026 gilt damit:

• Seit 2. Februar 2025 gelten die Verbote bestimmter KI-Praktiken und die Pflicht zur KI-Kompetenz. Diese Pflicht hat der Omnibus abgeschwächt. Anbieter und Betreiber müssen die KI-Kompetenz ihres Personals nun fördern, statt sie sicherzustellen.
• Seit 2. August 2026 gelten die Transparenzpflichten nach Artikel 50, etwa der Hinweis, dass man mit einer KI spricht. Für die Kennzeichnung erzeugter Inhalte gibt es eine Übergangsfrist von vier Monaten für Systeme, die schon vorher auf dem Markt waren.
• Ab 2. Dezember 2027 gelten die Pflichten für Hochrisiko-Systeme nach Anhang III. Ursprünglich war das der 2. August 2026.
• Ab 2. August 2028 gelten sie für Hochrisiko-KI in Produkten nach Anhang I, etwa Medizinprodukten.

Für die Branchen aus dem adesso-Beitrag ist Anhang III wichtig. Dort stehen unter anderem die Kreditwürdigkeitsprüfung natürlicher Personen, die Risikobewertung und Preisbildung in der Lebens- und Krankenversicherung und die Prüfung, ob jemand Anspruch auf öffentliche Leistungen hat. Wer dort KI einsetzt, muss als Betreiber ab dem 2. Dezember 2027 unter anderem eine menschliche Aufsicht mit Kompetenz und Befugnis benennen und die Protokolle des Systems aufbewahren. Systeme, die Finanzbetrug aufdecken sollen, sind bei der Kreditprüfung ausdrücklich ausgenommen.

Für Banken und Versicherer kommt DORA dazu. Im Dezember 2025 hat die BaFin eine Orientierungshilfe veröffentlicht, wie sich die Anforderungen an das IKT-Risikomanagement auf KI-Systeme übertragen lassen, vom Datenbezug bis zur Stilllegung. Sie ist ausdrücklich unverbindlich, zeigt aber, worauf die Aufsicht schaut.

1. 1

   Eingang lesen

   Das Sprachmodell liest das Schreiben, erkennt die Art der Anfrage und zieht die Felder heraus. Das Ergebnis muss in ein festes Schema passen. Passt es nicht, geht der Fall an einen Menschen.

2. 2

   Regeln anwenden

   Zuständigkeit, Fristen, Schwellenwerte und Prüfschritte stehen fest im Workflow, nicht im Prompt. So bleibt nachvollziehbar, warum ein Fall welchen Weg genommen hat.

3. 3

   Entscheiden lassen

   Wo eine Entscheidung Folgen für einen Menschen hat, bereitet der Workflow sie vor und ein Mensch trifft sie. Das ist der Kern von Artikel 22 DSGVO und im Hochrisiko-Bereich auch des AI Act.

4. 4

   Alles festhalten

   Jeder Lauf schreibt mit, was hereinkam, was das Modell daraus gemacht hat, welche Regel gegriffen hat und wer freigegeben hat.

• Klären Sie zuerst, ob ein Anwendungsfall unter Anhang III fällt. Kundenservice und Dokumenteneingang tun das meist nicht, Kreditentscheidungen oder die Tarifierung von Lebens- und Krankenversicherungen schon.
• Lassen Sie das Modell lesen und vorschlagen, nicht entscheiden, wenn die Entscheidung einen Menschen betrifft.
• Legen Sie Regeln in den Workflow, nicht in den Prompt. Ein Prompt ist keine Dokumentation.
• Protokollieren Sie jeden Lauf so, dass jemand ohne Vorwissen ihn nachvollziehen kann.
• Nutzen Sie die Zeit bis Dezember 2027. Die Pflichten sind verschoben, nicht gestrichen.

Welche Schritte ein Agent übernehmen sollte und wo ein fester Ablauf reicht, klären wir im KI-Audit. Rechtsberatung ersetzt das nicht. Ob ein System unter den AI Act fällt, gehört im Zweifel in die Hände Ihrer Rechtsabteilung.