Macht KI uns unselbstständig? Was Studien zeigen und was Unternehmen tun können

Anlass für die erste Fassung dieses Beitrags im Januar 2026 war „AI 2027“. Das Szenario erschien im April 2025, geschrieben von Daniel Kokotajlo, Eli Lifland, Thomas Larsen und Romeo Dean vom AI Futures Project. Es beschreibt eine sehr schnelle Entwicklung bis hin zu KI-Systemen, die sich selbst verbessern, mit zwei möglichen Enden. In einem verliert die Menschheit die Kontrolle.

Die Autoren haben ihre Zeitachsen seitdem mehrfach angepasst, im Dezember 2025 nach hinten, im April 2026 wieder etwas nach vorn. Das ist ehrlich, zeigt aber auch, was so ein Szenario ist. Eine Denkübung, keine Prognose, auf die man ein Unternehmen ausrichten kann.

Für Geschäftsführung und Teams gibt es eine Frage, die sich heute schon messen lässt. Was passiert mit unseren eigenen Fähigkeiten, wenn wir Denkarbeit regelmäßig an KI abgeben?

• Microsoft Research und Carnegie Mellon befragten 319 Wissensarbeitende zu 936 Beispielen aus ihrer Arbeit mit generativer KI. Vorgestellt wurde die Studie auf der CHI 2025. Je mehr Vertrauen jemand in die KI hat, desto weniger kritisch denkt er nach eigener Aussage mit. Je mehr Vertrauen in die eigene Fachkenntnis, desto mehr.
• Ein Team am MIT Media Lab ließ 54 Personen Aufsätze schreiben, mit ChatGPT, mit Suchmaschine oder ohne Hilfe, und maß dabei die Hirnaktivität per EEG. Die ChatGPT-Gruppe zeigte die schwächste Vernetzung und konnte sich schlechter an eigene Texte erinnern. Die Arbeit ist ein Preprint mit kleiner Stichprobe, in der vierten Sitzung waren nur noch 18 Personen dabei.
• In vier polnischen Endoskopie-Zentren sank bei erfahrenen Ärztinnen und Ärzten die Erkennungsrate von Adenomen in Untersuchungen ohne KI von 28,4 auf 22,4 Prozent, nachdem KI-Unterstützung eingeführt worden war. Veröffentlicht im August 2025 in The Lancet Gastroenterology & Hepatology. Die Studie ist eine Beobachtungsstudie und kann andere Ursachen nicht ausschließen.

Keine dieser Studien beweist, dass KI Menschen dauerhaft dümmer macht. Sie zeigen aber, dass Fähigkeiten, die nicht mehr geübt werden, nachlassen können, und dass blindes Vertrauen in ein Werkzeug das Nachdenken dämpft.

Die Microsoft-Studie hat noch einen zweiten Befund. Kritisches Denken verschwindet nicht, es verschiebt sich. Statt selbst zu schreiben, prüfen die Befragten, fügen zusammen und tragen Verantwortung für das Ergebnis. Genau diese Rolle muss ein Unternehmen bewusst gestalten.

Bainbridge beschrieb, was in automatisierten Industrieanlagen passiert. Die Maschine übernimmt die Routine. Der Mensch bleibt für die Ausnahmen zuständig. Weil er die Routine nicht mehr macht, fehlt ihm genau die Übung, die er für die Ausnahme bräuchte.

Ein Beispiel aus dem Workflow-Alltag. Wenn eine KI zwei Jahre lang Eingangsrechnungen vorkontiert und niemand mehr genau hinschaut, merkt auch niemand, wenn sie plötzlich falsch liegt. Und wenn der Workflow ausfällt, kann es im Team keiner mehr von Hand.

1. 1

   Freigaben dort, wo Folgen entstehen

   Alles, was nach außen geht, Geld bewegt oder Menschen betrifft, bekommt eine Freigabe. Der Workflow bereitet vor, ein Mensch entscheidet. Mehr dazu in Wann Sie nicht automatisieren sollten.

2. 2

   Prüfen ermöglichen, nicht nur abnicken

   Eine Freigabe ist nur so gut wie das, was die Person sieht. Zeigen Sie die Quelle, die Begründung und die Stelle, an der die KI unsicher war. Ein einzelner Knopf „Passt“ erzieht zum Durchklicken.

3. 3

   Eine Person je Workflow

   Für jeden Ablauf ist jemand namentlich zuständig. Diese Person bekommt die Fehlermeldungen, schaut regelmäßig in Stichproben und weiß, was der Workflow eigentlich tun soll.

4. 4

   Das Handwerk erhalten

   Dokumentieren Sie, wie der Prozess ohne Automatisierung läuft. Lassen Sie neue Leute ihn einmal von Hand machen, bevor sie nur noch freigeben. Wer weiß, wie es geht, erkennt auch, wenn es falsch geht.

5. 5

   Gesunde Skepsis üben

   Die Microsoft-Studie legt nahe, dass Vertrauen in die eigene Fachkenntnis zu mehr Prüfung führt. Stärken Sie also die Fachleute, nicht nur das Werkzeug. Und sprechen Sie offen über Fälle, in denen die KI falsch lag.

So gebaut nimmt ein Workflow dem Team Arbeit ab, ohne ihm das Urteil abzunehmen. Das ist der Unterschied zwischen Entlastung und Entmündigung.