Zum Inhalt springen
Prof. Dr. Kai Reinhardt Kontakt
Menü
Grundlagen · 12 Min.

Organisationspsychologie und KI: 12 Begriffe einfach erklärt

Automation Bias, Deskilling und Schatten-KI fallen in fast jeder Debatte über KI in Organisationen. Dieser Grundlagenbeitrag erklärt 12 Begriffe der Organisationspsychologie in Alltagssprache. Zu jedem Begriff nennt er ein Beispiel aus dem Betrieb und den stärksten Befund der Forschung mit seiner Einschränkung.

Prof. Dr. Kai Reinhardt17. November 2026 · 12 Min. Lesezeit

GrundlagenAusgabe 1 · November 2026

Kurz gesagt

Welche Begriffe der Organisationspsychologie braucht man für die Arbeit mit KI und KI-Agenten? 12 Begriffe decken die wichtigsten Fragen ab. Zur Aufsicht gehören Automation Bias, Human in the Loop, Vigilance Decrement und Cognitive Forcing Functions. Zur Verantwortung gehört die Moral Crumple Zone, bei der die Schuld für einen KI-Fehler beim Menschen landet. Zum Können gehören Deskilling, Cognitive Offloading und die Jagged Frontier. Zu Zusammenarbeit und Kultur gehören Human-AI Synergy, Social Evaluation Penalty, Schatten-KI und psychologische Sicherheit. Die Forschung zeigt dazu ein wiederkehrendes Muster. Menschen prüfen schlechter, wenn die KI gut wirkt. Das Können ohne KI kann zurückgehen. Wer KI nutzt, rechnet mit einem schlechteren Urteil der anderen und verschweigt die Nutzung deshalb eher. Fast alle starken Befunde stammen aus Systemen, die einzelne Empfehlungen geben. Für Agenten sind sie eine begründete Vermutung. Zusammen legen die Begriffe nahe, dass Organisationen eine Aufsicht verlangen, deren Voraussetzungen sie nicht gestalten.

Nehmen wir ein Beispiel. Eine Personalreferentin öffnet den Bewerbungseingang. Die Software hat die Bewerbungen schon vorsortiert. Einige empfiehlt sie, die übrigen hat sie aussortiert. Die Personalreferentin übernimmt die Vorauswahl. Die aussortierten Unterlagen sieht sie nicht mehr an.

Hat sie etwas falsch gemacht? Die Forschung hat für dieses Verhalten zunächst einmal einen Namen. Sie nennt es Automation Bias.

Wer in einer Organisation KI einführt, stößt schnell auf solche Fachwörter aus der Psychologie. Sie stehen in Studien und in der europäischen KI-Verordnung. Dieser Beitrag erklärt 12 davon. Zu jedem Begriff steht zuerst in einem Satz, was gemeint ist. Dann folgen ein Beispiel aus dem Betrieb, der stärkste Befund der Forschung und seine Einschränkung. Die Beispiele dienen der Veranschaulichung und stammen nicht aus den Studien. Einige Begriffe sind englisch. Sie heißen hier so wie in der Forschung und werden im ersten Satz auf Deutsch erklärt.

Eine Sache vorweg. Die meisten Befunde stammen aus Systemen, die einzelne Empfehlungen geben. Für KI-Agenten, die mehrere Arbeitsschritte selbst ausführen, sind sie deshalb eine begründete Vermutung und noch kein Ergebnis.

Konzeptgrafik als Kreislauf in 5 Schritten: Aufsicht wird verlangt, die Prüfung lässt nach, das Können sinkt, die Nutzung wird verdeckt, die Schuld bleibt beim Menschen. In der Mitte steht: Aufsicht ohne Voraussetzungen.
So lese ich die 12 Begriffe im Zusammenhang. Die einzelnen Schritte sind belegt, den Kreislauf als Ganzes hat bisher niemand gemessen.

Kann ein Mensch die KI wirklich beaufsichtigen?

Die ersten 4 Begriffe drehen sich um eine Person, die Ergebnisse einer KI prüfen soll. Was geschieht mit ihr bei dieser Aufgabe?

Automation Bias

Automation Bias ist die Neigung, die Empfehlung eines automatisierten Systems zu übernehmen und selbst nicht mehr zu prüfen, auch wenn die Empfehlung falsch ist. Die Personalreferentin vom Anfang ist das Beispiel dafür. Sie übernimmt die Vorauswahl der Software, ohne die aussortierten Unterlagen anzusehen.

Wie stark ist diese Neigung? Dratsch und Kollegen ließen 2023 für die Zeitschrift „Radiology“ 27 Radiologen 50 Mammogramme beurteilen, also Röntgenaufnahmen der Brust. Zu jeder Aufnahme gab es die Einstufung einer KI. Laut der Kurzfassung der Studie lagen die 5 sehr erfahrenen Radiologen in 82,3 % der Fälle richtig, wenn die Einstufung der KI stimmte. War sie falsch, lagen sie nur noch in 45,5 % der Fälle richtig, also bei weniger als jeder zweiten Aufnahme.

Die Stichprobe ist allerdings klein. Und es gibt einen Gegenbefund. Alon-Barkat und Busuioc fanden 2023 in 3 Survey-Experimenten keinen generellen Automation Bias.

Für eine Organisation heißt das zweierlei. Berufserfahrung ersetzt die Prüfung nicht. Und wie stark der Effekt ausfällt, hängt von der Aufgabe ab und davon, wie die Prüfung gestaltet ist.

Automation Bias einfach erklärt →

Human in the Loop

Human in the Loop ist ein Prinzip für die Gestaltung von Abläufen. Ein Mensch prüft die Ergebnisse einer KI und gibt sie frei, oder er kann den Vorgang stoppen. In der Rechnungsprüfung ist das die Sachbearbeiterin, die jede vom System vorgeschlagene Zahlung freigibt, bevor das Geld überwiesen wird.

Funktioniert das? Green hat 2022 41 Regelwerke zur menschlichen Aufsicht über staatliche Algorithmen ausgewertet. Nach seinem Schluss können Menschen die Aufsicht, die ihnen dort zugedacht ist, überwiegend nicht leisten. Eigene Daten hat Green dafür nicht erhoben. Seine Arbeit ist eine Analyse der Regelwerke.

Was müsste erfüllt sein, damit es funktioniert? Sterz und Kollegen nennen 2024 in einer konzeptionellen Arbeit 4 Bedingungen wirksamer Aufsicht. Die Person braucht die Macht einzugreifen, Zugang zur Situation, Selbstkontrolle und Absichten, die zu ihrer Rolle passen. Auch das Recht kennt den Gedanken. Art. 14 der europäischen KI-Verordnung verlangt, dass Hochrisiko-KI wirksam beaufsichtigt werden kann.

Ein Freigabeschritt ist für eine Organisation also erst dann Kontrolle, wenn diese Bedingungen am Arbeitsplatz erfüllt sind. Woher der Begriff kommt, erklärt der Beitrag Human in the Loop: Woher der Begriff kommt und was er verlangt.

Human in the Loop: der Begriff → Human in the Loop in der Praxis →

Vigilance Decrement

Vigilance Decrement ist der englische Fachbegriff für nachlassende Daueraufmerksamkeit. Wer länger eine Automatik überwacht, die meistens richtig arbeitet, bemerkt Fehler mit der Zeit seltener. Im Einkauf wäre das der Disponent, der am Nachmittag Bestellvorschläge eines Agenten durchsieht und Abweichungen seltener bemerkt als am Morgen.

Biondi und Kollegen haben das 2024 in der Zeitschrift „Human Factors“ auf der Straße untersucht, in Realfahrten mit 4 teilautomatisierten Fahrsystemen. Im teilautomatisierten Modus sank die Entdeckungsleistung über die Zeit stärker als beim Fahren von Hand.

Der Befund stammt aus dem Straßenverkehr. Wer ihn auf Büroarbeit überträgt, zieht einen Analogieschluss. Er schließt also von einem ähnlichen Fall auf einen anderen. Eine Organisation sollte deshalb zunächst beobachten, wo Menschen lange am Stück prüfen, ohne die Tätigkeit zu wechseln.

Cognitive Forcing Functions

Cognitive Forcing Functions sind Abläufe, die zum eigenen Nachdenken zwingen. Die prüfende Person muss selbst urteilen, bevor sie die Empfehlung der KI sieht. In der Reklamationsbearbeitung stuft die Sachbearbeiterin einen Fall zuerst selbst ein und sieht danach den Vorschlag des Systems.

Buçinca, Malaya und Gajos haben solche Abläufe 2021 in einem Experiment mit 199 Teilnehmenden getestet. Das Übervertrauen in die KI ging signifikant zurück, also stärker, als der Zufall erklären würde. Ganz verschwunden ist es nicht. Dazu kommt ein Haken. Die wirksamsten Gestaltungen wurden zugleich am schlechtesten bewertet.

Wirksame Prüfschritte sind also unbequem. Eine Organisation, die sie einführt, muss den Beschäftigten den Grund erklären.

Wer bekommt die Schuld für Fehler der KI?

Der 5. Begriff steht für sich. Er beschreibt, wem ein Fehler zugeschrieben wird, wenn Mensch und KI gemeinsam an einem Ergebnis beteiligt waren.

Moral Crumple Zone

Moral Crumple Zone ist ein Bild aus dem Autobau. Crumple Zone ist das englische Wort für die Knautschzone, die bei einem Unfall den Aufprall abfängt. Hier fängt ein Mensch die Schuld ab. Versagt ein automatisiertes System, landet die Verantwortung bei der Person, die nur begrenzte Kontrolle hatte.

Im Betrieb ist das der Sachbearbeiter, der für eine freigegebene Auszahlung geradestehen muss, obwohl er den Fehler in der verfügbaren Zeit kaum erkennen konnte.

Den Begriff hat Elish 2019 geprägt. Arnestad und Kollegen zeigten 2024 in der Zeitschrift „Cognition“, dass schon die Existenz eines manuellen Modus die Schuld des Menschen bei KI-Fehlern erhöht. Manueller Modus heißt, dass der Mensch von Hand eingreifen könnte. Die Schuld steigt auch dann, wenn er weder die Zeit noch die Fähigkeit zum Eingreifen hatte. Eine Grenze gehört dazu. Die Studien messen, wem in beschriebenen Fällen die Schuld zugeschrieben wird. Arbeitsrechtliche Folgen messen sie nicht.

Bevor eine Organisation einen Freigabeknopf einführt, sollte sie deshalb klären, was die prüfende Person realistisch prüfen kann.

Moral Crumple Zone einfach erklärt →

Was können Menschen noch ohne KI?

Die nächsten 3 Begriffe betreffen das Können. Was bleibt davon, wenn die KI einen Teil der Arbeit übernimmt?

Deskilling

Deskilling heißt, dass Können verloren geht oder gar nicht erst entsteht, weil die KI die Tätigkeit übernimmt. In der Ausbildung zeigt sich das, wenn ein Auszubildender Angebote nur noch mit dem Assistenten kalkuliert und die Rechnung ohne Assistenten nicht mehr aufstellen kann.

Der stärkste Befund kommt aus einer Schule. Bastani und Kollegen untersuchten 2025 in einem präregistrierten Feldexperiment in PNAS knapp 1.000 Schülerinnen und Schüler einer türkischen Schule. Präregistriert heißt, dass die Forscher vorab festgelegt haben, was sie auswerten. Wer mit einer ChatGPT-ähnlichen Variante gelernt hatte, schnitt in der Prüfung ohne KI 17 % schlechter ab als die Kontrollgruppe, also die Vergleichsgruppe im Experiment. Bei einer Tutor-Variante mit Leitplanken war der Schaden weitgehend aufgehoben.

Und bei Menschen, die ihren Beruf schon beherrschen? Dazu kenne ich bisher nur eine Beobachtungsstudie aus der Medizin. Budzyń und Kollegen beobachteten 2025 in 4 polnischen Zentren Koloskopien, also Darmspiegelungen. Nach Einführung der KI fiel die Adenomdetektionsrate bei Koloskopien ohne KI von 28,4 % auf 22,4 %. Diese Rate gibt an, bei welchem Anteil der Untersuchungen ein Adenom gefunden wird, eine Gewebeveränderung im Darm. Die Arbeit ist eine Beobachtungsstudie und kein Experiment. Sie ist deshalb nur ein Hinweis darauf, dass vorhandene Expertise verfallen kann.

Für eine Organisation heißt das, dass gute Leistung mit KI Lücken im Können verdecken kann.

Cognitive Offloading

Cognitive Offloading heißt, dass jemand Denk- und Gedächtnisleistung an ein Werkzeug auslagert. Im Controlling lagert eine Analystin aus, wenn sie die Abweichungsanalyse vollständig vom Assistenten schreiben lässt und die Herleitung nicht mehr selbst nachvollzieht.

Shen und Tamkin ließen 52 erfahrene Python-Entwickler eine Programmbibliothek lernen, die sie noch nicht kannten. Wer die Aufgabe nur an die KI delegierte, erreichte im Wissenstest unter 40 %. Nachfragen und Erklärenlassen gingen dagegen mit 65 bis 86 % einher.

Bei diesen Zahlen ist Vorsicht nötig. Die Teilgruppen umfassen nur 2 bis 7 Personen. Die Arbeit ist außerdem ein Preprint von 2026, also eine Vorabveröffentlichung, die noch nicht begutachtet ist.

Was folgt daraus? Eine Organisation sollte auf die Art der Nutzung achten, denn die Nutzungsmuster unterscheiden sich in den Testwerten deutlich.

Jagged Frontier

Jagged Frontier heißt wörtlich gezackte Grenze. Der Begriff beschreibt, dass eine KI bei Aufgaben, die ähnlich schwer wirken, teils sehr gut und teils unzuverlässig arbeitet. Im Einkauf fasst ein Assistent die Angebote von Lieferanten sauber zusammen und rechnet im selben Vorgang eine Staffelpreisklausel falsch.

Dell’Acqua und Kollegen untersuchten in einem präregistrierten Feldexperiment 758 Beraterinnen und Berater von BCG. Erschienen ist die Arbeit 2026 in der Zeitschrift „Organization Science“. Eine Aufgabe lag außerhalb der Grenze, also außerhalb dessen, was die KI zuverlässig kann. Bei dieser Aufgabe lagen KI-Nutzer deutlich seltener richtig als die Kontrollgruppe.

Wie groß war der Abstand? Hier gibt es 2 Fassungen. Das Arbeitspapier von 2023 nennt 19 Prozentpunkte, die Kurzfassung des Zeitschriftenartikels 19 %. Das ist nicht dasselbe. Prozentpunkte messen den Abstand zwischen 2 Anteilen, Prozent messen eine relative Veränderung. Der Befund beruht außerdem auf einer einzigen Aufgabe außerhalb der Grenze.

Von außen ist die Grenze kaum zu erkennen. Eine Organisation muss sie deshalb für ihre eigenen Aufgaben erproben.

Was macht KI mit der Zusammenarbeit?

Die letzten 4 Begriffe beschreiben, was zwischen Menschen geschieht, wenn KI zum Arbeitsalltag gehört.

Human-AI Synergy

Human-AI Synergy liegt vor, wenn Mensch und KI zusammen mehr leisten als der Bessere von beiden allein. Die Forschung spricht auch von Komplementarität. Im Vertrieb wäre das ein Angebot, das mit Assistent besser ausfällt als der beste Entwurf der Vertriebsleiterin und der beste Entwurf der KI.

Kommt das oft vor? Vaccaro, Almaatouq und Malone werteten 2024 in „Nature Human Behaviour“ 106 Experimente mit 370 Effektstärken aus. Eine Effektstärke gibt an, wie groß ein gemessener Unterschied ist. Im Mittel waren Mensch und KI zusammen schlechter als der jeweils Bessere allein (Hedges’ g = −0,23). Hedges’ g ist das Maß für die Effektstärke, und das Minus steht hier für schlechter.

Genauer wird das Bild, wenn man fragt, wer allein besser war. War der Mensch allein besser als die KI, entstand Synergie (g = 0,46). War die KI allein besser, verlor die Kombination an Leistung (g = −0,54).

Die ausgewerteten Studien enden Mitte 2023. Generative KI und Agenten kommen darin kaum vor. Eine Organisation sollte deshalb je Aufgabe prüfen, ob die Kombination tatsächlich besser ist als die bessere Einzellösung.

Mensch-KI-Teams messen und führen →

Social Evaluation Penalty

Social Evaluation Penalty heißt, dass Menschen im Urteil anderer verlieren, wenn sie KI nutzen. Sie werden als fauler und weniger kompetent beurteilt, und sie rechnen auch damit. Im Team zeigt sich das, wenn eine Kollegin verschweigt, dass der Entwurf ihres Berichts aus einem KI-Tool stammt.

Reif, Larrick und Soll belegen den Effekt 2025 in der Zeitschrift PNAS in 4 präregistrierten Experimenten mit laut Autoren über 4.400 Teilnehmenden. In einem Experiment mit 1.215 Teilnehmenden wurden Beschäftigte, die KI nutzten, tatsächlich so beurteilt. Die Experimente arbeiten überwiegend mit beschriebenen Fällen und mit Online-Stichproben, also mit Teilnehmenden, die über das Internet gewonnen wurden.

Was heißt das für eine Organisation? Beschäftigte rechnen damit, dass offene KI-Nutzung sie Ansehen kostet. Damit haben sie einen Grund, die Nutzung zu verschweigen.

Schatten-KI

Schatten-KI ist die berufliche Nutzung von KI-Tools, die der Arbeitgeber nicht bereitgestellt oder nicht freigegeben hat. Im Alltag ist das der Sachbearbeiter, der eine Kundenmail mit seinem privaten Chatbot-Zugang formuliert.

Wie verbreitet ist das? Der IW-Kurzbericht 63/2026 beruht auf einer repräsentativen Befragung von knapp 5.000 Beschäftigten, von denen 2.793 KI beruflich nutzen. Von diesen Nutzern verwenden 29,1 % Tools, die der Arbeitgeber nicht bereitgestellt hat. Das sind knapp 3 von 10. Wo der Arbeitgeber den Aufbau von KI-Kompetenz stark fördert, sind es 44,5 %. Ohne Förderung sind es 21,3 %, also etwa 1 von 5.

Auch hier gibt es Einschränkungen. Der Kurzbericht ist nicht begutachtet und stammt von einem arbeitgebernahen Institut. Er ist eine Querschnittsbefragung, also eine Befragung zu einem einzigen Zeitpunkt. Die Autorinnen betonen außerdem, dass nicht bereitgestellt nicht zwingend heimlich oder verboten bedeutet.

Eine Organisation sollte Schatten-KI deshalb zuerst als Nachfrage nach geeigneten Werkzeugen lesen.

Psychologische Sicherheit

Psychologische Sicherheit ist die geteilte Überzeugung in einem Team, dass man Fehler und Zweifel ohne Nachteil ansprechen kann. In der Wochenrunde zeigt sie sich, wenn eine Mitarbeiterin sagt, dass sie eine falsche Auskunft des Agenten an einen Kunden weitergegeben hat.

Kim, Kim und Lee fanden 2025 in einer dreiwelligen Befragung von Beschäftigten in Südkorea einen indirekten Zusammenhang. Dreiwellig heißt, dass zu 3 Zeitpunkten befragt wurde. Die Einführung von KI war über geringere psychologische Sicherheit mit Depression verbunden. Ethische Führung schwächte den Zusammenhang ab. Der Befund ist korrelativ. Er zeigt also, was zusammen auftritt, und nicht, was die Ursache ist.

Dass psychologische Sicherheit beim Melden von KI-Fehlern hilft, ist für eine Organisation plausibel. Nach meinem Kenntnisstand wurde es aber noch in keinem Experiment gemessen.

Was die 12 Begriffe zusammen zeigen.

Was ergibt sich, wenn man die 12 Begriffe nebeneinanderlegt? Was jetzt folgt, ist meine Einschätzung und kein gemessener Befund.

Organisationen geben dem Menschen die Aufsicht über die KI. Wirkt die KI gut, strengt sich dieser Mensch beim Prüfen weniger an. Das legen die Befunde zu Automation Bias und Vigilance Decrement nahe. Zugleich kann die Nutzung der KI das Können abbauen, auf dem die Prüfung beruht. Wer mit einem schlechteren Urteil der anderen rechnet, nutzt die KI eher verdeckt, und dort werden Fehler seltener besprochen. Am Ende wird der Fehler der Person zugeschrieben, die freigegeben hat.

Jedes Glied dieser Kette ist einzeln belegt, teils stark und teils schwach. Die Kette als Ganzes hat bisher niemand gemessen.

Ich folgere daraus, dass Organisationen eine Aufsicht verlangen, deren psychologische Voraussetzungen sie nicht gestalten. Zu diesen Voraussetzungen zähle ich Zeit für die Prüfung, Prüfschritte mit eigenem Urteil, Übung ohne KI und ein Team, in dem Fehler besprochen werden. Appelle zur Wachsamkeit sind nach dem Stand der Forschung schwach gedeckt. Gestaltung wirkt dagegen in einzelnen Experimenten.

Und bei Agenten? Dazu liegen nach meiner Sichtung Ende 2026 nur wenige nicht begutachtete Arbeiten vor. Für Agenten bleibt die Zusammenschau deshalb eine Ausgangsvermutung.

Vielleicht nehmen Sie aus diesem Beitrag 3 Fragen mit. Wer prüft in Ihrer Organisation die Ergebnisse einer KI, und hat diese Person dafür genug Zeit? Wo üben Ihre Beschäftigten noch ohne KI? Kann in Ihren Teams jemand offen sagen, dass er KI genutzt oder einen Fehler der KI weitergegeben hat?

Wie sich die Aufsicht verändert, wenn Agenten eigenständig arbeiten, beschreibt der Beitrag Human in the Loop: Warum Delegation keine Zusammenarbeit ist. Wenn Sie Prüfschritte und Rollen für Ihre eigene Organisation durchdenken möchten, ist das KI-Organisationslabor der Ort dafür.

KI-Organisationslabor

Was das für Ihre Organisation heißt. Im KI-Organisationslabor klären wir es gemeinsam am echten Fall.

Im KI-Organisationslabor bringen wir Agenten in den echten Betrieb und legen fest, wer welche Entscheidung trifft. Vorher rechnen wir Szenarien in Euro durch.

Analysen · Magazin von Prof. Dr. Kai Reinhardt

Jeden Monat eine Einordnung zu KI in Organisationen.

Einmal im Monat nehme ich mir ein Thema vor, das Organisationen gerade beschäftigt. Sie bekommen das Editorial und die neuen Analysen per Mail. Die erste Ausgabe per Mail kommt im Dezember.

  • Ohne Werbung
  • Einmal im Monat
  • Abmeldung mit einem Klick

Aktuell Ausgabe 1 · November 2026 · Wer wirklich im KI-Loop steht. Ausgabe lesen ›

Anmerkungen zum Text
Auswahl der Begriffe
Der Beitrag ordnet 12 Begriffe in 4 Gruppen, nämlich Aufsicht, Verantwortung, Können sowie Zusammenarbeit und Kultur. Die Erklärungen sind Arbeitsfassungen in Alltagssprache und ersetzen keine Lehrbuchdefinition. Englische Begriffe heißen so wie in der Forschung.
Prozent und Prozentpunkte
Prozentpunkte messen den Abstand zwischen 2 Anteilen, Prozent messen eine relative Veränderung. Beide Angaben können bei gleichem Sachverhalt weit auseinanderliegen. Wo Fassungen einer Studie die Einheit unterschiedlich angeben, nennt der Beitrag beide.
Stand der Evidenz
Fast alle starken Befunde stammen aus Assistenzsystemen, die einzelne Empfehlungen geben. Für KI-Agenten, die mehrere Schritte selbst ausführen, liegen nach meiner Sichtung bisher nur wenige nicht begutachtete Arbeiten vor.
Siehe auch
Herkunft des Begriffs: Human in the Loop: Woher der Begriff kommt und was er verlangt. Die Praxis dazu: Human in the Loop: Warum Delegation keine Zusammenarbeit ist. Was Kooperation im engeren Sinn heißt: Wenn KI und Menschen kooperieren.

Häufige Fragen

Was ist Automation Bias?

Automation Bias ist die Neigung, die Empfehlung eines automatisierten Systems zu übernehmen und die eigene Prüfung zu unterlassen, auch wenn die Empfehlung falsch ist. In einer Leserstudie mit 27 Radiologen lagen die 5 sehr erfahrenen Radiologen laut Abstract bei falscher KI-Einstufung nur noch in 45,5 % der Fälle richtig, bei richtiger Einstufung in 82,3 %. Andere Experimente finden keinen generellen Automation Bias. Der Effekt hängt deshalb von Aufgabe und Gestaltung ab.

Was bedeutet Moral Crumple Zone?

Der Begriff stammt von Elish aus dem Jahr 2019. Crumple Zone ist das englische Wort für die Knautschzone eines Autos. Der Begriff beschreibt, dass die Verantwortung für das Versagen eines automatisierten Systems bei dem Menschen landet, der nur begrenzte Kontrolle hatte. Experimente zeigen, dass schon die Existenz eines manuellen Modus die Schuld des Menschen bei KI-Fehlern erhöht. Die Studien messen Zuschreibungen in beschriebenen Fällen und keine rechtlichen Folgen.

Führt KI zu Deskilling?

Die Forschung zeigt Hinweise in diese Richtung, aber keinen allgemeinen Beweis. In einem Feldexperiment mit knapp 1.000 Schülerinnen und Schülern schnitten Lernende mit einer ChatGPT-ähnlichen Variante in der Prüfung ohne KI 17 % schlechter ab als die Kontrollgruppe. Bei einer Tutor-Variante mit Leitplanken war der Schaden weitgehend aufgehoben. Für Berufserfahrene kenne ich bisher nur eine Beobachtungsstudie aus der Medizin.

Was ist Schatten-KI?

Schatten-KI ist die berufliche Nutzung von KI-Tools, die der Arbeitgeber nicht bereitgestellt oder nicht freigegeben hat. Nach dem IW-Kurzbericht 63/2026 verwenden 29,1 % der beruflichen KI-Nutzer in Deutschland Tools, die der Arbeitgeber nicht bereitgestellt hat. Wo der Arbeitgeber den Aufbau von KI-Kompetenz stark fördert, liegt der Anteil bei 44,5 %, ohne Förderung bei 21,3 %. Die Autorinnen betonen, dass nicht bereitgestellt nicht zwingend heimlich oder verboten bedeutet.

Mehr zum Thema.

Dossier Ersetzt KI meine Arbeit? Vom alarmierenden Befund bis zur belastbaren Antwort.

Mehr zu diesem Thema Alle Beiträge