Montagmorgen. Auf dem Kundensupport-Dashboard stehen drei fehlerhaft beantwortete Reklamationen. Zuständige Instanz: Mia. Mia ist ein KI-Agent. Seit drei Monaten beantwortet das System Standardanfragen und leitet schwierige Fälle an einen Menschen weiter. Im Kick-off hatte jemand vorgeschlagen, ihm einen Vornamen zu geben. So könne das Team lockerer darüber sprechen. Fanden alle charmant. Nun hat Mia einem Kunden einen Rabatt zugesagt, den es gar nicht gibt. Der Kunde hat die Zusage schriftlich. „War wohl nicht ihre beste Woche“, sagt jemand im Team. Anschließend wird überlegt, Mia beim nächsten Mal mehr Kontext mitzugeben. Fast so, als bräuchte eine Kollegin ein Feedbackgespräch.
Genau hier beginnt das Problem: Das Team behandelt einen Softwarefehler wie eine menschliche Leistungsschwäche. Die Vermenschlichung von KI verändert damit nicht nur die Sprache. Sie beeinflusst auch, wie sorgfältig Menschen Ergebnisse prüfen – und wer sich für Fehler verantwortlich fühlt.
Was bedeutet Vermenschlichung von KI?
Vermenschlichung von KI bedeutet, dass Menschen einem technischen System menschliche Eigenschaften zuschreiben. In der Forschung wird dafür auch der Begriff Anthropomorphisierung verwendet.
Das geschieht zum Beispiel, wenn ein KI-Agent:
- einen menschlichen Vornamen erhält,
- als Kollege oder Mitarbeiterin bezeichnet wird,
- einen Jobtitel bekommt,
- im Organigramm auftaucht,
- eine eigene Persönlichkeit erhält,
- einer Führungskraft zugeordnet wird,
- wie ein selbstständig handelndes Teammitglied behandelt wird.
Ein Name allein verändert die technische Funktionsweise eines Systems nicht. Er kann aber verändern, wie Menschen das System wahrnehmen.
Aus einem Werkzeug wird in der Vorstellung ein Gegenüber. Aus einem Fehler des Systems wird „Mias Fehler“. Und aus der Verantwortung der Menschen, die das System auswählen, konfigurieren, überwachen und seine Ergebnisse freigeben, wird plötzlich eine geteilte Verantwortung zwischen Mensch und Maschine.
Dabei kann eine KI keine Verantwortung übernehmen. Sie kann weder für einen Fehler geradestehen noch dessen Konsequenzen tragen.
Warum behandeln Menschen KI wie eine Person?
Das Phänomen ist nicht neu. Bereits in den 1960er-Jahren entwickelte der Informatiker Joseph Weizenbaum das Dialogprogramm ELIZA. Es simulierte eine Therapeutin, indem es Aussagen der Nutzerinnen und Nutzer aufgriff und in Fragen zurückverwandelte.
Technisch war das System äußerst einfach. Trotzdem entstand bei vielen Menschen der Eindruck, ELIZA verstehe sie.
Weizenbaum berichtete, dass selbst seine Sekretärin, die wusste, wie das Programm funktionierte, ihn bat, den Raum zu verlassen, damit sie ungestört mit ELIZA sprechen konnte.
Seitdem bezeichnet der Begriff Eliza-Effekt die menschliche Tendenz, einem Computer Verständnis oder Einfühlungsvermögen zuzuschreiben, sobald er sprachlich überzeugend reagiert.
Heutige Sprachmodelle verstärken diesen Effekt. Sie formulieren flüssig, reagieren auf den Gesprächsverlauf, verwenden Namen und passen ihren Ton an. Dadurch wirken sie nicht mehr wie klassische Software.
Doch eine überzeugend formulierte Antwort ist nicht zwangsläufig eine richtige Antwort. Und ein System, das sprachlich wie eine Kollegin auftritt, verfügt deshalb weder über menschliches Urteilsvermögen noch über Verantwortungsbewusstsein.
Studie: Was die Vermenschlichung von KI im Unternehmen bewirkt
Eine im Mai 2026 im Harvard Business Review veröffentlichte Studie untersuchte, wie sich unterschiedliche Darstellungen von KI-Agenten auf die Kontrolle ihrer Arbeit auswirken.
An dem Experiment nahmen 1.261 Führungskräfte aus den USA, Kanada und der Europäischen Union teil. Sie arbeiteten in den Bereichen Personal und Finanzen.
Die Teilnehmenden sollten fehlerhafte Arbeitsdokumente prüfen, die in allen Gruppen identisch waren. Lediglich die Kennzeichnung der ursprünglichen Verfasserinstanz unterschied sich:
- ein neutrales KI-Tool,
- ein menschlicher Mitarbeiter namens Alex,
- ein als Teammitglied dargestellter KI-Agent namens ALEX-3.
Besonders deutlich waren die Unterschiede bei Führungskräften, deren Unternehmen KI-Agenten bereits in Organigrammen oder Arbeitsstrukturen als Mitarbeitende führen.
Die Teilnehmenden fanden weniger Fehler
Wurde die KI als Mitarbeiter statt als neutrales Tool dargestellt, entdeckten die Führungskräfte 18 Prozent weniger Fehler.
Sie übersahen häufiger widersprüchliche Angaben, fehlerhafte Berechnungen und unlogische Anforderungen. In einem Beispieldokument sollte ein Vertrag angeblich die Kosten senken, während die dazugehörige Tabelle steigende Gesamtausgaben auswies. In einem anderen wurde für eine Einstiegsposition mehr als zehn Jahre Berufserfahrung verlangt.
Die Dokumente waren identisch. Verändert hatte sich nur die Rahmung.
Die persönliche Verantwortung nahm ab
Auch die Zuschreibung von Verantwortung verschob sich.
Wurde die KI als Mitarbeiter bezeichnet, schrieben sich die Teilnehmenden selbst neun Prozentpunkte weniger Verantwortung zu. Gleichzeitig wurden dem KI-System 8 Prozentpunkte mehr Verantwortung zugerechnet.
Genau darin liegt ein zentrales Governance-Problem: Ein KI-System kann zwar einen Prozessschritt ausführen. Es kann aber nicht für die Qualität des Ergebnisses einstehen.
Die Verantwortung bleibt bei den Menschen, die:
- das System einsetzen,
- seine Aufgaben definieren,
- seine Berechtigungen festlegen,
- die Ergebnisse prüfen,
- Entscheidungen freigeben.
Wird ein Fehler als „Fehler von Mia“ oder „Fehler von Kevin“ bezeichnet, gerät diese Verantwortung leicht aus dem Blick.
Die Zahl unnötiger Eskalationen stieg
Die Teilnehmenden konnten die geprüften Dokumente zur zusätzlichen Kontrolle an eine vorgesetzte Person weiterreichen.
Bei der Darstellung als KI-Mitarbeiter stieg die Zahl dieser Eskalationen gegenüber der neutralen Tool-Rahmung um 44 Prozent.
Zusätzliche Kontrolle ist nicht grundsätzlich problematisch. In regulierten oder risikoreichen Prozessen ist sie unverzichtbar.
Problematisch wird sie, wenn sie die eigene sorgfältige Prüfung ersetzt. Dann entsteht kein sinnvoller Human-in-the-Loop-Prozess, sondern ein unstrukturiertes Weiterreichen von Verantwortung. Jemand prüft nicht mehr selbst gründlich, sondern gibt das Ergebnis vorsichtshalber an die nächste Person weiter.
Ein menschlicher Name verbessert die Akzeptanz nicht automatisch
Unternehmen geben KI-Agenten häufig Namen, um sie nahbarer zu machen. Die Technik soll weniger bedrohlich wirken. Beschäftigte sollen weniger Berührungsängste haben und das System eher nutzen.
Die Studie fand für diese Annahme jedoch keinen Beleg.
Die Darstellung als Mitarbeiter erhöhte die Absicht, die KI zu nutzen, nicht erkennbar. Für die tatsächliche Akzeptanz waren die Unterstützung und das Verhalten der Führungskräfte wichtiger als die Frage, ob das System als Werkzeug oder Kollege bezeichnet wurde.
Gleichzeitig zeigte sich ein weiterer Effekt: In Unternehmen, deren Führung KI als Teammitglied oder Mitarbeitende bezeichnete, berichteten Führungskräfte häufiger von Unsicherheit über ihre eigene berufliche Rolle.
Sie äußerten:
- 13 Prozent häufiger Unsicherheit über ihre professionelle Identität,
- 7 Prozent häufiger Sorgen um den eigenen Arbeitsplatz,
- 10 Prozent weniger Vertrauen in den KI-Einsatz des Unternehmens.
Die Vermenschlichung von KI kann damit genau das Gegenteil dessen bewirken, was Unternehmen erreichen wollen.
Statt die Einführung zu erleichtern, kann sie Rollenunsicherheit verstärken: Wenn eine KI als Kollegin im Organigramm steht, stellt sich für Beschäftigte zwangsläufig die Frage, welche Rolle für sie selbst noch vorgesehen ist.
Nicht der Vorname allein ist das Problem
Heißt das, dass jedes System nur noch eine nüchterne technische Bezeichnung tragen darf?
Nicht unbedingt.
Ein informeller Spitzname ist nicht automatisch gefährlich. Entscheidend ist, welche organisatorischen Erwartungen mit ihm verbunden werden.
Problematisch wird es, wenn aus der sprachlichen Vermenschlichung eine organisatorische Fiktion entsteht:
- Der KI-Agent gilt als eigenständiges Teammitglied.
- Er erhält einen menschlichen Jobtitel.
- Er wird einer Führungskraft als Mitarbeiter zugeordnet.
- Fehler werden dem System statt den verantwortlichen Menschen zugeschrieben.
- Das System erhält Entscheidungsrechte, ohne dass menschliche Zuständigkeiten geklärt sind.
- Niemand kann eindeutig sagen, wer für seine Ergebnisse einsteht.
Ein Name kann der Einstieg in diese Verschiebung sein. Der eigentliche Fehler besteht jedoch darin, eine technische Komponente wie eine eigenverantwortliche Person zu behandeln.
Warum die Vermenschlichung von KI für Verlage besonders heikel ist
Für Verlage und Bildungsorganisationen ist die Frage nicht akademisch. KI-Systeme können heute beispielsweise:
- Manuskripte vorprüfen,
- Texte zusammenfassen,
- Lerneinheiten vorstrukturieren,
- Metadaten erzeugen,
- Prüfungsfragen formulieren,
- Inhalte aktualisieren,
- Kundenanfragen beantworten,
- Dokumente für verschiedene Ausgabekanäle aufbereiten.
Fehler in diesen Prozessen sind nicht immer sofort sichtbar.
Ein KI-System kann eine Formulierung erzeugen, die sprachlich einwandfrei klingt, aber fachlich falsch ist. Es kann eine veraltete Rechtsgrundlage übernehmen, eine Quelle erfinden oder eine Änderung nur in einem Ausgabekanal berücksichtigen.
Wird ein solches System als Kollegin inszeniert, besteht das Risiko, dass seine Ergebnisse weniger kritisch geprüft und Fehler nicht mehr eindeutig einer menschlichen Rolle zugeordnet werden.
Das kann Folgen haben:
- falsche Fakten in Fachartikeln,
- veraltete Inhalte in Lehrmaterialien,
- fehlerhafte Prüfungsaufgaben,
- inkonsistente Terminologie,
- übersehene Rechteprobleme,
- falsche Angaben gegenüber Lernenden oder Autorinnen,
- unterschiedliche Versionen in verschiedenen Ausgabekanälen.
Ein Fehler in einem internen Entwurf lässt sich korrigieren. Sobald er veröffentlicht ist, trägt ihn jedoch der Name des Verlags oder Bildungsanbieters – nicht der Name des KI-Agenten.
KI-Governance: Klare Verantwortung statt künstlicher Kollegen
Die Studie spricht nicht gegen den Einsatz von KI-Agenten. Sie zeigt vielmehr, dass Unternehmen ihre Arbeitsabläufe, Rollen und Verantwortlichkeiten neu gestalten müssen, wenn Systeme zunehmend selbstständig Aufgaben übernehmen.
Die entscheidende Frage lautet nicht:
Wie menschlich soll sich unser KI-Agent anfühlen?
Sondern:
Wie organisieren wir Arbeit so, dass die menschliche Verantwortung trotz zunehmender Automatisierung eindeutig bleibt?
Dafür braucht es mindestens vier Regeln.
1. KI-Systeme nach ihrer Funktion benennen
Offizielle Bezeichnungen sollten deutlich machen, welche Aufgabe ein System erfüllt.
Zum Beispiel:
- Manuskriptprüfung statt Mia,
- Metadaten-Assistent statt Max,
- Support-Automation statt Sarah,
- Rechnungsprüfung statt Kevin,
- Übersetzungsworkflow statt virtueller Kollege.
Das hält die Kommunikation auf der sachlichen Ebene. Es wird deutlich, dass es sich um eine technische Funktion innerhalb eines Prozesses handelt.
Ein Spitzname im informellen Austausch mag bleiben. In Dokumentationen, Organigrammen, Freigaben und Eskalationswegen sollte jedoch die technische Funktion stehen.
2. Für jedes Ergebnis eine verantwortliche Person festlegen
Für jeden KI-gestützten Prozess muss klar sein:
- Wer definiert die Aufgabe des Systems?
- Wer kontrolliert seine Ergebnisse?
- Wer darf sie freigeben?
- Wer überwacht die Fehlerquote?
- Wer greift ein, wenn das System versagt?
- Wer entscheidet über Änderungen am System?
Die Antwort darf nicht „das Team“ oder „die KI“ lauten.
Verantwortung braucht eine klar definierte menschliche Rolle.
3. Entscheidungs- und Eskalationsregeln dokumentieren
Human in the Loop darf nicht bedeuten, dass Ergebnisse nach Bauchgefühl weitergereicht werden.
Ein System sollte nach definierten Kriterien eskalieren, etwa:
- bei einem bestimmten finanziellen Betrag,
- bei rechtlich relevanten Inhalten,
- bei personenbezogenen Daten,
- bei fehlenden oder widersprüchlichen Quellen,
- bei hoher fachlicher Unsicherheit,
- vor der Veröffentlichung sensibler Inhalte.
Dabei muss vorab geklärt sein:
- Was darf das System selbstständig tun?
- Was erfordert eine menschliche Freigabe?
- Wer übernimmt die Prüfung?
- Was geschieht nach einem Fehler?
Genau diese Fragen nennen auch die Autorinnen und Autoren des HBR-Beitrags als Grundlage einer verantwortlichen Zusammenarbeit zwischen Menschen und KI-Agenten.
4. Menschliche Rollen ausdrücklich neu definieren
Wenn KI Aufgaben übernimmt, verändert sich die Arbeit der Menschen. Sie übernehmen möglicherweise weniger operative Einzelschritte, dafür aber mehr Aufsicht, fachliche Bewertung, Qualitätssicherung, Umgang mit Ausnahmen, Priorisierung, Beziehungsgestaltung, Verantwortung für Entscheidungen.
Diese Veränderung darf nicht unausgesprochen bleiben.
Beschäftigte müssen wissen, was künftig von ihnen erwartet wird, welche Entscheidungen bei ihnen bleiben und wie die Qualität ihrer Arbeit bewertet wird.
Sonst entsteht der Eindruck, KI werde einfach als zusätzlicher Mitarbeiter ins bestehende Organigramm gesetzt – während niemand erklärt, wie sich die Rollen der tatsächlichen Mitarbeitenden verändern.
Wann eine menschlich wirkende KI sinnvoll sein kann
Eine menschlich wirkende Ansprache ist nicht grundsätzlich falsch.
Bei Systemen, deren ausdrücklicher Zweck eine niedrigschwellige Begleitung oder Beratung ist, kann eine bewusst gestaltete Persönlichkeit sinnvoll sein. Das gilt beispielsweise für bestimmte Service- oder Beratungsangebote, bei denen Menschen zunächst Vertrauen aufbauen müssen.
Auch dann braucht es jedoch klare Grenzen:
- Das System muss als KI erkennbar sein.
- Es darf keine menschlichen Fähigkeiten vortäuschen, die es nicht besitzt.
- Seine Aufgaben müssen klar begrenzt sein.
- Für kritische Fälle braucht es eine verlässliche Übergabe an Menschen.
- Die verantwortliche Organisation muss für seine Aussagen einstehen.
Die Persönlichkeit ist in solchen Fällen ein bewusst gewähltes Gestaltungsmittel. Sie darf keine zufällige Nebenwirkung eines Kick-offs sein, in dem jemand einen Vornamen sympathisch fand.
Mia darf einen Spitznamen haben – aber keine Verantwortung
Zurück zu Mia vom Montagmorgen.
Vielleicht wird das Support-System im Team weiterhin so genannt. Entscheidend ist, dass Mia weder im Organigramm sitzt noch eine Freigabe erteilt oder für einen Fehler geradesteht.
Wenn ein falscher Rabatt zugesagt wurde, braucht es kein Feedbackgespräch mit Mia.
Es braucht Antworten auf konkrete Fragen:
- Welche Systemversion war im Einsatz?
- Auf welche Daten durfte sie zugreifen?
- Welche Regel hat gefehlt oder versagt?
- Warum wurde die Antwort nicht kontrolliert?
- Wer war für die Freigabe verantwortlich?
- Wie wird derselbe Fehler künftig verhindert?
Das ist der Unterschied zwischen einer künstlichen Kollegin und professioneller KI-Governance.
Wer wissen möchte, ob im eigenen Unternehmen KI-Agenten bereits vermenschlicht werden, kann in die Dokumentation, die Systemprompts und die interne Kommunikation schauen.
Tauchen dort Namen, Persönlichkeiten oder Formulierungen wie „Kollege“, „Mitarbeiterin“ oder „Teammitglied“ auf?
Dann folgt die entscheidende Frage:
Welcher konkrete Mensch ist verantwortlich, wenn dieses System einen Fehler macht?
Nicht „das Team“. Nicht „der Fachbereich“. Und erst recht nicht Mia.
