KI-Denkfehler #53: «Die KI ist nur ein Papagei.»
«Die KI plappert.» Das sage ich selbst oft genug in meinen KI-Workshops und Vorträgen. Es ist beruhigend: Wer die KI zum Papagei erklärt, muss sich nicht weiter mit ihr beschäftigen. Das Bild vom «stochastischen Papageien», also vom Papagei, der basierend auf Wahrscheinlichkeitsrechnung plappert, stammt aus einer der wichtigsten kritischen Studien über Sprachmodelle. «Die KI ist nur ein Papagei» ist nicht falsch. Das Problem ist das Wörtchen «nur»: Es macht aus dem Bild eine Beruhigungspille. Zu Unrecht. Sprachmodelle plappern nicht einfach nach, sie verallgemeinern und extrapolieren. Zwar bleibt die KI auf die Zeichenebene der Sprache reduziert und hat keinen Zugang zur wirklichen Welt, aber diese Zeichenebene der Sprache beherrscht sie viel besser als ein blosser Papagei. Ich glaube deshalb, wir überschätzen die Fähigkeiten der KI in Bezug auf die Wirklichkeit, aber wir unterschätzen ihre Fähigkeiten in Bezug auf die Sprache. Wer die KI unterschätzt, ist ihr genauso ausgeliefert wie jemand, der sie überschätzt.
Seit über 50 Folgen illustriere ich meine Denkfehler-Serie mit überzeichneten Papageien. Ein knallroter Ara, hyperrealistisch und bewusst kitschig, mal mit Brille, mal mit Augenbinde. Das Bild war Programm: die KI als Wesen, das Sprache produziert, ohne zu wissen, was sie bedeutet. Mit dieser Folge verabschiede ich den Papagei. Für meine Vorträge habe ich Roboterillustrationen entwickelt, weil sie das besser auf den Punkt bringen, was die KI ausmacht: die Imitation des Menschen durch eine Maschine. Ab jetzt illustrieren meine Roboter auch die Denkfehler-Serie. Der Papagei war nicht falsch, aber er verführt zu Bequemlichkeit. Der Satz «Die KI ist nur ein Papagei» ist inzwischen selbst zum Denkfehler geworden.
Was der Papagei richtig macht
2021 veröffentlichten die Computerlinguistin Emily Bender, die KI-Forscherin Timnit Gebru und Kolleginnen einen Aufsatz mit dem Titel «On the Dangers of Stochastic Parrots». Gebru verlor wegen dieses Papiers ihre Stelle bei Google. Der Begriff vom «stochastischen Papageien» meint: Ein Sprachmodell setzt Wortformen nach Wahrscheinlichkeiten aneinander, ohne Bezug zur Welt und ohne die Absicht, etwas mitzuteilen. Die Bedeutung entsteht erst bei uns, beim Lesen. Wir unterstellen einem Text automatisch einen Autor mit Intention, also einen Menschen, der mit dem Text etwas mitteilen will.
Emily Bender hatte das ein Jahr zuvor zusammen mit Alexander Koller in einem Gedankenexperiment durchgespielt. Ein hochintelligenter Oktopus zapft ein Unterseekabel an, über das zwei Menschen auf einsamen Inseln miteinander telegrafieren. Er lernt die Muster ihrer Nachrichten so gut, dass er sich irgendwann selbst einschalten kann, und keiner der beiden merkt etwas. Das geht gut, bis einer der beiden von einem Bären angegriffen wird und fragt, wie er sich mit zwei Stöcken verteidigen soll. Der Oktopus hat nie einen Bären gesehen und nie einen Stock. Er kennt zwar die Form der Wörter, hat aber keine Ahnung von dem, auf das sie in der Wirklichkeit verweisen.
Das ist der Kern der KI-Kritik, und er gilt bis heute: Zeichen ist nicht gleich Bedeutung. Die Semiotik unterscheidet zwischen dem Zeichen und dem, worauf es in der Welt verweist; ein Sprachmodell arbeitet nur mit den Zeichen. Die KI generiert also Rezepte, ohne je in einen Kuchen zu beissen. Die Warnung hatte zudem eine zweite Seite: Weil die Modelle so flüssig formulieren, fallen wir auf sie herein. Auch das stimmt noch immer. Die Frage ist nur, ob «Papagei» noch das richtige Wort dafür ist.
Papageien plappern nach, Sprachmodelle nicht
Ein Papagei wiederholt, was er gehört hat. Ein Sprachmodell tut genau das in aller Regel nicht. Es basiert zwar auf viel Input, generiert daraus aber neue Sätze, die so noch nie jemand gesagt hat, wendet Regeln auf Fälle an, die es nie gesehen hat, und überträgt einen Sprachinhalt von einem Stil in einen anderen. Das Sprachmodell plappert also nicht einfach nach, es verallgemeinert.
Was dabei im Inneren der Modelle passiert, lässt sich inzwischen teilweise beobachten. Forschende um Kenneth Li haben ein Sprachmodell ausschliesslich mit Zugfolgen des Brettspiels Othello trainiert, also mit Zeichenketten wie «E3, F4, C5». Othello (auch bekannt als Reversi) ist ein strategisches Brettspiel für zwei Personen, bei dem das Spielziel darin besteht, am Ende die Mehrheit der eigenen Spielsteine auf dem Brett zu haben. Das Modell bekam nie ein Spielbrett zu sehen, niemand erklärte ihm die Regeln. Trotzdem fanden die Forschenden in seinem Inneren eine Darstellung des Bretts: Das Modell «wusste», welcher Stein wo liegt. Veränderten sie diese innere Darstellung gezielt, änderte das Modell seine Züge entsprechend. Anthropic hat 2025 untersucht, wie Claude gereimte Verse schreibt. Das Ergebnis: Bevor das Modell die zweite Zeile beginnt, hat es das Reimwort bereits «ausgewählt» und baut die Zeile darauf hin. So ähnlich würde es auch ein menschlicher Reimeschmied machen: Er plant. Ein Papagei plant nicht.
Die Kognitionswissenschaftlerin Anna Ivanova, der Linguist Kyle Mahowald und ihre Kollegen schlagen dafür eine Unterscheidung vor. Sprachmodelle beherrschen die formale Sprachkompetenz erstaunlich gut: Grammatik, Wortwahl, Stil. Bei der funktionalen Kompetenz, also dem Gebrauch von Sprache, der dazu dient, über die Welt nachzudenken, zu planen und zu urteilen, sind sie deutlich weniger zuverlässig. Das ist präziser als «Papagei». Unser Problem ist, dass wir uns ein System, das Sprache meisterhaft beherrscht und trotzdem nicht weiss, wovon es spricht, schlecht vorstellen können. Die KI funktioniert schlicht völlig anders als wir.
Übrigens tut man auch den Papageien Unrecht. Die Psychologin Irene Pepperberg hat dreissig Jahre lang mit dem Graupapagei Alex gearbeitet. Alex konnte Farben, Formen und Mengen benennen und auf die Frage antworten, worin sich zwei Gegenstände unterscheiden. Selbst ein Papagei ist also nicht «nur ein Papagei».
Das gefährliche Wort heisst «nur»
Der eigentliche Denkfehler steckt im Wörtchen «nur». Es wirkt wie eine Beruhigungsformel, vergleichbar mit «Das ist doch nur ein Werkzeug». Das Wörtchen «nur» führt dazu, dass man sich gar nicht erst mit dem Problem beschäftigt. Das ist in zwei Richtungen gefährlich.
Erstens unterschätzt das «nur», was die Systeme leisten. Wer die KI für einen Papagei hält, sucht in einem KI-Text nach dem Original, von dem er abgeschrieben ist. Aber das gibt es oft nicht. Die Folge: Er lernt nicht, sie gut zu nutzen, und übersieht, wie sie Arbeit, Bildung und Medien bereits verändert. Zweitens schützt das «nur» nicht vor dem, wovor Bender und Gebru eigentlich gewarnt haben. Man kann die KI grundsätzlich für einen Papagei halten und im konkreten Moment trotzdem ihrer Eloquenz erliegen. In Folge #47 habe ich über diesen Automation Bias geschrieben: Die Verachtung im Allgemeinen verträgt sich bestens mit der Gutgläubigkeit im Einzelfall.
Bemerkenswert ist, wie OpenAI-Chef Sam Altman auf die Kritik reagiert hat. Kurz nach der Lancierung von ChatGPT schrieb er auf Twitter: «i am a stochastic parrot, and so r u». Das ist der umgekehrte Denkfehler. Statt die Maschine kleinzureden, redet er den Menschen klein. Wenn wir alle nur Papageien sind, müssen wir uns auch nicht mehr mit dem Unterschied beschäftigen. Beide Sätze machen es sich zu einfach: Der eine erklärt die Maschine zum Tier, der andere den Menschen zur Maschine. Das «nur» ist eine Abwehr gegen die digitale Kränkung, die Gegenformel «Wir sind auch nur Papageien» ist die Kapitulation vor ihr. Beides erspart uns das Nachdenken über etwas, wofür wir noch kein Bild haben: ein extrem eloquentes System, das die Sprache beherrscht, ohne zu verstehen, worüber es spricht.
Fazit
Der Papagei war ein gutes Bild, solange es darum ging, die erste Begeisterung zu bremsen. Er erinnert daran, dass die Sprache zwei Ebenen hat und dass der Sinn eines KI-Textes erst beim Lesen entsteht. Aber als Erklärung taugt der Papagei nicht mehr. Sprachmodelle plappern nicht nach. Sie verallgemeinern, sie bilden innere Modelle und planen voraus, aber sie tun das ohne Weltbezug und ohne Absicht. Das ist neu, und dafür fehlt uns noch das Wort. Wir überschätzen die KI, wenn es um die Wirklichkeit geht, und wir unterschätzen sie, wenn es um die Sprache geht. Darum wechsle ich heute zum Roboter: Er kombiniert Maschine und Mensch in einem eigenen Bild.
Zum Ausprobieren
Geben Sie der KI eine Aufgabe, die sie nicht nachplappern kann
Testen Sie die KI dort, wo Nachplappern nicht hilft: mit Ihrem eigenen Material und einer Frage, die so noch nie gestellt wurde. Zum Beispiel:
«Hier ist das Protokoll unserer letzten Teamsitzung: [Protokoll einfügen]. Welche drei Entscheidungen stecken darin, ohne dass sie ausdrücklich gefällt wurden? Belege jede mit einer Textstelle.»
Dann prüfen Sie:
1) Hat die KI etwas gesehen, das Ihnen entgangen ist? Dann haben Sie ihre Stärke erlebt, das Übertragen von Mustern auf Neues.
2) Stimmen die Textstellen, und stimmen die Schlüsse? Wo die KI Zusammenhänge behauptet, die nicht im Text stehen, haben Sie ihre Schwäche erlebt. Sie weiss nicht, was in der Sitzung wirklich gemeint war. Beides zusammen ermöglicht Ihnen, sich vom Vorurteil zu lösen und selbst ein Urteil zu fällen.
Nutzen Sie die KI als Verallgemeinerungsmaschine für Ihr Material, und kontrollieren Sie sie überall dort, wo es um die Wirklichkeit geht.
Basel, 3. November 2026, Matthias Zehnder mz@matthiaszehnder.ch
Bild: mz/Claude/ChatGPT
Nur dank Ihrer Unterstützung sind solche Texte möglich. Herzlichen Dank dafür!
Quellen:
Bender, Emily M.; Gebru, Timnit; McMillan-Major, Angelina u. a. 2021: On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, in: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21), 03.2021, S. 610–623. Online: https://doi.org/10.1145/3442188.3445922
Bender, Emily M.; Koller, Alexander 2020: Climbing towards NLU: On Meaning, Form, and Understanding in the Age of Data, in: Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, 07.2020, S. 5185–5198. Online: https://doi.org/10.18653/v1/2020.acl-main.463
Li, Kenneth; Hopkins, Aspen K.; Bau, David u. a. 2023: Emergent World Representations: Exploring a Sequence Model Trained on a Synthetic Task. Online: https://doi.org/10.48550/arXiv.2210.13382
Lindsey, Jack; Gurnee, Wes; Ameisen, Emmanuel u. a. 2025: On the Biology of a Large Language Model, in: Transformer Circuits Thread, 03.2025. Online: https://transformer-circuits.pub/2025/attribution-graphs/biology.html
Mahowald, Kyle; Ivanova, Anna A.; Blank, Idan A. u. a. 2024: Dissociating language and thought in large language models, in: Trends in Cognitive Sciences 28 (6), 06.2024, S. 517–540. Online: https://doi.org/10.1016/j.tics.2024.01.011
Pepperberg, Irene M. 1999: The Alex Studies. Cognitive and Communicative Abilities of Grey Parrots, Cambridge MA: Harvard University Press.
Ein Kommentar zu "KI-Denkfehler #53: «Die KI ist nur ein Papagei.»"
KI ist nicht «nur» ein Papagei. Und auch nicht «nur» eine Assistenz für mehr Effizienz. Künstliche Intelligenz assoziiere ich – in Tat und Wahrheit faschistoid – als Schritt auf dem Weg zum Transhumanismus: Maschinen denken, und lenken damit Menschen, die es selber immer weniger kennen und können. Bereits dafür im Gange ist SI: Super Intelligenz, alimentiert mit, und betrieben von maschinell weiter entwickelten Hirnzellen. „Versprochen sind biologische Computer, neuromorphe Informatik, synthetisch-adaptive neuronale Aktivität in Sphären und ein technokratisches Utopia. Transhumanismus als Nexus zwischen humanen Defiziten und digitalen Kapazitäten. … Doch einen breiten gesellschaftlichen Diskurs zu diesem Thema gibt es nicht. Denn Manfred Mustermann – und ein Grossteil der Medien – beschäftigt sich mit Entertainment, »PsyOps« auf Social Media, Wahlen, den Plattitüden eines austauschbaren Grüssaugust, mit Hass, Ängsten und Lastern – und die Regierung mit Propaganda, Krieg und Korruption. So, wie es schon immer war.“ (Tom-Oliver Regenauer in: Nexus Neurotech, 2026)