KI-Denkfehler #20: KI kennt die Wahrheit

Publiziert am 2. Dezember 2025 von Matthias Zehnder

Falsch: Sie zeigt nicht das Wahre, sondern nur das Wahrscheinliche. KI liefert plausible Antworten basierend auf der statistischen Auswertung der Daten. Die KI sagt also nichts Wahres, sondern sagt voraus, was wahr sein könnte. Ich bin immer wieder beeindruckt, mit welcher Selbstsicherheit die KI jede erdenkliche Frage beantwortet. Die Maschinen wirken tatsächlich allwissend. Sind sie aber nicht. Eine KI macht keine Aussagen über die Welt, die wahr oder falsch sein könnten. Sie berechnet lediglich, welche Aussagen im Moment wahrscheinlich sind. Sie sagt also nicht, was ist, sondern antwortet so, wie Menschen in ähnlichen Situationen geantwortet haben. Sie sagt nicht, was sie weiss, sondern was ihr die Statistik nahelegt.

Damit können wir Menschen nur schlecht umgehen, weil uns die perfekte sprachliche Oberfläche blendet. Wir neigen dazu, eine wohlformulierte Äusserung auch für eine wohldurchdachte zu halten. Diese Schwäche nutzen die Maschinen aus. Die Präzision ihrer Formulierungen verbirgt den spekulativen Charakter des Inhalts. Die Folge: rhetorische Sicherheit wird mit Wahrheit verwechselt. Doch das eine hat mit dem anderen wenig zu tun.

Wer verstehen will, was KI leisten kann und was nicht, muss den Unterschied zwischen Wahrheit und Prognose kennen. Dabei spielt es keine Rolle, ob eine Antwort zufällig zutrifft. Eine Wetterprognose bleibt eine Mutmassung über die wahrscheinliche Entwicklung. Nur ein Gang vor die Tür zeigt, wie das Wetter wirklich ist. Eine Aussage der KI verhält sich zur Wahrheit wie die Regenwahrscheinlichkeit zu nassen Füssen.

1. Denkfehler: Wahrheit ist statistisch ableitbar

Viele Menschen glauben, es brauche nur genügend Daten und genügend Rechenleistung, um die Wahrheit zu berechnen. Doch Wahrheit ist kein Durchschnittswert. Eine statistische Berechnung ist keine Aussage über die Wirklichkeit, sondern eine Aussage über die Statistik. Die Modelle prognostizieren, was wahrscheinlich stimmt, nicht was tatsächlich gilt.

Die Wirklichkeit hält sich aber nicht immer an die Statistik. Es sind die berühmten Ausnahmen, die eine Regel bestätigen. Genau diese Ausnahmen entziehen sich der Logik der Modelle. Statistik erfasst Häufigkeiten, nicht das, was wirklich der Fall ist. Weil die KI zudem stets auf Daten aus der Vergangenheit basiert, sieht sie die Welt nur im Rückspiegel. Ihre Vorhersagen bleiben notwendigerweise rückwärtsgewandt.

2. Denkfehler: KI verfügt über Wissen

Algorithmische Systeme wirken kompetent, weil sie Sprache überzeugend simulieren. Doch dieses Scheinwissen ist hohl. Eine KI verfügt über keine Erfahrungen, keine Einsichten und keine Bindung an die Welt. Eine KI hat sich noch nie auf die Zunge gebissen, ist noch nie von einem Baum gefallen und hatte nie Liebeskummer. Keine KI hat je eine sonnenwarme Kirsche gegessen, einen eiskalten Schneeball geformt oder in einem nie endenden Kuss versunken. Die KI kann nur darüber reden.

Oder eigentlich nicht einmal das. Sie kann lediglich aus Satzbruchstücken, die sie in Büchern und im Internet gefunden hat, eloquent ableiten, welche Wörter Menschen über einen Kuss oder eine Kirsche verlieren. Damit blufft sie uns.

Ihre Antworten bleiben ein Echo der Daten, mit denen sie trainiert worden ist. Wenn wir dieses Plappern für Wissen halten, verwechseln wir Wiederholung mit Erkenntnis. Maschinen reproduzieren Muster, ohne zu verstehen, was sie sagen. Aus sprachlicher Gewandtheit entsteht kein Wissen. Es ist das Papagei-Problem der KI: Sie plappert nach, was sie in ihren Daten findet.

3. Denkfehler: Plausibilität ist Wahrheit

Eine KI formuliert ohne Stocken und ohne Fehler. Doch perfekte Grammatik macht eine Aussage nicht wahr. Die sprachliche Plausibilität ist eine ästhetische Fassade für statistische Berechnungen. Damit unterläuft der Sprache generierende Computer unsere Urteilskraft. Wir sind uns gewohnt, dass ein Gegenüber mit makellosem Ausdruck und sauber gebundenem Windsor-Knoten ein Gelehrter sein muss.

Gerade deshalb neigen wir dazu, von der glatten Oberfläche auf den Inhalt zu schliessen. Sprachliche Eleganz beeindruckt uns. Was plausibel klingt, muss aber nicht stimmen, und was stimmt, klingt nicht immer plausibel. Die KI bietet Wahrscheinlichkeit in gefälliger Verpackung. Mit Wahrheit hat das nichts zu tun. Die perfekte Sprache ist nur Fassade.

Wahrheit bleibt ein menschliches Unterfangen

Eine KI ist kein Instrument der Wahrheit, sondern ein Generator von Wahrscheinlichkeiten. Sie konstruiert aus vergangenen Daten jenes Bild der Welt, das statistisch am plausibelsten erscheint. Das kann hilfreich sein, doch es ist etwas völlig anderes als Aussagen über die Wirklichkeit. Wahrheit verlangt Prüfung, Kontext, Widerspruch und die Bereitschaft, sich zu irren. Das alles kann eine KI nicht. Sie produziert Gewissheit ohne Gewissen. Das klingt plausibel, ist aber bar jeglicher Realität.

Wer sich mit diesem schönen Schein begnügt, ist bei der KI gut aufgehoben. Deshalb schätzen Schülerinnen und Schüler die Systeme so sehr: In einem Aufsatz oder einer Hausarbeit zählt vor allem die sprachliche Plausibilität. Wer jedoch in der realen Welt verantwortungsvoll arbeiten muss, darf die KI höchstens als Hilfsmittel nutzen, niemals als Ersatz für eigene Kompetenzen.

Wir dürfen der rhetorischen Glätte der Modelle nicht erliegen. Das klingt oft nur gut, ist aber bloss ein Ratespiel auf der Basis von Statistik. Klar, trifft die KI manchmal auch ins Schwarze. Schliesslich operiert sie mit Wahrscheinlichkeiten. Doch genau deshalb dürfen wir den Unterschied zwischen Wahrheit und Wahrscheinlichkeit nicht verwischen. Sonst verlieren wir den Bezug zur Wirklichkeit. Wahrheit bleibt ein menschliches Unterfangen.

2.12.2025, Matthias Zehnder mz@matthiaszehnder.ch

Bleiben Sie auf dem Laufenden:

Abonnieren Sie meinen Newsletter.

• Hinweis auf den neuen Wochenkommentar
• Ein aktueller Sachbuchtipp
• Ein Roman-Tipp
• Das neue Fragebogeninterview

Nur dank Ihrer Unterstützung ist der Wochenkommentar möglich. Herzlichen Dank dafür!

---