Gottlob Frege oder warum KI unsere Sprache nie verstehen wird

Publiziert am 5. September 2025 von Matthias Zehnder

Es gibt Wörter, die sehen gleich aus, haben aber einen unterschiedlichen Sinn. «Bank» zum Beispiel kann das Geldhaus meinen, aber auch die Sitzgelegenheit. Und es gibt unterschiedliche Wörter, die dasselbe bezeichnen. Dasselbe Zweirad bezeichnen Deutsche als «Fahrrad» und Schweizer als «Velo». Und dann gibt es Wörter, die einen unterschiedlichen Sinn haben, aber dieselbe Bedeutung. Das berühmteste Beispiel dafür ist «Morgenstern» und «Abendstern». Beide Wörter meinen denselben Planeten, die Venus, unterscheiden sich aber dennoch im Sinn. Dieses Beispiel stammt vom deutschen Mathematiker und Philosophen Gottlob Frege. Ich vermute einmal, dass dieser Name Ihnen nichts sagt. Frege gilt als Begründer der modernen Logik und der analytischen Philosophie – und damit auch als einer der Väter der modernen Sprachverarbeitung. Ich habe Frege vor vielen Jahren im Studium entdeckt. Seine Gedanken haben mir zu einer völlig neue Sichtweise auf die Sprache verholfen. Heute, genau 100 Jahre nach seinem Tod, ist Frege wieder hochaktuell. Wer seine Texte liest, begreift sofort, warum die KI zwar erstaunliche Texte zu produzieren vermag, die Sprache aber nie verstehen kann. Ich lade sie deshalb heute ein zu einer kleinen Zeitreise in die Geschichte der Sprachphilosophie. Einer Zeitreise zu Gottlob Frege.

Am 26. Juli 1925 starb in Bad Kleinen der Philosoph und Mathematiker Gottlob Frege. Die meisten Menschen kennen seinen Namen nicht, aber ohne ihn sähe die Philosophie und Logik des 20. Jahrhunderts anders aus. Die heutige Computertechnologie wäre kaum denkbar. Frege gilt als einer der Väter der modernen Logik und der analytischen Philosophie. Bertrand Russell, Ludwig Wittgenstein oder Rudolf Carnap – sie alle bauten auf Freges Fundament. Seine Ideen über Sinn und Bedeutung machten die Entwicklung formaler Sprachen möglich – und wirken bis in die heutige Computertechnologie hinein.

 

Zum ersten Mal begegnet bin ich Gottlob Frege während meines Philosophiestudiums. Natürlich nicht ihm persönlich, sondern seinem berühmtesten Text: einem Aufsatz aus dem Jahr 1892 mit dem Titel «Über Sinn und Bedeutung». Frege macht sich darin Gedanken über die Gleichheit. Sein Ausgangspunkt ist der Unterschied zwischen a = a und a = b. Die Aussage a = a ist immer wahr und enthält keine Informationen. Interessant ist der Satz  a = b.

Zeichen, Sinn, Bedeutung

Daraus entwickelt Frege seine wichtigste Unterscheidung: die Unterscheidung von Zeichen, Sinn und Bedeutung. Der Sinn ist die Art, wie ein Gegenstand vorgestellt wird, die Bedeutung der Gegenstand selbst, auf den sich das Zeichen bezieht.

Um die Unterscheidung zu verdeutlichen, macht er ein Beispiel, das seither legendär ist: das Beispiel von Morgenstern und Abendstern. Die beiden Begriffe haben einen unterschiedlichen Sinn. «Morgenstern» meint den hellen Stern am Morgenhimmel, «Abendstern» den hellen Stern am Abendhimmel. Aber beide Ausdrücke verweisen auf denselben Planeten: die Venus. Sie haben, sagt Frege, also dieselbe Bedeutung. Das ist keine sprachliche Selbstverständlichkeit, sondern eine astronomische Erkenntnis.

Frege schreibt dazu:
«Eine Verschiedenheit kann nur dadurch zustande kommen, daß der Unterschied des Zeichens einem Unterschiede in der Art des Gegebenseins des Bezeichneten entspricht.» (S. 41)

Frege macht auf diese Weise klar, dass das Verstehen einer Sprache drei Ebenen hat:

1. die Wörter und Sätze, also das sprachliche Zeichen
2. das Erfassen des Sinns, Frege sagt dem: die Art, wie etwas gegeben ist
3. das Verbinden mit einer Bedeutung: das ist der Bezug zur Wirklichkeit

Sprache und Wahrheit

Frege ist zwar Mathematiker, für ihn ist Sprache aber nicht nur etwas Formales. Sprache hat für ihn einen engen Bezug zur Wahrheit. Er entwickelt deshalb sein Konzept der Bedeutung weiter. Im Fall von Morgenstern und Abendstern ist die Venus die Bedeutung. Die Bedeutung von Wörtern ist also der Gegenstand, den sie bezeichnen. Aber wie ist das bei Sätzen? Nehmen wir den Satz «5 ist eine Primzahl.» Der Sinn ist uns klar – aber was ist seine Bedeutung?

Für Frege ist der springende Punkt die Wahrheit oder die Falschheit des Satzes. Er sagt deshalb etwas umständlich: Die Bedeutung eines Satzes ist sein Wahrheitswert. Der Satz «5 ist eine Primzahl.» ist wahr, also ist die Wahrheit seine Bedeutung. Dasselbe gilt für den Satz «Der Morgenstern ist die Venus».

Das klingt harmlos, die Konsequenzen sind aber dramatisch: Frege verknüpft nämlich auf diese Weise die Sprache mit der Welt. Sprache ist nicht mehr ein unverbindliches Spiel von Wörtern im luftleeren Raum der Zeichen. Frege macht die Sprache zu einem Beziehungsgeflecht von Gedanken, Dingen und Wahrheitsbedingungen. Für Frege stehen Worte nicht mehr allein, sie verweisen auf die Wirklichkeit.

Nicht ohne meine Wirklichkeit

Heute wissen wir, dass Menschen Sprache nicht ohne diesen Wirklichkeitsbezug verstehen können. Wenn wir Wörter verwenden wie «Morgenstern» oder «Venus», «Apfel» oder «Kartoffelstock», beziehen wir diese Wörter auf die Wirklichkeit, wie wir sie erlebt haben.

Allerdings beziehen wir die Sprache immer auf unsere Wirklichkeit. Darin steckt auch viel Potenzial für Missverständnisse, weil nicht alle Menschen dieselbe Wirklichkeit erleben. Eine Frau, die in Bern lebt, stellt sich unter «Stadt» etwas anderes vor als eine Frau, die in Tokio lebt. Für einen Schweizer ist ein Nachtessen etwas anderes als für einen Südafrikaner. Weihnachten ist bei uns, meistens wenigstens, kalt, Australier verbinden mit Weihnachten eher Badeferien.

Wir Menschen können Sprache also nicht anders verstehen als in Bezug auf unsere Wirklichkeit. Das gilt auch dann, wenn der Computer uns ein Wort anzeigt. Wenn wir das Wort «Apfel» sehen, feuern in unserem Gehirn Neuronen in Erinnerung an den letzten Biss in einen realen Apfel. Im Computer passiert diesbezüglich – nichts. Computer können nicht in Äpfel beissen, selbst die nicht, die sich mit einem angebissenen Apfel schmücken.

Was würde Frege zur KI sagen?

Das gilt auch für die Künstliche Intelligenz. Programme wie ChatGPT oder Claude mögen noch so eloquent klingen, Aufsätze schreiben oder sogar Reden und Gedichte entwerfen. Die Texte lesen sich immer öfter so, als hätte sie ein Mensch geschrieben. Als hätten sie also Sinn und Bedeutung. Was würde Frege dazu sagen?

Vermutlich würde er den Kopf schütteln: Ein Large Language Model kennt keinen Unterschied zwischen Sinn und Bedeutung. Es berechnet Wahrscheinlichkeiten für Wortfolgen, von Bedeutungen hat es keine Ahnung. Wenn man ein solches Modell fragt: «Was ist der Morgenstern?», wird es vermutlich korrekt antworten: «Die Venus.» Das Sprachmodell ruft dabei aber kein Wissen und schon gar keine Erfahrung ab, es bezieht sich also nicht auf die Wirklichkeit, sondern auf Muster in seinen Textdaten.

Die KI weiss nicht, was «Morgenstern» bedeutet, sie kennt keine Venus und hat nie den Nachthimmel betrachtet oder fröstelnd den Aufgang der Sonne verfolgt. Sie kann den Unterschied zwischen dem kognitiven Gehalt (also: «Morgenstern» oder «Abendstern») und der gemeinsamen Referenz (also: Venus) nicht erfassen. Das heisst: Die KI erzeugt Sprache ohne Bedeutung. Sie tut nur, also ob sie die Sprache verstehen könnte.

Das chinesische Zimmer und die Sprachillusion

Der amerikanische Philosoph John Searle, einer jener Logiker, die in den Fussstapfen von Gottlob Frege wandeln, hat dieses Problem 1980 in ein wunderbares Gedankenexperiment verpackt. Er nennt es das Chinesische Zimmer.

Stellen Sie sich vor, in einem abgeschlossenen Raum sitzt jemand, der kein Wort Chinesisch spricht. Durch einen Schlitz erhält er Zettel, auf denen chinesische Schriftzeichen stehen. In einem Regelbuch schlägt er die Zeichen nach und malt die Antworten ab, die im Buch stehen. Dann reicht er den Zettel wieder hinaus. Für Aussenstehende sieht es aus, als ob er Chinesisch verstünde. In Wahrheit hantiert er nur mit Symbolen nach Regeln, ohne jegliches Sprachverständnis.

Genau so funktionieren Sprachmodelle: Sie erzeugen den Eindruck von Verstehen, ohne dass Verstehen wirklich stattfindet. Sie vermitteln uns eine Sprachillusion. Das erklärt übrigens auch, warum KI-Programme so überzeugend lügen: Sie haben keinen Begriff von Wahrheit. Sie können Lüge und Wahrheit nicht unterscheiden, weil ein Satz für sie, um mit Frege zu sprechen: keine Bedeutung hat, also keinen Wahrheitswert. Ein Satz ist für eine KI nur eine Zeichenfolge mit einer bestimmten statistischen Wahrscheinlichkeit.

Freges Kontextprinzip und die KI

Interessanterweise greifen KI-Modelle ein Prinzip auf, das Frege selbst formuliert hat: das Kontextprinzip. In «Grundlagen der Arithmetik» schreibt er:

«Wie soll uns denn eine Zahl gegeben sein, wenn wir keine Vorstellung oder Anschauung von ihr haben können? Nur im Zusammenhang eines Satzes bedeuten Wörter etwas.» (§62, Seite 71)

Wörter sind also nur in einem bestimmten Kontext sinnvoll. Darauf stützen sich Sprachmodelle wie ChatGPT: Sie berechnen das nächste Wort aus dem bisherigen Zusammenhang. Allerdings mit einem wichtigen Unterschied zu Frege: Er meint mit «Zusammenhang» den Bezug zu Welt und Wirklichkeit und damit die Wahrheit. Die KI konsultiert nur den sprachlichen Kontext. Das aber in einem gigantischen Ausmass.

Der Kern der Sprache

Hundert Jahre nach seinem Tod erklärt uns Gottlob Frege also, warum Künstliche Intelligenz Sprache nicht wirklich versteht: Weil ihr das fehlt, was Frege als Kern der Sprache bezeichnet – die Verbindung von Zeichen mit Sinn, Bedeutung und Wahrheit.

Die KI ist ein Meister der Form, aber sie hat keine Ahnung vom Inhalt, den sie generiert. Sie simuliert Sprache nur und liefert uns Als-ob-Bedeutungen, ohne Sinn und Wirklichkeitsbezug. Sinn, Bedeutung und Wirklichkeit lesen erst wir Menschen in die Sprache hinein – weil wir Sprache nicht anders lesen können.

Vielleicht ist dies das eigentliche Vermächtnis von Gottlob Frege: Er erinnert uns daran, dass Sprache mehr ist als Zeichen und Worte. Sprache ist unser Zugang zur Wirklichkeit. Sie trägt Sinn und Bedeutung nur, weil wir Menschen sie in Gedanken und Erfahrungen verankern. Maschinen können uns dabei unterstützen – verstehen werden sie uns nicht.

Basel, 05.09.2025, Matthias Zehnder mz@matthiaszehnder.ch

Bleiben Sie auf dem Laufenden:

Hier den Wochenkommentar abonnieren.

• Hinweis auf den neuen Wochenkommentar
• Ein aktueller Sachbuchtipp
• Ein Roman-Tipp
• Das neue Fragebogeninterview

Nur dank Ihrer Unterstützung ist der Wochenkommentar möglich. Herzlichen Dank dafür!

Lieber hören als lesen?

---

Quellen: