Brain Building: Denken bis es weh tut.

Publiziert am 15. August 2025 von Matthias Zehnder

Letzte Woche habe ich an dieser Stelle gesagt: Seien Sie nicht naiv im Umgang mit KI – die KI ist schon naiv genug. Die Frage ist natürlich: Was heisst das? Sie und ich, wir sind alt genug, dass wir uns einen Reim darauf machen können. Aber was heisst das für die Schule? Welche Konsequenzen hat eine zwar naive, aber scheinbar allwissende KI für den Unterricht und für die Bildung insgesamt? Schüler und Studenten nutzen die KI mit Handkuss als «Cheat Machine»: als willkommene Abkürzung. Motto: Hausarbeit auf Knopfdruck. Oder: Shakespeare rein, Lernkarten raus. Ganz ohne Lektüre. Easy, schnell – und manchmal gar nicht so schlecht. Bloss ohne jegliche Wirkung. Das Problem: Unser Bildungswesen ist darauf ausgerichtet, Ergebnisse zu überprüfen. Schule und Universität prüfen also, ob die Eleven ein Ziel erreicht, eine Arbeit vollendet oder ein Buch verarbeitet haben. Die Verfügbarkeit von KI stellt das auf den Kopf: Künftig wird nicht mehr das Ergebnis zählen, sondern der Weg dahin. Also das beharrliche Bemühen, etwas selber zu schreiben, selber zu rechnen, selber zu zeichnen – kurz: selber zu denken. Es wird also künftig in Schule und Unterricht weniger darauf ankommen, was man erreicht, als dass man darum kämpft, es zu erreichen. Die Frage ist: Wie schaffen wir das?

Künstliche Intelligenz wirkt auf den ersten Blick beeindruckend: Sie generiert verblüffende Bilder, produziert Texte auf Knopfdruck und liefert zu fast jeder Frage eine wohlklingende Antwort. Dabei geht vergessen, dass die Maschine keine Ahnung hat, was sie da sagt oder zeichnet. Ich sage deshalb: Die KI ist strukturell naiv.

Die KI ist naiv, weil sie nichts anderes kennt als Oberfläche. Sie hat sich nicht die Welt angeeignet, sondern nur die Sprache – und zwar lediglich die Zeichenebene der Sprache: Wörter und Satzzeichen, Grammatik und vor allem Sprachstatistik. Dieser Teil der Welt ist berechenbar. Die KI ist deshalb in der Lage, verblüffend gute Textvorhersagen zu machen.

Blind für Bedeutung

Genau das sind die Antworten auf Fragen, die Texte und Bilder einer KI: nichts anderes als Voraussagen über die wahrscheinlichste Fortsetzung. Die Maschine berechnet die Plausibilität sprachlicher Muster – aber sie versteht sie nicht. Sie ist blind für Bedeutung, Kontext, Ironie und Absicht. Deshalb sage ich: Die KI ist strukturell naiv.

Nun könnte man einwenden: Mir egal – Hauptsache, ich erreiche das Ziel. Wenn ich etwa Google Maps nach dem Weg frage, ist es mir völlig gleichgültig, wie die KI rechnet. Hauptsache, ich komme an. Die Maschine muss nicht wissen, wie sich eine Strasse anfühlt.

Mit dem Navi in die Elbe

Und das stimmt: In den Anfangszeiten hatten Navigationssysteme Mühe, Brücken von Fähren zu unterscheiden. Köln musste 2011 sogar einen Fähranleger sichern, weil Navis Autos in den Rhein lotsten. Noch 2016 meldete der «Focus», ein Navi habe ein Auto mit vier Männern in die Elbe geschickt. Aber diese Zeiten sind vorbei. Heute erreichen Navigationssysteme in aller Regel ihr Ziel – wie genau sie das machen, ist uns als Fahrern meist egal.

Beim Navigationssystem zählt einzig das Ergebnis. Ob das Navi versteht, was es da tut, ist völlig egal. Ganz anders bei Aufgaben, die Denken und Urteilen erfordern. Zum Beispiel: Finde einen roten Kopfhörer mit Geräuschunterdrückung, der gut und günstig ist. Erklär mir das Theaterstück Medea. Schreib mir einen Businessplan.

Wahrscheinlich, aber leider erfunden

Die KI erledigt solche Aufträge klaglos. Sie prüft das Ergebnis auf Plausibilität – also auf statistische Wahrscheinlichkeit. Aber sie versteht nicht, was sie tut. Der Weg zum Ziel bleibt ihr (und oft auch uns) verborgen. Sie kann nicht beurteilen, ob der Lösungsweg gedanklich schlüssig war, ob ein Umweg neue Einsichten brachte – oder ob das Ziel überhaupt sinnvoll ist.

Die Folge: Manchmal liefert die KI schlicht erfundene Resultate. Als Einkaufsberaterin taugt sie derzeit deshalb nur bedingt – zu oft denkt sie sich Produkte einfach aus, weil sie statistisch wahrscheinlich erscheinen. Wenn der Link zum vermeintlichen Kopfhörerschnäppchen ins Leere führt, merkt man das sofort. Anders ist das beim Businessplan, bei der Werbeberatung oder gar bei einer medizinischen Diagnose: Da sind erfundene Inhalte nicht so leicht zu erkennen und deshalb potenziell gefährlich.

KI nur einsetzen, wenn man sie nicht braucht

Mein Rat an alle, die mit KI arbeiten: Setzen Sie die KI nur dann ein, wenn Sie sie eigentlich nicht brauchen. Wenn Sie also in der Lage wären, die Aufgabe selber zu lösen und deshalb beurteilen können, ob das, was die KI vorschlägt, sinnvoll und korrekt ist.

Gerade weil die KI uns so schnell zu Resultaten bringt, müssen wir umso mehr in unsere eigenen Kompetenzen investieren. Wir müssen in der Lage bleiben, den Weg selbst zu gehen und ihn zu beurteilen.

Taschenrechnerproblem hoch drei

Genau das ist die grosse Herausforderung für Schule und Studium: Es ist das Taschenrechnerproblem hoch drei. Als der Taschenrechner aufkam, fragten sich viele Schüler: Warum soll ich noch selber rechnen, wenn das Gerät es schneller kann? Die Antwort: Weil es nicht ums Ergebnis geht, sondern darum, Rechnen zu lernen, den Zahleraum zu begreifen und ein Gespür für mathematische Zusammenhänge zu entwickeln.

Dasselbe gilt für Literatur: Bei Shakespeare ist nicht die Hausarbeit das Ziel, sondern zum Beispiel die Auseinandersetzung mit Macht, Intrige und Loyalität. Doch Schule und Studium sind noch immer stark darauf ausgerichtet, das Ergebnis zu überprüfen – und nicht den Weg dorthin.

Hautsache, es klingt gut

Wenn wir in der Bildung nur das Ergebnis prüfen, fördern wir die «KI-Logik»: Hauptsache, es klingt gut und plausibel. Doch genau davon müssen wir wegkommen. Künftig muss wieder der Lösungsweg im Zentrum stehen – die Mühe, der Widerstand, der Krampf auf dem Weg zum Ziel.

Ein gutes Bild dafür ist das Bergsteigen: Wenn es nur darum geht, oben zu stehen, nimmt man die Seilbahn. Oder gleich den Helikopter. Wenn es aber um den Weg geht, das Wandern und das Klettern, um das Leiden am Seil und den Krampf in der Wand, dann ist es fast schon sekundär, ob man es auf den Gipfel schafft. Im Zentrum steht der Weg.

Brain Building

Die industrielle Revolution hat die menschliche Muskelkraft weitgehend durch Maschinen ersetzt. Für die meisten Arbeiten brauchen wir keine körperliche Kraft mehr. Selbst auf dem Weg zur Arbeit übernehmen Lift, Rolltreppe und U-Bahn den Einsatz der Beine. Liegen wir deshalb alle im Liegestuhl? Natürlich nicht. Wir joggen, stemmen Gewichte, rudern, schwimmen, machen Liegestütze. Kurz: Wir machen Body Building im wörtlichen Sinn.

Die KI-Revolution beginnt damit, geistige Arbeit zu ersetzen oder mindestens zu ergänzen. Das heisst aber nicht, dass wir unsere Gehirne im Liegestuhl parkieren können. Nein: Jetzt brauchen wir Brain Building. Wie im Fitness müssen wir dabei an die Grenzen gehen: Denken, bis es weh tut.

Ein grossartiges Erlebnis

Das klingt vielleicht martialisch, ist aber ein grossartiges Erlebnis. Wer sich ganz in ein Problem vertieft und gedanklich alles gibt, erlebt mitunter einen magischen Moment: Plötzlich öffnet sich wie in einem Game ein neues Level. Es ist wie bei einem dieser 3-D-Bilder: Man starrt auf das Bild und starrt und starrt und auf einmal kippt die Perspektive, die Oberfläche wird durchsichtig, und man sieht in einen dreidimensionalen Raum. Phantastisch.

Aber es ist eine Herausforderung für Schule und Universität. Brain Building ist anstrengend, für Unterrichtende genauso wie für Schüler und Studenten. Und es wirft eine heikle Frage auf: Wie lassen sich Leistungen prüfen, wenn es nicht um den Gipfel geht, sondern um das Klettern?

OSCE-Prüfungen als Vorbild

Ein Vorbild könnten die OSCE-Prüfungen der Mediziner sein. OSCE steht für «Objective Structured Clinical Examination». Dabei durchlaufen die Studierenden einen Prüfungsparcours mit verschiedenen Stationen. An jedem Posten müssen sie konkrete klinische Aufgaben lösen: etwa eine körperliche Untersuchung durchführen, eine Anamnese erheben und dabei Fragen beantworten.

Dabei geht es nicht einfach darum, das richtige Resultat abzuliefern. Es geht um den gezeigten Denk- und Entscheidungsprozess – also um Beurteilungs- und Problemlösungskompetenz.

Fokus auf das Problemlösen

Auch Schule und Studium sollten sich stärker auf solche Prüfungsformen einstellen. Und zwar nicht erst am Ende der Ausbildung. Denn eine Prüfung ist nur sinnvoll, wenn man die Prüfungslogik auch üben kann. Das bedeutet: Der ganze Unterricht muss sich stärker auf Denken, Problemösen und Beurteilen fokussieren.

KI ermöglicht es uns, mit ein paar Klicks eine plausible Lösung zu erzeugen. Umso wichtiger ist es, dass die Schule zeigt, warum der Weg zur Lösung jede Anstrengung wert ist – und warum genau darin die eigentliche Bildung besteht.

Denken bis es weh tut – jetzt müssen wir nur noch herausfinden, wie wir beim Denken so schöne Selfies machen können wie beim Body Building.

Basel, 15.08.2025, Matthias Zehnder mz@matthiaszehnder.ch

Bleiben Sie auf dem Laufenden:

Hier den Wochenkommentar abonnieren.

• Hinweis auf den neuen Wochenkommentar
• Ein aktueller Sachbuchtipp
• Ein Roman-Tipp
• Das neue Fragebogeninterview

Nur dank Ihrer Unterstützung ist der Wochenkommentar möglich. Herzlichen Dank dafür!

Lieber hören als lesen?

---

Quellen: