ChatGPT: KI schlägt Menschen – was heisst das für uns?
Ein künstlich-intelligenter Chat-Roboter sorgt für Aufsehen: Mit ChatGPT kann man über das Web sprechen wie mit einem Menschen. Die künstliche Intelligenz beantwortet Fragen, schreibt auf Kommando Artikel, Kommentare und Gedichte und weiss alles über die Welt. Na ja: fast alles. Die Antworten sind erschreckend gut, auch auf Deutsch. Das stellt die alte Frage neu: Überflügeln uns die Maschinen? Ist die künstliche Intelligenz bald klüger als wir Menschen? Welche Konsequenzen hat es für Schulen, Universitäten und Schreiber wie mich, dass der Chat-Roboter so perfekt schreiben kann? In meinem Wochenkommentar sage ich Ihnen diese Woche, warum das nicht auf die Maschine ankommt, sondern auf uns Menschen. Denn das Kernproblem ist nicht, dass die Maschinen werden wie die Menschen, – sondern umgekehrt.
Das Eingabefenster auf dem Bildschirm ähnelt dem Suchfeld bei Google. Anders als bei der Suchmaschine gibt man aber keine Suchwörter ein, sondern eine Frage oder eine Aufforderung. Etwa: «Sag mir in zwei kurzen Sätzen, wer Du bist.» Der Cursor beginnt zu blinken, dann erscheint die Antwort auf dem Bildschirm, wie wenn sie gerade eingetippt würde: «Ich bin Assistant, ein künstlicher Intelligenz-Sprachmodell, das von OpenAI entwickelt wurde. Ich bin in der Lage, menschenähnliche Antworten auf eine Vielzahl von Fragen zu geben und helfe Menschen bei der Suche nach Informationen und der Lösung von Problemen.»
Die Sätze sind nicht etwa vorher abgespeichert, sie werden von ChatGPT generiert, und zwar jedes Mal neu. Entsprechend fällt die Antwort auf eine Frage immer mal wieder etwas anders aus. Die Fähigkeit des Roboters, auf Fragen zu antworten, ist verblüffend. Weil ChatGPT mehr oder weniger auf alles zurückgreifen kann, was im Internet verfügbar ist, kann der Chat-Roboter nahezu jede Wissensfrage beantworten. Der Wissensstand ist allerdings irgendwann im Jahr 2021 stehen geblieben: Für die KI heisst der deutsche Bundeskanzler immer noch Angela Merkel. Das Beispiel zeigt die Schwäche des Systems: Weil die KI die Quellen nicht offenlegt, lassen sie sich auch nicht überprüfen. Dabei lässt sich auch nicht feststellen, ob die KI allenfalls Urheberrechte verletzt. Trotzdem: ChatGPT versteht die Fragen nicht nur, sondern weiss auch immer etwas dazu zu sagen. Die Antworten wirken vielleicht manchmal etwas hölzern, etwa so, wie ein dialogisches Wikipedia. ChatGPT ist aber in der Lage, auch komplexe Sachverhalte verständlich zu erklären.
Die Basis ist ein Sprachmodell
Die Technik des Chat-Roboters stammt von OpenAI: Das Unternehmen will künstliche Intelligenz auf Open-Source-Basis so entwickeln, dass sie der Gesellschaft Vorteile bringt und nicht schadet. Basis ist ein Sprachmodell. Das bedeutet, dass der Computer die eingegebene Frage oder Aufforderung sprachlich analysiert und dann versucht, eine passende Antwort zu generieren. Dafür analysiert die Maschine Wortbedeutungen, grammatische Strukturen und andere linguistische Merkmale. Die Rechenmaschine hat sich also die sprachliche Oberfläche angeeignet und kann aufgrund des riesigen Datenmaterials perfekt sagen, welche Wörter in der Antwort am ehesten erwartet werden.
Deshalb ist der Roboter auch in der Lage, beliebige Textsorten zu generieren. Ich habe damit herumgespielt, das Resultat ist verblüffend. Schulaufsatz, Zeitungskommentar, Predigt, wissenschaftliche Arbeit – es genügt, dem Sprachroboter einige Brocken hinzuwerfen, und der Roboter baut innert Sekunden daraus einen vernünftigen Text. Besonders gut sind die Antworten, wenn man ihm präzise Aufgaben gibt. Etwa: «Schreib den Anfang eines Artikels über KI im Stil der Bild-Zeitung.» Das Resultat: «KI-Schock: Computer überholen menschliche Intelligenz! Während wir noch über unseren Alltag nachdenken, haben sich die Maschinen längst selbstständig gemacht. Experten warnen: Künstliche Intelligenz könnte bald die Weltherrschaft übernehmen. Wir verraten, was hinter der bedrohlichen Entwicklung steckt und was uns bevorsteht.» Inhaltlich ist das Blödsinn, aber es klingt gut.
Massive Konsequenzen für Schulen
Die Fähigkeiten von ChatGPT haben massive Konsequenzen für Schulen, Universitäten – und für Schreiber wie mich. Als Lehrperson müssen Sie künftig damit rechnen, dass Ihre Schülerinnen und Schüler ihre Hausaufsätze mit der Hilfe von Chatrobotern schreiben. Die üblichen Plagiatsprüfungen von Hochschulen greifen ins Leere, weil der Text, den ein Chatroboter generiert, vorher ja nicht existiert hat. Und wir Schreiber? Werden wir jetzt einfach ersetzt durch eine künstliche Intelligenz? Muss ich mir Sorgen machen, dass ich keine Reden mehr schreiben und keine Ghostwriting-Aufträge mehr erhalte, dass meine Kommentare niemanden mehr interessieren, weil die KI besser schreibt?
Gemach. Die Leistung des Chat-Roboters ist verblüffend, aber wirklich intelligent ist das Programm nicht. Sie glauben mir nicht? Ich habe es gefragt. Hier seine Antwort: «Ich bin ein Computerprogramm und habe keine eigenen Gedanken oder Gefühle. Meine ‹Intelligenz› wird durch die Größe und Qualität meines Datensatzes und durch die Fähigkeiten meiner Algorithmen bestimmt. Ich wurde speziell entwickelt, um menschenähnliche Konversationen zu führen und Fragen zu beantworten, indem ich auf meinen Datensatz zugreife und ihn analysiere. Ich kann jedoch keine Entscheidungen treffen oder eigene Meinungen haben.»
Die Intelligenz ist nur simuliert
Abgesehen von der verblüffend guten Antwort erklärt es auch recht gut, dass die Intelligenz der KI nur simuliert ist: Der Chat-Roboter hat die Oberfläche der Sprache analysiert. Er ist in der Lage, fast jede Frage zu beantworten, weil er ausrechnen kann, wie das sprachliche Muster aussehen sollte. Er hat dabei aber keine Ahnung, was er sagt, weil er sich nur auf der Ebene des sprachlichen Zeichens bewegt. Er hat keinen Zugang zur Bedeutung. Es ist, wie wenn ich chinesische Schriftzeichen kopieren würde: Auch wenn ich die Schriftzeichen mit der Zeit perfekt zeichnen könnte, hätte ich keine Ahnung, was sie bedeuten. Der Chat-Roboter funktioniert also wie ein Magier in einem Cabaret: Diese Zauberer schaffen es, durch eine geschickte Inszenierung der Show (also der Oberfläche) die Illusion zu erwecken, dass sie zaubern können.
Das Problem ist nur, dass wir auch bei einem Menschen die Intelligenz nur aufgrund der Oberfläche beurteilen können. Schlimmer noch: Als intelligente Wesen sind wir darauf trainiert, Sprache und Kommunikation sinnvoll zu interpretieren. Gerade weil wir selbst intelligent sind, lassen wir uns von der scheinbaren Intelligenz der Sprachmaschine verführen. Die hat es umso einfacher, als nicht mehr viel fehlt, bis ihr Output sich kaum mehr von einer echten Intelligenz unterscheidet. Was dann? Was machen dann Deutschlehrer, Professorinnen und Schreiber wie ich?
Wie ein Taschenrechner im Mathematikunterricht
Es ist jene Art der Herausforderung, vor der Mathematiklehrpersonen schon länger stehen: Warum soll ich heute noch rechnen lernen, wenn es der Computer besser kann? Die Antwort kennen Sie natürlich: Nur wenn ich etwas von Mathematik verstehe, kann ich den Computer sinnvoll als Werkzeug einsetzen und abschätzen, ob das Resultat plausibel ist. Es heisst aber auch, dass der Mathematikunterricht über das blosse (quasi stumpfe) Rechnen hinausgehen muss. Es muss darum gehen, Mathematik zu verstehen.
Dasselbe gilt für den Deutschunterricht im Zeitalter von Sprachrobotern: Solche Programme können, wie Taschenrechner, ein extrem leistungsfähiges Werkzeug sein. Ich kann mir zum Beispiel vorstellen, dass ChatGPT sich sehr gut als Brainstorming-Maschine nutzen lässt. Oder als elektronischer Tutor, der Sachzusammenhänge erklärt. Dazu muss ich aber präzise verstehen, wie der Chatroboter funktioniert und wie ich ihn einsetzen kann. Und ich muss vor allem begriffen haben, was ein guter Text ist. Und das ist eben nicht nur von der perfekten sprachlichen Oberfläche abhängig, sondern auch noch von ein paar anderen Dingen. Etwa davon, welche Botschaft der Text transportiert. Welche Stimmung er vermittelt. Dass der Text Mitgefühl spürbar macht. Leser oder Hörer mitreisst. Das alles kann der Sprachroboter nicht.
Wo uns der Roboter heute überlegen ist
Überall da, wo es nur auf die blosse Oberfläche ankommt, ist der Sprachroboter aber schon heute uns Menschen drastisch überlegen. Grammatisch korrekte Sätze über einen Wissensinhalt sondert er im Schlaf ab. Nur dass er nie schläft, natürlich. Alles, was sich an der Sprache vermessen lässt, hat der Roboter im Griff. Dieses Feld müssen wir definitiv der Maschine überlassen. Das wird eine Herausforderung für Schule und Universität. Denn genau diese Ebene des Vermessbaren dient oft als Grundlage für die Notengebung, eben weil sie sich vermessen und damit beweisen lässt.
Wie schlüssig die Idee eines Aufsatzes, wie originell die Sprache eines Artikels, wie mitreissend eine Rede, wie wichtig ein Gedanke ist, das lässt sich alles nicht berechnen und nicht beweisen. Wir können es nur empfinden. Mir scheint, viele Schulen und Universitäten haben sich in den letzten Jahren aber auf die Ebene des Berechenbaren zurückgezogen, weil sie nur auf dieser Ebene eine Note beweisen können. Kunststück: Immer mehr Schulentscheide müssen justiziabel sein und die Originalität eines Textes lässt sich nun mal nicht gerichtsfest belegen.
Der Mensch hat sich zum Roboter gemacht
Rechtschreibung, Grammatik und Wissensbrocken sind also die mechanischen Bestandteile eines Textes. Damit ein Text, ein Aufsatz, ein Kommentar, eine Rede mich packt, genügt es aber nicht, dass der Text korrekt ist. Der Text muss leben, muss mich emotional berühren. Der Text muss Seele haben. Es sind Gefühle, Intuition und Empathie, die den Menschen ausmachen. Nicht Korrektheit und Informationstiefe. Bloss spielen genau diese Faktoren des Herzens in unserer Welt eine immer kleinere Rolle. Wenn wir Angst davor haben müssen, dass uns Roboter ersetzen, dann deshalb, weil wir uns ersetzbar gemacht haben, indem wir selbst zu Robotern geworden sind.
Bei den Arbeitern am Fliessband ist das schon lange der Fall. Vielleicht ist es auch bei einigen von uns Geistesarbeitern so. Was uns Menschen ausmacht, das ist aber nicht stumpfe Produktivität oder stiere Fehlerlosigkeit. Es sind Inspiration und Empathie. Es ist, im übertragenen Sinn, unser Herz. Nur wenn wir dieses Herz warm schlagen lassen, unterscheiden wir uns von kalten und präzisen Robotern. Auf das Herz kommt es an, – auch wenn es uns angesichts der Leistungen dieser künstlichen Intelligenz manchmal in die Hosen fällt.
Basel, 16. Dezember 2022, Matthias Zehnder mz@matthiaszehnder.ch
PS: Nicht vergessen – Wochenkommentar abonnieren. Dann erhalten Sie jeden Freitag meinen Newsletter mit dem Hinweis auf den neuen Kommentar, einen Sachbuchtipp, einen Tipp für einen guten Roman, das aktuelle Fragebogeninterview und mein persönlicher Tipp für ein gutes, digitales Leben. Einfach hier klicken. Und wenn Sie den Wochenkommentar unterstützen möchten, finden Sie hier ein Formular, über das Sie spenden können.
PPS: Wenn Sie den Wochenkommentar nur hören möchten, gibt es auch eine Audioversion. Hier der Link auf die Apple-Podcast Seite oder direkt auf die Episode:
Quellen
Bild: © KEYSTONE/Chromorange/Christian Ohde
ChatGPT finden Sie hier: https://chat.openai.com/chat
Knight, Will (2022): ChatGPT’s Most Charming Trick Is Also Its Biggest Flaw. In: WIRED. [https://www.wired.com/story/openai-chatgpts-most-charming-trick-hides-its-biggest-flaw/; 16.12.2022].
Roose, Kevin (2022): The Brilliance and Weirdness of ChatGPT. In: The New York Times. [https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html; 16.12.2022].
Staff, WIRED (2022): How These AI-Powered Chatbots Keep Getting Better. In: WIRED. [https://www.wired.com/story/gadget-lab-podcast-577/; 16.12.2022].
Zehnder, Matthias (2019): Die digitale Kränkung. Über die Ersetzbarkeit des Menschen. Basel: NZZ Libro.
Ein Kommentar zu "ChatGPT: KI schlägt Menschen – was heisst das für uns?"
Die Intelligenz und die Leistungsfähigkeit von Robotern verstehe ich als unpersönlich, perfekt und objektiv. Sie scheint in etwa dem zu entsprechen, was traditionellerweise in Schulen gelernt wird: „Schulen bringen den Menschen mit Stil bei, unwissend zu sein. Sie geben dir die Ausrüstung, die du brauchst, um ein funktionaler Ignorant zu sein. Amerikanische Schulen – und dies kann für jedes Schulsystem in jedem Teil der industriellen Zivilisation gelten – rüsten dich nicht aus, um mit Dingen wie Logik umzugehen; sie geben dir nicht die Kriterien, anhand derer du in irgendeinem Medium oder Format zwischen gut und schlecht urteilen kannst; und sie bereiten dich darauf vor, ein brauchbares Opfer für einen militärisch-industriellen Komplex zu sein, der Arbeitskräfte benötigt. Solange du nur schlau genug bist, um einen Job zu machen, und dumm genug, um zu schlucken, was sie dir füttern, wird es dir gut gehen. Aber wenn du darüber hinausgehst, dann wirst du diese ernsten Zweifel haben, die dir Magenprobleme und Kopfschmerzen bereiten … und die dich dazu bringen, rauszugehen und etwas anderes zu tun.“ (Frank Zappa, Musiker, 6. Januar 2012). – Für die Entfaltung und die Pflege von Talenten braucht es menschlich subjektive Begegnungen und kokreativ gelebte, soziale Beziehungen: mit Herzen (zum Fühlen), mit Köpfen (zum Denken), mit Händen (zum Handeln) und mit Füssen (zum Stehen und zum Gehen).