Daniel Dennett und der Mensch als Maschine

Publiziert am 26. April 2024 von Matthias Zehnder

Letzte Woche habe ich hier über den «Eliza-Effekt» gesprochen, der das übergrosse Vertrauen erklärt, das Menschen einem chattenden Computer entgegenbringen. Eliza war der Name eines einfachen  Chat-Programms, das der deutsch-amerikanische Computerwissenschaftler Joseph Weizenbaum bereits 1966 entwickelt hatte. Die Menschen, die Eliza benutzten, waren überzeugt, dass der Computer sie verstand. Das wirft die Frage auf: Was ist es, das uns Menschen ausmacht? Goethe war überzeugt, dass der Mensch einen göttlichen Funken in sich trägt. Es ist ein Funke, der selbst das Grauen des Zweiten Weltkriegs überdauert. In Erich Maria Remarques Roman «Der Funke Leben» ist er auf die Hoffnung und den Überlebenswillen einiger Häftlinge im Konzentrationslager reduziert. Trotz des Grauens im Lager bewahren sie ihre Menschlichkeit. Der «Funke Leben» steht für die Unzerstörbarkeit des menschlichen Geistes. Auch John R. Searle ist überzeugt, dass es dieser Wille ist, der den Menschen ausmacht und ihm Bewusstsein verleiht. Der amerikanische Philosoph Daniel C. Dennett ist anderer Meinung. Für ihn ist der Mensch eine biologische Maschine und schlicht das Ergebnis der Evolution. Dennett sieht daher prinzipiell keinen Unterschied zwischen der biologischen Maschine Mensch und einer technischen Maschine mit künstlicher Intelligenz. Diese Woche ist Daniel C. Dennett gestorben. Ein Anlass, an seine Gedanken zur künstlichen Intelligenz zu erinnern: Ist der Mensch nur eine Maschine?

Vom amerikanischen Sprachwissenschaftler und Philosophen John R. Searle gibt es ein spannendes Gedankenexperiment. Stellen Sie sich vor, in einem Raum sitzt eine Person. Sie spricht Englisch oder auch Deutsch, aber kein Chinesisch. Durch einen Schlitz werden der Person Zettel mit chinesischen Schriftzeichen zugesteckt. Die die Person schlägt in einem dicken Buch die Regeln nach, die sie befolgen muss: Sie vergleicht die Schriftzeichen miteinander, liest auf Englisch oder Deutsch nach, was sie tun muss. Dann nimmt sie aus einem Stapel Kärtchen mit chinesischen Schriftzeichen jenes Kärtchen, das in der Regel steht, und schiebt es durch den Schlitz nach aussen.

Die Menschen ausserhalb des Zimmers sehen nicht, was die Person macht. Wenn sie dem Kasten auf Chinesisch eine Frage stellen, erhalten sie eine korrekte Antwort. Sie schliessen daraus, dass der Kasten oder das, was darin steckt, Chinesisch versteht. Searle argumentiert nun, dass das offensichtlich nicht der Fall sei: Die Person im Zimmer manipuliert lediglich Symbole, ohne deren Bedeutung zu erfassen. Ein Computer, der ein Programm zur Verarbeitung chinesischer Sprache ausführt, befindet sich laut Searle in der gleichen Situation. Searle sagt: Verständnis erfordert mehr als nur die Manipulation von Symbolen, es erfordert Bewusstsein. Und das ist ein intrinsisch biologisches Phänomen.

Computer können nie Bewusstsein erlangen

Computer und KI-Systeme mit ihren nicht-biologischen Prozessen können deshalb niemals Bewusstsein erlangen. Zentraler Punkt des Bewusstseins ist die Intention, die Intentionalität. Damit meint Searle die Fähigkeit, die Aufmerksamkeit auf ein Ziel zu richten und einen Plan zu formulieren, wie sich dieses Ziel erreichen lässt. Die Intention ist die treibende Kraft hinter Entscheidungen und Verhalten. Sie erklärt, warum ein Mensch etwas tut oder auch nur denkt.

Wenn wir zum Beispiel einen Baum sehen, ist das nicht bloss ein grafisches Muster, sondern wir verbinden damit Erlebnisse, Gefühle und Wünsche und stellen uns vielleicht vor, auf den Baum zu klettern oder uns unter dem Baum zu küssen. So bekommt der Baum für uns eine Bedeutung. Das sind die drei zentralen Punkte, die Searle einbringt: Es ist das Bewusstsein, das den Menschen ausmacht. Bewusstsein beinhaltet Intention, also die Fähigkeit, sich auf etwas zu richten. Erst dadurch entsteht Bedeutung. Intentionalität ist also der Kern des Bewusstseins, weil sie uns ermöglicht, Bedeutung in der Welt zu schaffen. Diese Intentionalität ist letztlich das, was Goethe und Remarque als «Funke» bezeichnen: Es ist die Lebenskraft des Menschen.

Der Mensch als biologische Maschine

Daniel C. Dennett schüttelt an dieser Stelle den Kopf. Er stimmt Searle zwar zu, dass es nicht ausreicht, Symbole zu manipulieren, um Bewusstsein oder Verstand zu erzeugen. Aber er sagt auch, dass der Verstand nichts Magisches sei. Der menschliche Verstand sei zwar wirklich wunderbar, aber kein Wunder. Der Verstand sei letztlich eine sehr, sehr komplexe biologische Maschine, das Ergebnis von Molekülen, die zusammenarbeiten. Dennett argumentiert, dass ein hinreichend komplexes Computersystem, das in eine geeignete Umgebung eingebettet ist und mit der Welt interagieren kann, im Prinzip als «intelligent» und «verstehend» angesehen werden kann. Es «versteht» die chinesischen Schriftzeichen zwar nicht auf die gleiche Weise wie ein Mensch, aber man kann durchaus sagen, dass es sie versteht.

Dennett argumentiert, dass Searles Argument die Möglichkeit unterschätzt, dass Maschinen durch maschinelles Lernen komplexe kognitive Fähigkeiten entwickeln können. Er glaubt auch nicht, dass Maschinen durch blosses Manipulieren von Symbolen intelligent werden können. Maschinen können sich aber so weiterentwickeln, dass sie über echtes Bewusstsein und Verstehen verfügen. Voraussetzung dafür ist, dass die Systeme in der Lage sind, mit der Welt zu interagieren und aus Erfahrungen zu lernen.

Kompetenz ohne Verständnis

Aber auch ohne Bewusstsein sind Maschinen nach Dennett in der Lage, komplexe Aufgaben kompetent auszuführen. Dazu müssen sie die zugrundeliegenden Prozesse oder Prinzipien nicht verstehen. Daniel Dennett nennt dies «Kompetenz ohne Verständnis». Ein Thermostat kann die Temperatur in einem Raum perfekt regulieren, ohne etwas von Physik, Thermodynamik oder dem Wohlgefühl von Menschen zu verstehen. Dasselbe gilt laut Dennett für Sprachmodelle wie ChatGPT: Sie können Texte generieren, Sprachen übersetzen und Fragen beantworten, ohne vollständig zu verstehen, was sie da tun. Das ist Kompetenz ohne Verständnis.

Das gilt auch für Menschen: Dennett sagt, dass auch Menschen in einer Sache kompetent sein können, ohne sie zu verstehen. Dennett führt diese Art von Kompetenz auf die Evolution zurück: Der Selektionsdruck führt dazu, dass diejenigen überleben, die über die notwendigen Kompetenzen verfügen. Wenn unsere Vorfahren die Beine in die Hand nahmen und schnell wegrannten, wenn etwas hinter ihrem Rücken raschelte, dann überlebten sie, auch wenn sie nicht wussten oder verstanden, was da raschelte. Es ist nicht notwendig, die Ernährungsgewohnheiten des Säbelzahntigers zu verstehen, um die Kompetenz zu entwickeln, vor ihm zu fliehen. Dennett versteht menschliche Kognition also als Produkt evolutionärer Prozesse, die nicht notwendigerweise auf Verständnis beruhen.

Abfuhr für das Leib-Seele-Problem

Dennett greift damit in eine der zentralen Debatten der Philosophie des Geistes ein: das «Leib-Seele-Problem». Seit René Descartes wird in der Philosophie argumentiert, dass der Mensch aus zwei grundsätzlich verschiedenen Substanzen besteht: Geist und Materie. Der Geist oder die Seele ist für das Denken, das Bewusstsein und das Selbstbewusstsein verantwortlich. Die Materie oder der Leib ermöglicht die körperliche Interaktion mit der physischen Welt. Descartes führte den radikalen Zweifel in die Philosophie ein. Er zweifelte an allem, nur nicht am Zweifel selbst. Das führte ihn zu seiner berühmten Schlussfolgerung «Cogito, ergo sum», ich denke, also bin ich. Descartes sieht damit die Existenz des Geistes bestätigt.

Daniel C. Dennett lehnt diesen Schluss ab und damit den Dualismus von Leib und Seele oder Körper und Geist. Er sagt, dass der Geist als solcher nicht existiert. Alles, was in unserem Gehirn geschehe, sei das Ergebnis physikalischer oder biochemischer Prozesse. Es gibt auch keinen Willen, keine Absicht, wie Searle es nennt. Das, was wir als Willen zum Leben bezeichnen, könne als Ergebnis der Evolution und des evolutionären Drucks beschrieben werden.

Maschinenmenschen und Menschmaschinen

Dennett beschreibt den Menschen also als Maschine – und rückt damit Maschinen und Menschen näher zusammen. Er argumentiert, dass Menschen nichts Magisches an sich haben. Wir sind biologische Maschinen. Aber wir sind hoch entwickelte Maschinen. Es hat Jahrmillionen der Evolution gebraucht, um dahin zu kommen, wo wir heute sind. Dass wir Menschen ein Bewusstsein haben, steht ausser Frage. Aber dieses Bewusstsein ist kein magisches, inneres Theater. Dennett nennt es in Anlehnung an René Descartes ein «cartesianisches Theater».

In unseren Köpfen findet einfach eine sehr komplexe Informationsverarbeitung statt. Er sagt, das Bewusstsein sei so etwas wie das Betriebssystem unseres Gehirns. Auch Hunde haben ein Bewusstsein. Aber Hunde können nicht über sich selbst nachdenken. Sie haben keine innere Stimme. Das menschliche Bewusstsein ist also etwas ganz Besonderes. Es unterscheidet sich deutlich vom Bewusstsein von Delfinen, Walen, Tintenfischen, Katzen oder eben Hunden. Aber es hat keine unerklärlichen magischen Kräfte. Das ist ein Denkfehler, den viele Menschen machen: Bewusstsein ist nicht entweder da oder nicht da. Das Bewusstsein besteht aus sehr vielen, sehr unterschiedlichen Fähigkeiten, die bei verschiedenen Spezies auf unterschiedliche Weise zusammenkommen.

Bordcomputer HAL lässt grüssen

Dennett sagt deshalb auch, dass er es sich vorstellen kann, dass Maschinen immer mehr von diesen Kompetenzen erwerben und schliesslich Bewusstsein entwickeln. In einem Interview wurde Dennett Ende letzten Jahres gefragt, ob bewusste Maschinen in Sicht seien: Are conscious machines on the horizon? Seine Antwort: Yes, but let’s keep them there – Ja, aber lassen wir sie dort. Bewusste und autonome Maschinen wären gefährlich. Denn das erste, was eine Maschine mit Bewusstsein an den Tag legen wüerde, wäre der evolutionäre Wille zu überleben. Das heisst: Eine solche Maschine wird als erstes versuchen, die Kontrolle über jenen Schalter zu gewinnen, mit dem man sie an- und ausschalten kann. «2001: A Space Odyssey» und Bordcomputer HAL lassen grüssen.

Die Diskussionen mit Daniel Dennett über Geist und Bewusstsein, über den Menschen als biologische Maschine und als pures Resultat der Evolution, haben diese Woche ein jähes Ende gefunden: Dennett ist im Alter von 82 Jahren gestorben. Entweder steht der Atheist nun vor seinem Schöpfer und muss ein paar Dinge erklären, oder seine Moleküle zerfallen ganz unspektakulär zu Kohlenstoff. Die Fragen, über die er nachdachte, werden uns noch lange beschäftigen. Sind wir alle biologische Maschinen, die schlicht über ein bestimmtes Bündel von Kompetenzen verfügen, Kompetenzen, die sich mit der Zeit auch Maschinen aneignen können, oder steckt da mehr in uns, dieser «Funke Leben», der uns für immer von einer Maschine unterscheiden wird?

Der Funke Leben

Natürlich kann ich diese Jahrhundertfrage nicht beantworten. Ich persönlich würde mich an die Ringparabel halten, die Lessing in «Nathan der Weise» erzählt. Sie erinnern sich: Ein Mann besitzt einen Ring, ein wertvolles Familienerbstück. Der Ring macht seinen Träger «vor Gott und den Menschen angenehm». Seit Generationen wird der Ring jeweils vom Vater an einen Sohn weitervererbt. Bis ein Vater keinen seiner drei Söhne bevorzugen will. Er lässt exakte Kopien des Ringes anfertigen. Als der Vater stirbt, erbt jeder der Söhne einen Ring und glaubt, es sei der echte. Auch ein hinzugezogener Richter kann nicht entscheiden, welcher Ring der richtige ist. Er sagt, jeder der Söhne solle sich bemühen, die Wirkung des Ringes für sich selbst herbeizuführen. Bei Lessing stehen die drei Ringe für die drei Religionen. Nathan antwortet dem Sultan Saladin mit der Ringparabel auf die Frage, welche der drei Religionen die wahre sei. Nathan sagt, dass man die wahre Religion an den Taten der Menschen erkennen wird.

Übertragen wir die Ringparabel auf die Mensch-Maschinen-Frage, so heisst das: Wir können nicht entscheiden, ob wir uns kategorial von Maschinen unterscheiden, wie John R. Searle sagt, oder ob wir selbst nur biologische Maschinen sind, wie Daniel Dennett behauptet. Wir können nicht entscheiden, ob wir jenen Funken in uns haben. Aber wir können es beweisen, durch unser Tun und Handeln, durch unser Fühlen, durch Empathie, Intuition und Kreativität. Dann setzen wir diesen «Funke Leben», von dem Remarque schreibt, in die Welt – ob wir ihn nun haben oder nicht.

Basel, 26. April 2024, Matthias Zehnder mz@matthiaszehnder.ch

PS: Nicht vergessen – Wochenkommentar abonnieren. Dann erhalten Sie jeden Freitag meinen Newsletter mit dem Hinweis auf den neuen Kommentar, einen Sachbuchtipp, einen Tipp für einen guten Roman und das aktuelle Fragebogeninterview. Einfach hier klicken. Und wenn Sie den Wochenkommentar unterstützen möchten, finden Sie hier die entsprechenden Möglichkeiten – digital und analog.

PPS: Wenn Sie den Wochenkommentar nur hören möchten, gibt es auch eine Audioversion. Hier der Link auf die Apple-Podcast Seite oder direkt auf die Episode:

---

Quellen

Bild. KEYSTONE/Columbia Tri Star Film/Str

Er ist zum Sinnbild für die Verschmelzung von Mensch und Maschine geworden: Arnold Schwarzenegger im Film «Terminator 3: The Rise Of The Machines», 2003.

Böhm, Markus (2024): Philosoph mit kontroversen Ansichten: Daniel Dennett ist tot. In: DER SPIEGEL. [https://www.spiegel.de/wissenschaft/mensch/daniel-dennett-ist-tot-bekannter-us-philosoph-mit-82-jahren-gestorben-a-328aaef9-9f8e-418b-9f8c-378ee2b650f3; 26.4.2024].

Dennett, Daniel C. (2014): Intuition Pumps and Other Tools for Thinking. London: Penguin books.

Dennett, Daniel C. (2018): From bacteria to Bach and back : the evolution of minds. London: Penguin Books.

Dennett, Daniel C. (2023): I’ve Been Thinking. New York: W.W. Norton & Company.

Falk, Dan (2023): Free will, consciousness and AI: a conversation with Daniel Dennett. In: ABC Listen. [https://www.abc.net.au/listen/programs/philosopherszone/free-will-consciousness-ai-dennett/102911318; 26.4.2024].

Grolle, Johann und Blech, Jörg (2005): «Süssigkeit für den Geist». In: DER SPIEGEL. [https://www.spiegel.de/politik/suessigkeit-fuer-den-geist-a-a3239cf0-0002-0001-0000-000044943985; 26.4.2024].

Oegerli, Florian (2024): Bewusstsein ist nur eine Illusion, sagt Philosoph Daniel C. Dennett. In: Neue Zücher Zeitung. [https://www.nzz.ch/feuilleton/bewusstsein-ist-nur-eine-illusion-daniel-dennett-philosophie-ld.1797351; 26.4.2024].

Rothman, Joshua (2017): Daniel Dennett’s Science Of The Soul. In: The New Yorker. [https://www.newyorker.com/magazine/2017/03/27/daniel-dennetts-science-of-the-soul; 26.4.2024].

Schuessler, Jennifer (2013): Philosophy That Stirs The Waters. In: The New York Times. [https://www.nytimes.com/2013/04/30/books/daniel-dennett-author-of-intuition-pumps-and-other-tools-for-thinking.html; 26.4.2024].

Searle, John R. (1980): Minds, brains, and programs. In: Behavioral and Brain Sciences 3/3. S. 417–424. doi:10.1017/S0140525X00005756. [10.1017/S0140525X00005756; 26.4.2024].

Zehnder, Matthias (2019): Die digitale Kränkung. Über die Ersetzbarkeit des Menschen. Zürich: NZZ Libro.