Buchtipp
Nächster Tipp: Schlafen
Letzter Tipp: Niemand kann sagen, er hätte es nicht gewusst
Gefühle der Zukunft
Was unterscheidet den Menschen vom Computer? Gefühle! Sind Sie sicher? Die KI ist nämlich drauf und dran, auch in diesen Bereich vorzustossen. Wenn KI-Systeme nicht mehr nur Sprache generieren, sondern gefühlsbetont mit Menschen interagieren, spricht man von Affective Computing. Das ist die Beschäftigung mit dem Erkennen, dem Verarbeiten und dem Simulieren menschlicher Gefühle durch Computer. Das heisst nicht, dass die Maschinen Gefühle haben. Es reicht, dass sie Gefühlsausdrücke simulieren und Gefühle von Menschen erfassen können. In ihrem Buch denkt Eva Weber-Guskar aus philosophischer Perspektive über solche Computersysteme nach. Es geht ihr also nicht nur um die Funktionsweise affektiver Systeme, sondern auch um die Frage, ob sie wünschenswert, problematisch oder gar moralisch verwerflich sind. In ihrem Buch geht Eva Weber-Guskar deshalb Fragen nach wie: Was gewinnen wir, wenn wir unsere Gefühle vermessen? Geht es gar nicht ohne, weil die Menschen nun mal gefühlsbetonte Wesen sind? Wo liegen bei der Forschung zu KI-Systemen mit Gefühlen Grenzen, nicht nur in der Anwendung, sondern auch in der Entwicklung, und wo sollten wir Grenzen ziehen? Sie sagt, die Gefahr stecke «nicht in den Systemen selbst, sondern darin, wie wir sie nutzen –allein oder vor allem im Umgang mit anderen Menschen.» Eva Weber-Guskar führt in ihrem Buch gut verständlich in die Grundprobleme der KI und der Gefühlsverarbeitung ein und zeigt, wo die Möglichkeiten und die Grenzen davon liegen.
ChatGPT, Google Gemini und ähnliche KI-Systeme sind so genannte «Large Language Models»: Sie sind ausdrücklich und ausschliesslich zur Sprachverarbeitung gedacht, programmiert, trainiert und kuratiert worden. Eigentlich. Denn das hat sich geändert. Es kommt immer wieder vor, dass die Systeme Aufgaben erfüllen, für die sie eigentlich nicht gedacht waren. Sie lassen sich als Mathematik-Lehrer einsetzen, als Programmierer oder als Analytiker. Und sie umfassen seit GPT-4o auch affektives Computing. «KI dringt nun mit Vehemenz auch in die vermeintlich letzte Bastion des Menschlichen vor: den Bereich der Gefühle», schreibt Eva Weber-Guskar, Professorin fürEthik und Philosophie der Emotionen an der Ruhr Universität Bochum.
Affective Computing bezieht sich auf Emotionen, geht von ihnen aus oder beeinflusst sie. «Mittlerweile arbeitet man zunehmend erfolgreich daran, einerseits menschliche Gefühle maschinell automatisiert zu erfassen und andererseits digitale Systeme Gefühlsausdrücke simulieren zu lassen», schreibt Weber-Guskar. «Beides zusammen ermöglicht es, die Interaktion zwischen Mensch und Maschine insgesamt zu emotionalisieren.» Es geht also nicht darum, Computer mit Gefühlen auszustatten, sondern Computer zu befähigen, mit den Gefühlen der Menschen umzugehen. «Mit dieser Forschung zum Affective Computing und mit ihren praktischen Anwendungen ist vieles verbunden, was nicht nur vielleicht, sondern sicher zunehmend in unserem Alltag eine Rolle spielen wird», schreibt Weber-Guskar. Mit ihrem Buch möchte sie auf diese Technologie aufmerksam machen, über sie aufklären und zur Diskussion anregen, ob und, wenn ja, wie affektive KI verantwortungsvoll weiterentwickelt und angewandt werden kann und soll.
Als Philosophin beschäftigt sie sich dabei nicht nur mit dem, was ist, sondern auch damit, was sein soll, also mit der Computerethik. Es geht ihr zum Beispiel darum, wie wir unsere Gefühle in Zukunft schützen können. Schliesslich ist das ein wichtiger Teil unserer Privatsphäre. Computersysteme, die Gefühle lesen können, sind womöglich in der Lage, Unfälle oder Anschläge zu verhindern. Wie geht das – und: wollen wir das? Menschen sind emotionale Wesen und bauen auch zu Sachen eine emotionale Beziehung auf, zu ihrem Auto, einem Teddybär oder ihrem Chatbot. Ist es nur eine Illusion, wenn ein Mensch im Chat mit einer KI Gefühle entwickelt oder sind ganz neue Arten von Beziehungen möglich? Weber-Guskar ist überzeugt: «Wir müssen uns jetzt gemeinsam darüber verständigen, wie unsere Gesellschaft angesichts der rasenden technischen Entwicklungen in Zukunft aussehen soll. Dazu gehören zentral auch unser Verständnis von Gefühlen und unser Umgang mit ihnen angesichts des neuen Lichts, das Affective Computing auf sie wirft.»
In ihrem Buch zeigt sie, welche Anwendungen dieser emotionalen KI heute schon Realität sind und wo gerade geforscht und entwickelt wird. Sie beginnt mit Apps, Programmen und Geräten zur Selbstvermessung und damit zur gefühlsmässigen Selbsterkennung. Die Resultate in diesem Feld sind noch eher rudimentär. Immerhin ist es aber jedem einzelnen überlassen, ob er solche Techniken etwa zur Überwachung seines Schlafs oder für das bessere Management seiner Gefühle einsetzt. Anderes ist das bei Techniken zur Überwachung von Emotionen. Die stecken zwar auch noch in den Kinderschuhen, sind aber höchst problematisch, weil sie tendenziell die Privatsphäre der Menschen verletzen. Es sei deshalb wichtig, diese Daten und Techniken «einem besonderen rechtlichen Schutz zu unterstellen», schreibt Weber-Guskar. «Deshalb ist es gut, dass es neben der DSGVO nun ergänzend das EU-Gesetz zur Künstlichen Intelligenz gibt.» Der AI-Act regelt genau solche Überwachungstechnologien im öffentlichen Raum.
Und was ist, wenn Menschen Gefühle zu Maschinen entwickeln? Davon ist immer wieder die Rede, dass sich Nutzerinnen oder Nutzer in ihren Chatbot verlieben oder sonst eine emotionale Beziehung dazu aufbauen. «Offensichtlich ist, dass Roboter und Chatbots, je mehr sie eine menschliche Erscheinungsform haben, desto mehr zu Problemen in der sozialen Praxis führen können», schreibt Weber-Guskar. Deshalb sei es wichtig, dass man beim Gestalten von KI-Interaktionspartnern nicht nur danach gehen, wie das Design den Menschen die intuitiv einfachste Nutzung ermögliche. «Vielmehr ist darauf zu achten, sie nicht so zu gestalten, dass Menschen in die Irre geführt werden, weil unpassenderweise biologisch verankerte Mechanismen ausgelöst werden. Gesellschaft, Wissenschaft und Wirtschaft müssen versuchen, sich gemeinsam klar darüber zu werden, was passende Einstellungen und Gefühle den Systemen gegenüber wären.»
Die Maschinen selbst können auf absehbare Zeit (wahrscheinlich) keine Gefühle entwickeln, und das ist gut so. Sie plädiere zwar nicht für einen Stopp oderein Moratorium in der Forschung zur KI oder zur emotionalen KI. Sie plädiere aber dafür, «von allen Versuchen, eine bewusste und fühlende KI zu entwickeln, abzusehen.» Ausserdem halte sie es für wichtig, «Ethik mehr als bisher als integralen Bestandteil von den IT- und Ingenieurs-Forschungsprojekten zu etablieren. So sollte verhindert werden, dass trotz eigentlich bester Absichten versehentlich etwas in der falschen Richtung entwickelt wird.»
Eva Weber-Guskar: Gefühle der Zukunft. Wie wir mit emotionaler KI unser Leben verändern. Eine philosophische Perspektive. Ullstein, 272 Seiten, 33.90 Franken; ISBN 978-3-550-20287-2
Erhältlich ist das Buch hier: https://www.biderundtanner.ch/detail/ISBN-9783550202872
Wenn Sie das Buch lieber digital für Ihren Kindle beziehen möchten, klicken Sie hier
Eine Übersicht über sämtliche Buchtipps finden Sie hier: https://www.matthiaszehnder.ch/buchtipp/
Abonnieren Sie meinen Newsletter, dann erhalten Sie jede Woche den Hinweis auf das Sachbuch der Woche in Ihre Mailbox geliefert: https://www.matthiaszehnder.ch/abo/