Ist die KI gut oder schlecht für die Demokratie?

Publiziert am 15. März 2024 von Matthias Zehnder

Es ist keine Frage mehr, ob die Künstliche Intelligenz in unser aller Leben Einzug halten wird. Sie ist längst da. Mal versteckt in der Steuerung einer Ampel, der individualisierten Werbung im Internet oder der Betrugsprävention Ihrer Bank, mal offen sichtbar als Chatbot oder Bildergenerator. Es ist daher an der Zeit, dass wir uns mit den Auswirkungen von KI beschäftigen. Gerade im Superwahljahr 2024 ist eine wichtige Frage: Welche Auswirkungen hat die Verfügbarkeit von KI auf die Demokratie? Genau dazu habe ich letzte Woche am Politforum Thun einen Vortrag gehalten. Ich möchte Sie an meinen Überlegungen teilhaben lassen. Nützt oder schadet die KI der Demokratie? Auf den ersten Blick klingt es immer vielversprechend, wenn mächtige Werkzeuge der Öffentlichkeit zur Verfügung stehen. Man spricht dann von einer Demokratisierung. Und die KI? Macht sie uns zu mündigeren Bürgerinnen und Bürgern? Macht die KI die Medien besser – oder nur die Medienproduktion effizienter? Was ist mit Falschinformationen? Könnte die KI vielleicht ein Werkzeug gegen Fake News sein? Mein Wochenkommentar zur Frage, ob die KI gut oder schlecht ist für die Demokratie.

In einer Demokratie können die Bürgerinnen und Bürger durch Wahlen und Abstimmungen direkt oder indirekt an politischen Entscheidungen mitwirken. Einfacher gesagt: In einer Demokratie können Bürger Entscheidungen treffen. In repräsentativen Demokratien sind es vor allem Wahlentscheidungen, in der Schweiz können die Bürgerinnen und Bürger darüber hinaus viermal im Jahr über Sachfragen abzustimmen. Dabei geht es um durchschnittlich fünfzehn Sachfragen in der Gemeinde, im Kanton oder der ganzen Schweiz. Die Bürger benötigen Kompetenz, damit sie eine fundierte Entscheidungen treffen können. Die Frage, ob künstliche Intelligenz gut oder schlecht für die Demokratie ist, können wir also beantworten, wenn wir herausfinden, ob KI die Kompetenz der Bürgerinnen und Bürger beeinflusst. Macht uns KI kompetenter?

Inwiefern kann die KI dazu führen, dass wir als Bürgerinnen und Bürger besser informiert sind? Die Schlüsselrolle bei der Information der Bürgerinnen und Bürger spielen die Medien. Sie sorgen für unabhängige Information, Kritik und Diskussion. Diese Medien haben sich in den letzten Jahren dramatisch verändert. Bevor das Internet Einzug in unser aller Leben hielt, waren die Medien die einzigen Informationskanäle. Die Menschen haben sich am Morgen im Radio und der Tageszeitung und am Abend im Radio und im Fernsehen über alles informiert, was sie interessiert: Fussballresultate, Todesanzeigen, Restauranteröffnungen und manchmal auch über Politik. Die Tageszeitung bot all diese Informationen in einem Paket. Dafür sorgten die Journalistinnen und Journalisten auf den Redaktionen. Sie entschieden, was in die Zeitung kommt und was nicht. Es fand mit anderen Worten ein professionelles Gatekeeping statt.

Heute sieht die Medienwelt komplett anders aus. In der digitalen Welt ist jeder ein grosses oder kleines Medium. Von Amazon bis VW, von der Bundesregierung bis zu den Reichsbürgern kommunizieren im Prinzip alle gleichberechtigt im Netz. Das zentrale Gut, um das im Netz alle kämpfen, ist die Aufmerksamkeit der Nutzer. Sie ist so wertvoll, weil sie sich nicht vermehren lässt. Selbst wenn wir 24 Stunden im Netz verbringen würden, ist unsere Zeit und damit unsere Aufmerksamkeit begrenzt. Wer im Internet die Menschen erreichen will, muss also mit immer heftigeren Mitteln auf sich aufmerksam machen. Das ist die Aufmerksamkeitsfalle, in der alle sitzen, die im Internet auf Reichweite angewiesen sind.

Schwindende Erträge bei den Medien

Für die Medien kommt erschwerend dazu, dass das Internet ihre Ertragsmöglichkeiten dramatisch verändert hat. Tageszeitungen finanzieren sich im Prinzip aus drei Ertragsquellen: Aus Abo- und Verkaufserträgen, also aus dem Nutzermarkt, aus Anzeigenerlösen, also aus dem Werbemarkt, und aus Rubrikenerlösen. Das waren Kleinanzeigen für Wohnungen, Jobs, Gebrauchtwagen und Bekanntschaften. Diese Rubrikenanzeigen sind sehr früh ins Internet abgewandert. Es ist nun mal einfacher, in einer Datenbank nach einer Wohnung zu suchen als in einer Zeitung. In den letzten Jahren ist nun auch die Werbung ins Netz abgewandert. Heute schöpfen die grossen US-Plattformen in der Schweiz drei Viertel des gesamten Online-Werbemarkts ab. Diese Erträge sind für den Journalismus in der Schweiz verloren. Was übrig bleibt, reicht kaum aus, um die Medien zu finanzieren. In einem kleinen und kleinräumigen Land wie der Schweiz schon gar nicht: Digitale Märkte leben von Skaleneffekten. Dafür ist unser Land schlicht zu klein.

Und die Nutzerinnen und Nutzer? Die waren jahrelang daran gewöhnt, dass im Internet alles umsonst ist. So langsam setzt sich die Erkenntnis durch, dass gute Inhalte etwas kosten. Die Bereitschaft, für digitale Medien zu bezahlen, ist aber immer noch gering. Die Folge: Die Medien erzielen pro Nutzer im digitalen Markt deutlich weniger Umsatz als früher im Printbereich. Als Faustregel kann gelten: Pro Nutzer machen Medien online etwa ein Zehntel des Umsatzes, den sie pro Nutzer im Print machten. Zeitungen, die sich durch die Digitalisierung einen grösseren Markt erschliessen können, sind in der Lage, den geringeren Umsatz pro Nutzer durch eine höhere Zahl der Nutzer zu kompensieren. Das gelingt zum Beispiel der «New York Times», früher eine Zeitung für die Ostküste der USA, heute ein globaler Titel. Hierzulande ist es zum Beispiel der NZZ gelungen, sich mit einer klar rechten Positionierung einen grösseren Markt zu erschliessen. Für die «Aargauer Zeitung» oder das «Mindener Tagblatt» ändert die Digitalisierung hingegen wenig: Nur weil die Zeitungen jetzt digital verfügbar sind, interessieren sich nicht mehr Menschen für Aarau oder Minden. Für die grosse Mehrzahl der Medientitel hat die Digitalisierung deshalb zu einem Einbruch ihrer Erträge geführt.

Soziale Netzwerke als Hauptinformationsquelle

Gleichzeitig hat sich das Mediennutzungsverhalten der Menschen stark verändert. Die wichtigsten Informationsquellen sind heute nicht mehr die professionellen Medien, sondern die sozialen Netzwerke. Je jünger die Menschen sind, desto ausgeprägter ist dieser Trend. In der Schweiz sind Social Media für die 18- bis 24-Jährigen die wichtigste Informationsquelle. Online-Medien machen in dieser Altersgruppe fast 80 Prozent der Informationsquellen aus. Studien in Deutschland und Österreich kommen zum gleichen Ergebnis: Social Media sind für immer mehr Menschen die wichtigste oder sogar die einzige Informationsquelle. Problematisch ist, dass professionelle Medien auf Facebook, Instagram und TikTok eine untergeordnete Rolle spielen. Ein echtes Gatekeeping findet in den sozialen Medien nicht statt. Das macht sie einerseits attraktiv, öffnet andererseits aber auch Falschinformationen Tür und Tor. Und hier kommt wieder die Aufmerksamkeitsfalle ins Spiel, die bei allen Medien greift, die sich über Werbung und damit eben über Aufmerksamkeit finanzieren: Falschmeldungen verbreiten sich in den sozialen Medien viel schneller als richtige Informationen. Das zeigen Studien immer wieder, zum Beispiel diese eindrucksvolle Grafik aus einer Studie der Georg-August-Universität Göttingen zur Viralität von Fake News in Social Media. Der Grund ist einfach: Fake News sind meist viel spektakulärer als korrekte Nachrichten.

Das ist also die Ausgangslage:

1. Die Medien sind geschwächt, weil die Digitalisierung zu einem Ertragsproblem geführt hat.
2. Soziale Medien sind vor allem für jüngere Menschen die mit Abstand wichtigste Informationsquelle für Nachrichten.
3. Social Media haben kein professionelles Gatekeeping. Das öffnet Falschinformationen Tür und Tor.
4. Weil sie oft spektakulärer sind, verbreiten sich Falschinformationen auf sozialen Medien viel schneller als richtige Nachrichten.
5. Am meisten Aufmerksamkeit erhalten dabei negative Gefühle. Die Folge sind Ärger, Wut und Bitterkeit.

Das ist die Lage, in die jetzt die KI hineinplatzt. Verbessert oder verschlechtert die KI diese Situation?

Wenn wir im Folgenden über den Einsatz von KI nachdenken, ist ein Punkt besonders wichtig: Künstliche Intelligenz ist vieles, aber ganz sicher nicht intelligent. Insbesondere die generative KI ist nichts anderes als ein Papagei, der sich auf Statistik versteht. Die KI beherrscht die Zeichenebene der Sprache perfekt und kann dank ausgeklügelter Mustererkennung und Statistikprogramme die Sprachfetzen, mit denen sie trainiert wurde, sehr eloquent wiedergeben. Aber sie hat keine Ahnung, was sie sagt. KI hat keine Bedeutungsebene und keinerlei Wahrheitskonzept.

Schauen wir uns nun an, wo KI eingesetzt werden kann. Grob gesagt kann KI im Bereich Information an zwei Stellen eingesetzt werden: bei den Medien und bei den Bürgern. Der Einsatz kann Inhalte generieren, die KI kann also «produktiv» sein, oder die KI kann Inhalte erschliessen, sie kann «konsumativ» eingesetzt werden. Aus den beiden Einsatzorten und den beiden Einsatzarten ergeben sich vier Einsatzfelder für KI. Wir können nun abschätzen, ob KI in diesen vier Feldern der Demokratie nützt oder schadet.

1) Produktiver Einsatz der KI  in den Medien

Beginnen wir mit Feld 1, dem produktiven Einsatz in den Medien. Inwiefern nützt oder schadet KI der Demokratie, wenn Medienunternehmen KI-Tools zur Generierung von Inhalten einsetzen? KI kommt heute vor allem bei der Weiterverarbeitung von Inhalten zum Einsatz, etwa bei der Automatisierung der Bildbearbeitung oder der Textkorrektur. Erste Häuser experimentieren mit dem Einsatz von KI bei der Produktion von Textversionen, etwa beim Kürzen oder Übersetzen von Inhalten. Es ist möglich, dass KI die Medienhäuser in diesem Bereich effizienter macht.

Doch darüber hinaus wird die KI kaum gehen können. Denn die KI kann weder über einen Kriegsschauplatz noch über eine Regierungsratssitzung berichten. Wirklich produktiv kann die KI nicht eingesetzt werden, weil sie keinen Wahrheitsbegriff hat. Vielleicht wird die Produktion von Infografiken einfacher, vielleicht das Auslesen von Fussballresultaten. Viel mehr dürfte nicht drin sein. Die KI kann also Assistenzfunktionen übernehmen, bleibt inhaltlich aber fehleranfällig. Die ganz grosse Frage bleibt: Wer trägt die Verantwortung, wenn die KI Inhalte generiert oder gar publiziert? Die KI wird den Medien also nicht viel bringen, aber auch nicht allzuviel schaden.

2) Konsumativer Einsatz der KI  in den Medien

Kommen wir zu Feld 2, dem konsumativen Einsatz von KI in den Medien. Inwiefern nützt oder schadet es den Medien, wenn Journalisten die KI, also zum Beispiel Chatbots, bei der Recherche oder beim Schreiben einsetzen? Das grosse Problem ist, dass man sich auf die KI nicht verlassen und die KI auch nicht als Quelle zitieren kann. Vielleicht bietet sie etwas Unterstützung bei der Suche im Web, aber der Produktivitätsgewinn ist eher bescheiden. ChatGPT oder Google Gemini lassen sich beim Schreiben als Brainstorming-Tools einsetzen, als Sparring-Partner, etwa wie eine Assistentin oder ein Assistent. Das Wesentliche aber muss sich im Kopf der Journalistinnen und Journalisten abspielen. Und vor allem müssen sie trotz oder gerade wegen der KI ihre Quellen im Griff haben und ihre Recherchen mit Dokumenten belegen können. Auch in dieser Hinsicht wird die KI den Medien also nicht viel bringen.

3) Produktiver Einsatz der KI  durch Bürger

Kommen wir zu Feld 3, der produktiven Nutzung von KI durch die Bürgerinnen und Bürger. Davon schwärmen die Verantwortlichen von Microsoft und Google seit Monaten: E-Mails auf Knopfdruck, Formulierungen aus dem Zauberkästchen, geniale Präsentationen, schöne Bilder. Alles wunderbar? Für die Bürokommunikation und die nächste Kundenpräsentation vielleicht. Aber was bringt es der Demokratie? Vermutlich vor allem eine gigantische Flut von Falschinformationen. Nie war es einfacher, Bilder und Texte zu produzieren, die echt aussehen, aber einen falschen Inhalt transportieren. Denken Sie an den Papst in der Balenciaga-Jacke oder die gefälschten Bilder von der Verhaftung von Donald Trump. Es ist verdammt einfach geworden, solche Bilder zu generieren. Es muss ja auch nicht immer der Papst oder Donald Trump sein. Zumindest die grossen KIs haben heute Schutzmechanismen für weltbekannte Persönlichkeiten eingebaut. Aber nicht für den Präsidenten Ihrer Gemeinde, den lokalen Fussballvorstand oder die Frau im Rathaus.

Jetzt sagen Sie vielleicht: Das sieht doch jedes Kind, dass diese Bilder gefälscht sind. Ja, das ist möglich. Sie und ich wissen ja, dass Donald Trump nicht verhaftet wurde und der Papst keine Balenciaga-Jacke trägt. Wir haben dabei aber zwei Probleme. Das erste: Die Bilder wirken auch dann, wenn wir wissen, dass sie falsch sind. Das Bild des Papstes mit der kultigen Rapper-Jacke ist heute Teil des kollektiven Gedächtnisses, auch wenn es gefälscht ist. Denken Sie an die gefälschten Nacktfotos von Taylor Swift: Selbstverständlich hat Taylor Swift sich dagegen gewehrt. Auch wenn jeder weiss, dass die Bilder gefälscht sind, verletzen sie Taylor Swift – und wirken in den Köpfen der Betrachter. Der zweite Grund, warum auch offensichtliche Fake News gefährlich sind: Die meisten Menschen glauben das, was sie glauben wollen. Wenn ein Bild auftaucht, das ihren Vorurteilen oder ihrer Ideologie entspricht, glauben sie lieber dem Bild, auch wenn es gefälscht ist, als im Netz nach Beweisen für die Wahrheit zu suchen. Deshalb: Die produktive Seite der KI wird auf der Seite der Bürger der Demokratie schaden.

4) Konsumativer Einsatz der KI durch Bürger

Kommen wir zum vierten Feld, dem konsumativen Einsatz der KI durch die Bürgerinnen und Bürger. Inwiefern nützt es also der Demokratie, wenn die Menschen sich Informationen von der KI aufbereiten lassen können? ChatGPT oder Google Gemini sind als unermüdliche Tutoren bekannt, die Schülerinnen und Schülern bei Bedarf stundenlang Fragen über Pythagoras, den Accusativus cum Infinitivo oder die Oxidation beantworten. Das Problem dabei: In einer Demokratie drehen sich die relevanten Fragen immer um aktuelle politische Probleme. Während die KI in Grammatik oder Chemie auf digitalisierte Lehrbücher zurückgreifen kann, müsste sie für politische Fragen Zugang zu validierten politischen Informationen haben. Genau das steht aber nicht zur Verfügung. Dazu kommt, dass die KI keinen Wahrheitsbegriff hat. Man kann sich auf ihre Antworten nicht verlassen. Die KI neigt zu Halluzinationen. Kleines Beispiel: Die neuseeländische Supermarktkette Pak’n’Save setzte ChatGPT für das Generieren von Kochrezepten ein. Es dauerte nicht lange, da empfahl der Rezeptroboter Rezepte mit Menschenfleisch. Im Rahmen einer politischen Diskussion, vor einer Abstimmung oder einer Wahl sind solche Fehlleistungen einer KI fatal. Auch in diesem Feld sehe ich derzeit keine andere Bewertung als die, dass die KI der Demokratie eher schadet.

Was können wir tun?

Insgesamt ergibt sich also ein eher düsteres Bild: Auf Seiten der Medien bringt die KI wenig, auf Seiten der Bürgerinnen und Bürger wird sie der Demokratie eher schaden. Was können wir tun? Wie können wir die Demokratie vor diesem schädlichen Einfluss der KI-Tools schützen?

Auf diese Frage geben Politiker derzeit zwei Antworten:

1. Stärkung der Regulierung: Wir brauchen Gesetze und Vorschriften, die den Einsatz von KI zur Verbreitung von Falschinformationen und Desinformation verhindern.
2. Verbesserung der Medienkompetenz: Die Bürgerinnen und Bürger müssen lernen, Informationen kritisch zu hinterfragen und Falschinformationen zu erkennen. Wir brauchen dasher eine bessere Medienbildung.

Die EU hat am vergangenen Mittwoch den AI-Act verabschiedet. Das Gesetz regelt den Umgang mit KI in der EU. Es verbietet die Verbreitung von Deepfakes, die Personen täuschen oder manipulieren sollen, und die Verbreitung von gezielter Desinformation. Die Frage ist, wann und wie dieses Regelwerk umgesetzt werden kann. Immerhin ist es der AI-Act ein Ansatz, der vielleicht langfristig Wirkung zeigen könnte.

Der zweite Vorschlag, das Steigern der Medienkompetenz, wird nichts helfen. Einmal abgesehen davon, dass es schon an Schulen schwierig ist, Medienkompetenz zu vermitteln, wie wollen Sie eine ganze Gesellschaft medienkompetent machen? Es steckt aber auch ein Denkfehler darin: Die Menschen glauben Falschmeldungen nicht, weil sie sie für wahr halten, sondern weil sie ihnen gefallen. Dahinter verbirgt sich die kognitive Dissonanz: Passt die Information, die ein Mensch erhält, nicht zu seiner Einstellung, wird er eher die Information ändern als seine Einstellung. Und umgekehrt: Passt eine falsche Information perfekt zur Einstellung, gibt es keinen Grund, die Information kritisch zu hinterfragen und zu überprüfen. Mehr Medienkompetenz bringt deshalb wenig.

KI wird also die Demokratien dieser Welt unter Druck setzen. Ich glaube, es gibt nur einen Weg, wie wir als Gesellschaft etwas dagegen tun können: Wir müssen unsere Medien wieder stärken. Die Digitalisierung und insbesondere der Trend zum Konsum von sozialen Medien haben die Ertragsmöglichkeiten der meisten Medien stark eingeschränkt. Ganz besonders gilt das in der kleinen und kleinräumigen Schweiz. Die Frage ist, wie wir hier korrigierend eingreifen können. Es geht nicht darum, was die Medien wollen, sondern darum, was gut ist für unsere Gesellschaft. Und das sind starke, unabhängige Medien, die nicht auf Teufel komm raus der Aufmerksamkeit im Internet nachjagen müssen, sondern sich dank guter Unterstützung um gute Informationen bemühen können.

Damit die KI der Demokratie nicht schadet.

Basel, 15. März 2024, Matthias Zehnder mz@matthiaszehnder.ch

PS: Nicht vergessen – Wochenkommentar abonnieren. Dann erhalten Sie jeden Freitag meinen Newsletter mit dem Hinweis auf den neuen Kommentar, einen Sachbuchtipp, einen Tipp für einen guten Roman und das aktuelle Fragebogeninterview. Einfach hier klicken. Und wenn Sie den Wochenkommentar unterstützen möchten, finden Sie hier die entsprechenden Möglichkeiten – digital und analog.

PPS: Wenn Sie den Wochenkommentar nur hören möchten, gibt es auch eine Audioversion. Hier der Link auf die Apple-Podcast Seite oder direkt auf die Episode:

---

Quellen

Bild: KEYSTONE/Gian Ehrenzeller
Abstimmung an der Landsgemeinde, am Sonntag, 24. April 2022, in Appenzell.

AWP (2024): Google-Chef Sundar Pichai für globales KI-Regelwerk. In: Cash.ch. [https://www.cash.ch/news/top-news/google-chef-sundar-pichai-fur-globales-ki-regelwerk-686894; 15.3.2024].

Fulterer, Ruth (2024): Neues KI-Gesetz der EU: «Kann es die ‹böse› Innovation blockieren und die gute ermöglichen?» In: Neue Zürcher Zeitung. [https://www.nzz.ch/technologie/ai-act-was-bringt-das-ki-gesetz-der-eu-effy-vayena-im-interview-ld.1822202; 15.3.2024].

Kleinz, Torsten; Anton, Rosenbach und Rainer, Anton (2023): Künstliche Intelligenz Wenn Maschinen lügen lernen. In: DER SPIEGEL, Hamburg, Germany. [https://www.spiegel.de/netzwelt/web/kuenstliche-intelligenz-wenn-maschinen-luegen-lernen-a-0e1238fe-2cd1-4d02-bcbc-ece088a6b0da; 15.3.2024].