Die (berechtigte) Angst vor Algorithmen in den Medien

Publiziert am 2. September 2022 von Matthias Zehnder

In den USA gibt es ein neues Phänomen: Es heisst «Algorithmic Anxiety» – Algorithmus-Angst. Gemeint ist das Unbehagen, das einen beschleicht, wenn man plötzlich auf allen Websites Werbung für ein Produkt sieht, nachdem man eben gesucht hat. Oder wenn auf einer Plattform immer zuerst Meldungen über den Lieblingsfussballclub auftauchen. Dahinter stecken Algorithmen und die können ganz schön unheimlich sein. Die intelligente Steuerung der Inhalte beschränkt sich längst nicht mehr auf Facebook und YouTube. Auch journalistische Medien setzen immer häufiger auf Computersteuerung. Warum das problematisch ist und warum die Algorithmus-Angst dabei hilfreich sein könnte, erkläre ich Ihnen diese Woche in meinem Wochenkommentar.

Es begann mit einem Topf. Mein Freund Philipp war auf der Suche nach einem grossen Topf für einen Oleander. Ein Vorbild waren die grossen Holz-Töpfe, wie sie im Jardin du Luxembourg stehen, Philipp hätte sich aber auch einen anderen Topf vorstellen können. Bloss nicht so ein Nullachtfünfzehn-Topf aus dem Baumarkt. Also suchte Philipp nach Pflanztöpfen im Internet. Er suchte mit unterschiedlichen Stichworten, teils über die Bildersuche von Google, teils direkt über Google Shopping. Bald stiess er in einem Onlineshop, den er bisher nicht gekannt hatte, auf einen interessanten, grossen Pflanztopf. Und dann wurde es unheimlich. Plötzlich begegnete Philipp diesem Pflanztopf beim Surfen überall. Der Topf tauchte in Werbeflächen auf, als Hinweis auf der Schnäppchen-Seite, unter redaktionellen Artikeln. Philipp fühlte sich von dem Topf verfolgt. Er begann sogar, von diesem Topf zu träumen. Mittlerweile zuckt er zusammen, wenn er online einen Pflanztopf sieht. 

Was Philipp erlebt hat, lässt sich relativ einfach erklären: Im Internet wird, anders als in der gedruckten Zeitung oder im Fernsehen, nicht allen Konsumenten dieselbe Werbung ausgeliefert. Die Werbenetzwerke passen die Werbeschaltungen dem Empfänger an. Grundsätzlich macht das Sinn: Wenn ein junger Mensch Werbung für einen Gebissreiniger sieht, ist das Werbegeld ebenso verschwendet wie die Werbung für ein Stück Fleisch bei einem Vegetarier. Eines der wichtigsten Werbenetzwerke betreibt Google. Der Konzern kann sich dabei auf das Suchverhalten der Benutzer stützen. Deshalb kann es zu Erlebnissen wie dem von Philipp kommen, der sich plötzlich von Töpfen verfolgt gefühlt hat. Den meisten Menschen fällt das kaum auf, weil passende Werbung weniger störend ist als unpassende Anzeigen. Philipp beschäftigt sich normalerweise aber nicht mit Gartenarbeit, deshalb sind ihm die Topf-Anzeigen im Internet aufgefallen. 

Von Töpfen verfolgt

Seit er sich von Töpfen im Internet verfolgt fühlt, ist Philipp misstrauisch geworden. Er fragt sich jetzt häufiger, warum er das sieht, was er online sieht. Nicht nur bei den Anzeigen, sondern ganz generell. Auf Facebook und Instagram ohnehin, aber eben auch auf den Websites der grossen Zeitungen. Was Philipp da entwickelt hat, das hat in den USA bereits einen Namen: «Algorithmic Anxiety» – Algorithmus-Angst. Immer mehr Menschen empfinden das von intelligenten Programmen gesteuerte Netz als unheimlich. Sie entwickeln ein generelles Misstrauen gegenüber allen Inhalten, die ihnen online gezeigt werden und vermuten versteckte Steuermechanismen auch da, wo keine solchen Steuerungen vorhanden sind. 

Als einer der ersten hat Shagun Jhaver das Phänomen vor vier Jahren am Georgia Institute of Technology in Atlanta untersucht. Im Fokus seiner Untersuchung standen Airbnb-Gastgeber. Wer auf der Plattform eine Wohnung vermieten will, muss nicht nur Kundinnen und Kunden ansprechen, sondern auch dafür sorgen, dass er vom Algorithmus von Airbnb berücksichtigt wird. Die Gastgeber sehen sich einer Maschine ausgeliefert, von der sie nicht genau wissen, wie sie tickt. Sie entwickeln eine Furcht vor der Maschine, die über ihren Erfolg auf der Plattform entscheidet. Ähnlich geht es Kreativen, die auf Facebook oder Instagram ihre Arbeiten präsentieren möchten.

Kreative sind von Algorithmen abhängig

Das ist eine Sicht, die ich auch kenne. Ich schreibe jede Woche über Medien und die Digitalisierung und veröffentliche den Beitrag auf meiner Website und auf anderen Plattformen. Es kommt vor, dass ein Beitrag zum Beispiel auf YouTube abhebt und sehr viel Zuspruch erfährt. In meinem Fall heisst das: Ich erreiche ein Publikum, das zehn- oder sogar hundertmal so gross ist wie normal. Warum das passiert, lässt sich nicht erklären. Aus irgendeinem Grund spült der Algorithmus von YouTube manchmal einen Beitrag vielen Benutzerinnen und Benutzern auf die Hauptseite. Es sind aber Strohfeuer: Der Algorithmus ist kein treuer Geselle. Wenigstens bisher hat er mich nach einem kurzen Schub immer wieder vergessen. Ich bleibe so ratlos und enttäuscht zurück wie die Airbnb-Gastgeber in der Studie von Shagun Jhaver. Ich persönlich habe bisher noch keine Algorithmus-Angst entwickelt, – ich stelle aber eine leichte Angespanntheit fest: Wie wird der Algorithmus diese Woche mit meinen Inhalten umgehen? 

Die «Algorithmic Anxiety», die Angst vor Algorithmen, beschränkt sich keineswegs nur auf Kreative, deren Schicksal und Erfolg von einem Algorithmus abhängig ist. Auch Konsumenten wie Philipp entwickeln immer häufiger ein Unbehagen gegenüber der sortierenden Hand im Hintergrund. Und zwar nicht nur in Bezug auf Werbung: Warum sehe ich auf Facebook diesen Inhalt und nicht etwas anderes? Warum zeigt mir Instagram gerade dieses Bild und TikTok dieses Video? Nun denken Sie vielleicht: Geschieht den Plattformen recht. Endlich wird ihre Funktionsweise hinterfragt. 

Das Problem ist: Algorithmen haben längst nicht mehr nur in den sozialen Netzwerken das Sagen. Bei der Werbung überlassen auch viele journalistische Angebote im Netz den Computerprogrammen das Steuer. Und es bleibt nicht bei der Werbung. Warum soll eine Onlinezeitung einer Leserin eine Meldung über Eishockey zeigen, wenn sie sich dafür nicht interessiert? Warum soll nicht auch hier ein Algorithmus eingreifen und der Nutzerin zuoberst auf der Seite den neusten Transfer-Coup ihres Lieblingsfussballclubs und dem Nutzer den neusten Brotbacktrend anzeigen? Die Onlinezeitung kann auf diese Weise dafür sorgen, dass die Nutzer ihr mehr Aufmerksamkeit widmen und länger online bleiben.

Blick in den Spiegel statt aus dem Fenster

Wenn Verlage ihre Inhalte von Algorithmen aussteuern, gehen aber drei Dinge verloren:

1) Die Relevanz. Es ist einer der wichtigsten Werte im Journalismus: Das Streben danach, die wichtigen, die relevanten Inhalte zu publizieren. Seit jeher diskutieren Journalisten darüber, welche Themen relevant sind. Eine Messgrösse sind dabei natürlich die Leserinnen und Leser: Relevanz gibt es nicht im luftleeren Raum, sondern immer nur im Hinblick auf ein konkretes Publikum. Aber eben nicht nur: Relevanz misst sich auch an der Welt. Deshalb stehen in einer seriösen Zeitung wichtige Meldungen, auch wenn sich möglicherweise niemand dafür interessiert. Algorithmen dagegen reden nur dem Publikum nach dem Mund. Ihr einziges Ziel sind Verweildauer, Klicks und Engagement. Wovon eine Meldung handelt, ist dabei schnurz, Hauptsache die Kasse stimmt.

2) Die Übersicht. Wenn Algorithmen die Auslieferung der Inhalte übernehmen, sieht jeder Konsument sein eigenes Produkt. Wie bei Facebook richtet sich dieses Produkt nach dem Konsumenten. Das bedeutet letztlich, dass man die Fenster in seinem Leben durch Spiegel ersetzt. Daran haben nur Narzissten Freude und auch für sie ist es nicht gut. Denn dabei geht definitiv die Übersicht verloren. Die Übersicht darüber, was im Moment wichtig ist auf der Welt. Die Medien würden damit jeden Bildungsanspruch verlieren – und die Menschen jeden Überblick.

3) Das Vertrauen. Wer heute den «Spiegel» liest, die «NZZ» oder die «Zeit», ärgert sich vielleicht darüber, dass schon wieder die Ukraine, Putin, Corona oder die Strommangellage auf dem Titelblatt stehen. Sie ärgern sich vielleicht, aber Sie wissen dabei, dass Journalistinnen und Journalisten das so entschieden haben. Auf Facebook ist das anders: Da haben Sie letztlich keine Ahnung, warum Sie einen bestimmten Inhalt sehen, weil Sie nicht wissen können, wie der Algorithmus von Facebook entscheidet. Facebook ist eine Blackbox. Wenn sich auch Medien von Algorithmen steuern lassen, geht das Wertvollste verloren, was sie haben: das Vertrauen. Denn die Art, wie Algorithmen die Inhalte aussteuern, ist meist intransparent.

Intransparent sind auch die Daten

Das liegt nicht an den Algorithmen selbst. Es gibt sehr transparente Algorithmen. Ein Kochrezept zum Beispiel ist letztlich ein Algorithmus: Wenn das Wasser kocht, geben Sie einen Esslöffel Salz dazu und 250 Gramm Spaghetti. Das ist eine nachvollziehbare Anweisung. Der Algorithmus von Facebook ist nicht nur sehr viel komplizierter und deshalb viel schwieriger nachvollziehbar, er arbeitet vor allem auch mit Zutaten, die Sie nicht kennen: den Daten, die Facebook über Sie und über die Inhalte gesammelt hat. Das Resultat ist völlige Intransparenz. Das gilt nicht nur für Facebook, es gilt für alle algorithmisch gesteuerten Medien im Internet. Und das hat auch damit zu tun, dass die Systeme teilweise künstlich intelligent sind. Das heisst nämlich nicht, dass sie klug oder kreativ wären, es bedeutet, dass sie aus Mustern lernen können. Schon diese Lernmechanismen sind aber oft intransparent. Es ist genau diese Intransparenz, die am Anfang von «Algorithmic Anxiety», der Angst vor Algorithmen, steht und letztlich zu Misstrauen und Ablehnung führt.

Jetzt sagen Sie vielleicht: Alles schlimm und so, aber das alles liegt ja weit in der Zukunft. Unsere Medien werden ja nicht von Algorithmen gesteuert. Doch diese Zukunft ist viel näher, als Sie denken. In der Schweiz haben sich die grossen Verlage zur Schweizer Digital-Allianz zusammengeschlossen. Zu dieser Allianz gehören CH Media, NZZ, Ringier, TX Group und die SRG. Diese Digital-Allianz hat sich 2021 darauf verständigt, «OneLog» einzuführen, ein gemeinsames Login für ihre Newsplattformen.

Login-Allianz will Inhalte steuern

Das Vorhaben wird damit begründet, es sei für Konsumenten angenehmer, wenn sie nur ein Login pflegen müssten. Die Verlage schreiben aber auch, die gemeinsame Login-Lösung ermögliche es den Medienhäusern «besser auf die Bedürfnisse ihrer Nutzerinnen und Nutzer einzugehen». Das heisst konkret: «Mit Ausnahme der SRG erfolgt dies sowohl im Hinblick auf die Bereitstellung publizistischer Inhalte und die Produktentwicklung als auch auf die Ausspielung von relevanter Werbung.» Die Verlage wollen mit der Login-Allianz also nicht nur personifizierte Werbung ausliefern, sondern auch die Bereitstellung von Inhalten beeinflussen.

Ich bin deshalb froh darüber, dass langsam aber sicher von «Algorithmic Anxiety», von der Algorithmus-Angst die Rede ist. Es ist richtig und wichtig, dass Algorithmen und künstliche Intelligenz nicht mehr nur auf den Technik-Seiten der Medien als Allheilmittel der Zukunft gepriesen, sondern kritisch hinterfragt werden. 

Deklarationspflicht von Algorithmen

Das heisst nicht, dass keine Algorithmen zum Einsatz kommen sollen. Journalistische Medien sollten aber transparent machen, wie sie Algorithmen einsetzen und wie diese Algorithmen arbeiten. Das heisst auch: Welche Daten sie verarbeiten. Eine solche Algorithmen-Deklaration sollte so selbstverständlich werden wie die Deklaration der Zutaten bei Lebensmitteln. Medien sind geistige Lebensmittel, – warum sollen wir uns nicht genauso über ihre Zutaten und ihre Herstellung informieren wie über die von Wurst und Brot und Linsensalat und Fischstäbchen? Es kann immer noch jeder Einzelne entscheiden, wie er sie nutzen will. Oder besser: Der Entscheid ist nur möglich, wenn Transparenz hergestellt ist. Sonst ist es eine blinde Wahl. Und das ist bei Medien keine gute Idee. 

Ich hoffe deshalb, dass die Angst vor Algorithmen noch zu reden geben wird. Damit wir bald mehr Transparenz darüber erhalten, wo überall Algorithmen drin stecken.

Basel, 2. September 2022, Matthias Zehnder mz@matthiaszehnder.ch

PS: Nicht vergessen – Wochenkommentar abonnieren. Dann erhalten Sie jeden Freitag meinen Newsletter mit dem Hinweis auf den neuen Kommentar, einen Sachbuchtipp, einen Tipp für einen guten Roman, das aktuelle Fragebogeninterview und mein persönlicher Tipp für ein gutes, digitales Leben. Einfach hier klicken. Und wenn Sie den Wochenkommentar unterstützen möchten, finden Sie hier ein Formular, über das Sie spenden können. 

PPS: Wenn Sie den Wochenkommentar nur hören möchten, gibt es auch eine Audioversion. Hier der Link auf die Apple-Podcast Seite oder direkt auf die Episode:

---

Quellen

Bild: © KEYSTONE/Alessandro Crinari

CH Media (2021): Start des gemeinsamen Logins der Schweizer Digital-Allianz OneLog. [https://chmedia.ch/news/start-des-gemeinsamen-logins-der-schweizer-digital-allianz-onelog; 2.9.2022].

Chayka, Kyle (2022): The Age Of Algorithmic Anxiety. In: The New Yorker. [https://www.newyorker.com/culture/infinite-scroll/the-age-of-algorithmic-anxiety; 2.9.2022].

Corbyn, Zoë (2022): Out of sight: the algorithms running our lives. In: The Guardian . [https://www.theguardian.com/us-news/2022/aug/26/anti-cheating-technology-students-tests-proctorio; 2.9.2022].

Jhaver, Shagun; Karpfen, Yoni und Antin, Judd (2018): Algorithmic Anxiety and Coping Strategies of Airbnb Hosts. doi:10.1145/3173574.3173995. [10.1145/3173574.3173995; 2.9.2022].

Sundar, S Shyam (2020): Rise of Machine Agency: A Framework for Studying the Psychology of Human–AI Interaction (HAII) 25/1. S. 74–88. doi:10.1093/jcmc/zmz026. [10.1093/jcmc/zmz026; 2.9.2022].

Zeller, Johannes (2020): Algorithmen sind wie Kochrezepte. In: @GI_weltweit. [https://www.goethe.de/de/kul/ges/21877729.html; 2.9.2022].