Misinformation und Fake News in den Sozialen Medien

Einblicke in die interdisziplinäre Forschungslage

Jula Lühring
Universität Wien & Complexity Science Hub

VHS Schwerpunkt Demokratie am 7. Oktober 2024

Vorstellung

Jula Lühring, M.Sc., B.A.

• Studium in Bremen und Amsterdam
• Arbeit im Bereich der Demokratieförderung
• Doktorandin im Computational Communication Science Lab & Complexity Science Hub

Mail: jula.luehring@univie.ac.at

Computational Communication Science?

Theorie:

Kommunikationswissenschaft, Psychologie, Soziologie

Methodik:

Informatik, Physik

\(\rightarrow\) interdisziplinär!

Haben Sie schon einmal von Computational Social Science gehört? Wir stellen sozialwissenschaftliche Fragen, aber nutzen in der Regel Methoden der Informatik oder der Physik um sie zu beantworten.

Misinformation

\(\rightarrow\) Psychologie

\(\rightarrow\) Informatik

\(\rightarrow\) Kommunikations- und Medienwissenschaften

\(\rightarrow\) Soziologie

\(\rightarrow\) Politikwissenschaften

D.h., wir fragen uns jetzt: wie verbreitet ist Misinformation? Und anstatt von Umfragen oderaber zusätzlich dazu, verfolgen wir dann computergestützte Ansätze und analysieren Social Media-Daten Und wenn wir uns fragen, wie wir die Verbreitung von Misinformation eindämmen können, dann programmieren wir Computersimulationen, in denen wir Interventionen testen können

Was ist Misinformation?

Im Kontext der “Information Disorder”

Wardle & Derakhshan, 2017

• Trennung von Mis- und Desinformation

• Fake News als Subtyp von Desinformation

• Fokus auf Schädlichkeit

Misinformation = unwahre Informationen ohne bestimmte Intention

• Laut der Definition von den Autor:innen sind Mis- und Desinformation zwei verschiedene Oberbegriffe für Falschnachrichten, die aber mit Malinformation, also Hassrede überlappen

• Ich mag diese Definition weil sie einen Fokus auf Schädlichkeit liegt: Information kann falsch sein und keinen Schaden anrichten, aber auch richtig aber hasserfüllt sein und großen Schaden anrichten

• Trotz der Trennung wird der Begriff Misinformation in der Praxis eher als Oberbegriff verwendet, in der Forschung ist es oft schwer die Intention festzustellen

• Hier wird Misinformation in der Regel als unwahre oder falsche Informationen bezeichnet, die keine bestimmte Intention hat

Wie sieht das in der Praxis aus?

Beispiel 1: Unüberprüftes Teilen von Informationen

\(\rightarrow\) unabsichtliche Fehler

Wie sieht das in der Praxis aus?

Beispiel 2: Falsche Zeugenaussagen

\(\rightarrow\) dekontextualisierende Interpretationen

Wie sieht das in der Praxis aus?

Beispiel 3: Pseudojournalismus

\(\rightarrow\) politisch motivierte Desinformationskampagnen

Wie verbreitet ist Misinformation?

Was denken Sie?

So denken andere darüber

• Das Weltwirtschaftsforum hat gerade wieder Mis- und Desinformation als aktuell größtes global Risiko ernannt

• Dieses Ranking baut auf Umfragen auf, und spiegelt die aktuelle Wahrnehmung von Misinformation wider

• Wir beleuchten das heute mal ein bisschen nuancierter

Realitätscheck

Wie verbreitet ist Misinformation?

Altay et al., 2022

0.3-6% in 5 Studien von 2016-2021

• kleiner Anteil des Online-Nachrichtenkonsums (in den USA!)

• in Krisen sogar Rückgriff auf zuverlässige Nachrichten

\(\rightarrow\) im Durschnitt gewinnen gute Nachrichten!

• Wenn wir uns die Verbreitung von Misinformation anschauen, dann wird aber alles was ich eben gesagt habe stark relativiert
• Misinformation erreicht im Schnitt nur 1 bis 6% der Gesellschaften und zuverlässige Informationen sind weiter verbreitet
• Auf vielen Plattformen ist der Großteil des Contents nicht mal politisch, sondern Pornos
• Hier in dem Schaubild sieht mans für die USA wo grün gute und rot falsche Informationen sind
• Und die USA sind tatsächlich auch ein Fall, der immer als schlimmes Beispiel angeführt wird
• Eine Studie hat auch gezeigt, dass in Deutschland, Frankreich, den USA, und Großbritannien während der Pandemie mehr und mehr auf zuverlässige Quellen zurückgegriffen wurde
• Und auch das Vertrauen in die Medien hat in Deutschland zu der Zeit etwas zugenommen

Und in den sozialen Medien?

• Minderheit der Nutzer teilt Großteil der Misinformation
  • 1% Nutzer teilen 75% (2018-2019, USA)
  • 5% Nutzer teilen 50% (2016, USA)
  • 2% Nutzer besuchen 75% Websites (2022, Deutschland)

• Aber: Misinformation ist stark verbreitet in Kontexten von Konflikt und Hassrede

• Wir sehen also auch in den sozialen Medien, dass nur 1% der User:innen den Großteil an Misinformation teilt
• Das sind oft Politiker:innen selbst oder extreme Superspreader
• Hier wiederholt sich also die Frage: Sind das wirklich die Algorithmen oder ist das ein Eliten-Problem, das wir auch offline haben?
• eine tief philosophische Frage die schwer empirisch zu messen ist

Wer verbreitet Misinformation?

1. Politiker

• Politiker teilen 20% der Misinformation
• Verurachen wiederum 69% der Interaktionen mit Misinformation in Sozialen Medien

Wer verbreitet Misinformation?

2. Sehr aktive, extreme Nutzer

• politisch Motivierte mit extremen Einstellungen
• auch offline feindselig, online sichtbarer

Warum?

• Verlust von Status & Privileg
• Frustration im echten Leben
• kein Vertrauen in Institutionen
• kaum Repräsentation

• Reale Probleme
  • Geschlechterkampf
  • Autos als Status Symbole
  • Globalisierung
  • Ökonomische Ungleichheit Wohnungsmarkt

Mensch oder Algorithmus?

Digitale Echokammern (“Filterblasen”)

• Echokammern: offline stärker als online
• Ausmaß variiert stark, z.B. auf Facebook:
  • 20.6% Nutzer: 75% der Inhalte aus gleichgesinnten Quellen
  • 23.1% Nutzer: unter 25% der Inhalte
• Algorithmen: kleiner (6%) & weniger starker Einfluss als soziales Netzwerk
• Gruppen & Pages: stark segregiert

• Kontakt mit andersartigen Sichtweisen online Echo Kammer, Lücke zwischen Conservativ/Liberal im Besuchen konservativer Seiten: (7.5%, Gentzkow Shapiro 2011), Gonzalez Bailon: 35%
• Unterschied Rep./Dem. für Rep. Inhalte (USA): 7.5%-35%

Verbreiten Algorithmen Misinformation?

Down-Ranking von gleichgesinnten Inhalten auf Facebook:

• weniger Misinformation & Hassrede

• Nutzer finden trotzdem gleichgesinnte Inhalte

Schimpfworte etc. Reduction: from 0.034% to 0.030% for content with slur words from 3.15% to 2.81% for uncivil content from 0.76% to 0.55% for content from misinformation repeat offenders

Algorithmus nein, Mensch ja

• mehr Misinformation ohne Algorithmus

• weniger Misinformation ohne Reshares

Algorithmen & Radikalisierungspiralen?

Google: Suchworte haben stärkeren Effekt als Vorschläge durch Algorithmus

YouTube: Algorithmus führt zu weniger radikalem Konsum

• Angebot/Nachfrage existiert außerhalb der Platform
• Nutzer-Präferenzen bestimmen Klicks von radikalen Videos

\(\rightarrow\) Nutzer suchen aktiv gleichgesinnte Inhalte

Echokammern reduzieren?

• höhere Sichtbarkeit von Inhalten der anderen Partei

• Einstellungen wurden extremer, besonders bei Republikanern

\(\rightarrow\) Extreme, konträre Stimmen verstärken Polarisierung

Und was ist mit KI?

1. Nur weil es mehr gibt, wird nicht mehr konsumiert

2. Nur weil es hochwertig produziert ist, ist es nicht wahr

3. Nur weil es personalisiert ist, überzeugt es nicht

\(\rightarrow\) KI hat gleichzeitig auch Potenzial für Qualitätsmedien!

Zuletzt: Russland?!

• Russische Desinformation erreicht nur kleine Teile der Gesellschaft

• Interaktionen sind gering, insbesondere im Vergleich zu anderen Inhalten

• Es gibt keine Beweise dafür, dass russische Desinformation Einstellungen oder Wahlen beeinflusst wurden

Zusammenfassung

1. Misinformation ist weniger verbreitet als im öffentlichen Diskurs angenommen

2. Der Ursprung von Misinformation liegt nicht in sozialen Medien, inklusive Algorithmen und KI

3. Die Gefahren von russischer Desinformation werden überschätzt

\(\rightarrow\) Menschliche Tendenzen werden ausgespielt und verstärkt

\(\rightarrow\) Misinformation überlappt mit anderen gesellschaftlichen Problemen

• Es ist sehr schwer zu messen, ob soziale Medien die Verbreitung von Misinformation verschlimmern und die Forschung ist sich da uneinig
• Grundsätzlich hat Misinformation aber schon lange lange vor den sozialen Medien existiert
• Aber es gibt Mechanismen, die offline existieren, die durch algorithmische Systeme in sozialen Medien eventuell verstärkt werden und zur Verbreitung von Misinformation führen
• Zum Beispiel erwecken negative Nachrichten und Popularitätssignale with Likes Aufmerksamkeit von User:innen, sodass der Content dann wiederum algorithmisch hervorgehoben wird, was wiederum zu mehr Popularität führt
• Oft ist das Content, der von User:innen produziert wird, die sehr extrem und aktiv ihre Meinung kundtun
• Daher überlappt die Verbreitung von Misinformation stark; Misinformation ist oft hasserfüllt, und hetzt gegen andere Gruppen

Fragen?

Ist Misinformation wirklich das größte Problem, das wir gerade haben? Oder ist es eher ein Symptom?

Wer ist in der Verantwortung?

Unterbrechung

Der Faktor Mensch

Warum glauben Menschen an Misinformation?

Manche Menschen fallen einfach drauf rein

• Aus den Kognitionswissenschaften kommt die Theorie, dass es zwei Modi der Informationsverarbeitung gibt

• Das basiert auf dem Psychologen Daniel Kahnemann, demnach man Informationen schnell und einfach verarbeiten kann oder rational und elaboriert

• So kommt es dazu, dass Menschen in verschiedenen Situationen unterschiedlich gut darin sind, logisch zu denken und Misinformation zu erkennen

• Hier ist die Annahme, dass den Menschen etwas fehlt, kritisches Denken, Aufmerksamkeit oder Fähigkeiten

• Aber Menschen sind grundsätzlich skeptisch gegenüber neuen Informationen und sind dazu in der Lage, neues mit bisherigem Wissen abzugleichen

Menschen sind grundsätzlich eher skeptisch

Machen Emotionen dumm? Nein!

• im Kontext Misinformation: mehr Wut und weniger Freude
• Menschen mit guter & schlechter Urteilsfähigkeit werden wütend

\(\rightarrow\) Funktion von Emotionen hängt von Einstellungen ab

• In Experimenten aber auch wenn wir uns Daten aus sozialen Medien anschauen sehen wir immer dasselbe Muster: mehr Wut und weniger Freude
• Aber: Emotionen machen nicht grundsätzlich dumm
• Insbesondere bei Aufständen von diskriminierten Minderheiten stigmatisiert
• In einer Studie haben wir herausgefunden, dass Menschen die an Misinformation glauben wütend werden, aber auch Menschen die gut darin waren es zu erkennen
• Die haben dann sowas gesagt wie “Bullshit”
• Also sehen wir auch hier dass die Effekte von Misinformation von existierenden Einstellungen abhängen
• Und in einer anderen Studie, die ich gerade durchführe sehen wir, dass Emotionen in Misinformation einfach gespiegelt werden

Politische Einstellungen

\(\rightarrow\) politische Asymmetry

• Aber, wenn bisheriges Wissen schon verzerrt ist, gibt es keine guten Abwehrmechanismen mehr

• Viel wahrscheinlicher ist daher, dass eine motivierte Minderheit schon bestimmte Einstellungen hat Misinformation konsumiert und verbreitet

• Menschen tendieren grundsätzlich dazu, Informationen herauszusuchen und zu verarbeiten, die mit ihren Einstellungen oder ihren sozialen Zirkeln übereinstimmen

• Diese Prozess nennt man “Motivated Reasoning”

• Deshalb ist der stärkste Faktor, warum Menschen an Misinformation glauben ihre politische Einstellung

• Bei ganz extremen User:innen geht es auch oft nicht mehr um den Wahrheitsgehalt, sondern um den Protest

• Menschen teilen falsche Informationen, um Chaos zu stiften oder um einen Punkt zu machen

• Aber, Misinformation ist tendenziell ein rechtes Problem

• Viele Verschwörungstheorien kommen aus antisemitischen Kreisen

• Dahinter stecken oft rechtsextreme Einstellungen, Misstrauen in die Medien und demokratische Institutionen

Soziale Dynamiken in den sozialen Medien

• Soziale Identitäten
• Gruppenzugehörigkeit und -abgrenzung
• Mobilisierung und Vernetzung

Suche nach sozialem Status

• Wettbewerb von Gruppen
• Status für politisch Motivierte
• Anonymität

Soziale Medien verzerren die Wirklichkeit

• laute Minderheiten
• Moderate melden sich nicht zu Wort
  • Bsp: Klimawandel + Wirtschaft

Scheinbare Polarisierung

\(\rightarrow\) Wahrgenommene politische Spaltung verstärkt die emotionale Polarisierung

Persönliche Konsequenzen von Misinformation

• kognitiv (Effekte auf Wissen)

• emotional (Effekte auf Gefühle)

• einstellungsbezogen (Effekte auf Meinungen)??

• Verhalten???

\(\rightarrow\) sehr limitierte Effekte!

• Daher würde ich diese Effekte relativieren und sagen, dass es kaum Effekte auf die Allgemeinheit gibt, aber sehr starke Effekte auf kleine Gruppen, die sowieso schon anfällig dafür sind
• Gleichzeitig sehen wie wir in dem Ranking ganz am Anfang, dass Misinformation als großes Risiko wahrgenommen wird und dass Menschen zunehmend verunsichert sind (sekundäre Effekte)
• Wir gucken jetzt mal warum das so ist

Gesellschaftliche Konsequenzen von Misinformation

• gruppenbezogene Wahrnehmungsverzerrungen

• Mobilisierung und Spaltung durch die oft extremen Inhalte

• Zynismus

• Verringertes Vertrauen in die Medien und demokratische Institutionen

• Die gesamtgesellschaftlichen Konsequenzen sind dafür umso folgenreicher

• Misinformation kann die Wahrnehmung von ganzen Gruppen verzerren, das ist das was wir zu Corona-Zeiten in den Nachrichten gesehen haben

• Es kann zu Mobilisierungs- und Spaltungsprozessen beitragen

• Und weil es oft bestimmte Weltansichten und Inhalte pushed, kann es zur Zynismus führen

• Aber Debatten um die Glaubwürdigkeit von Information führen gesamtgesellschaftlich zu verringertem Vertrauen in die Medien

Was können wir tun?

Interventionen: Prebunking

\(\rightarrow\) Menschen sind nicht dumm! Argumente wirken, aber nur dort, wo die oft guten Gründe liegen

• Accuracy nudges

• Medienkompetenz

  • logikbasiert

  • gamified, z.B. Go Viral! oder Bad News

• Nudges sind Warnhinweise oder so Banner wie man es im Kontext von COVID gesehen hat

• Das passiert aber nur bei bestimmten Themen, zum Nahostkonflikt nicht

Interventionen: Debunking

• Factchecking

  • Expert:innen: unabhängige Organisationen (mimikama, Correctiv) oder als Teil von Redaktionen (APA, faktenfinder)

  • Crowdsourced: Birdwatch

• politische Akteur:innen werden von unabhängigen Organisationen überprüft
• aber: preaching to the choir?
• crowdsourced factchecking macht es skalierbar, aber ist das gut für den politischen Zusammenhalt?
• automatisierte Verfahren scheitern leider

Interventionen: Systemisch

• Transparenzpflichten und Regulierung von sozialen Medien und Suchmaschinen (z.B. EU Digital Services Act)

• Soziale Medien für bestimmte Zwecke designen (Entertainment, politischer Diskurs, Vernetzung, …)

  • Anonymität aufheben, Übereinstimmung betonen, usw.

• Stärkung von unabhängigen Medien und zuverlässigen Informationen

• Politische Bildung und Extremismus-Prävention

\(\rightarrow\) Vertrauen gewinnen!

• soziale Medien: Algorithmen auditen, Daten freigeben
• Medien: Länder mit öffentlich-rechtlichem haben weniger ein Problem mit Misstrauen in die Medien, und Länder mit Korruption ein größeres Problem
• Vertrauen in die Medien schaffen und die Radikalisierung von politischen Gruppen reduzieren

Was können Sie tun?

• Zuhören und Nachfragen: Ausgrenzung hat gegenteilige Effekte!
• Über persönliche Erfahrungen & Nicht-Politisches sprechen
• Werte/Weltsicht berücksichtigen
• Argumente wirken!
  • Ursachen des Klimawandels erklären erhöht Akzeptanz von Maßnahmen

Abschluss

Letzte Worte

• Soziale Medien treiben scheinbare Polarisierung an

• Soziale Faktoren wirken stärker als KI

• Menschen sind nicht dumm: Sorgen ernst nehmen, Gründe verstehen, und diskutieren

• Reale Probleme lösen & transparente Erklärungen anbieten

Für Neugierige

Bücher

Mercier, 2020 Misinformation & Propaganda

Bail, 2021 Polarisierung & Soziale Medien

Für Zwischendurch

Kurzgesagt Video

Podcast

Singh, 2024 (The New Yorker)

Williams, 2024 (University of Sussex)

Vielen Dank!

Die Präsentationsfolien zum Nachschauen: