Misinformation in den sozialen Medien

Gastvorlesung von Jula Luehring

13. Mai 2024

Vorstellung

Jula Lühring, M.Sc.

• Studium in Bremen und Amsterdam
• Arbeit im Bereich der Demokratieförderung
• Doktorandin im Computational Communication Science Lab & Complexity Science Hub

Mail: jula.luehring@univie.ac.at

Misinformation in den Schlagzeilen

Misinformation als eine der größten Gefahren?

• Das Weltwirtschaftsforum hat gerade wieder Mis- und Desinformation als aktuell größtes global Risiko ernannt

• Dieses Ranking baut auf Umfragen auf, und spiegelt die aktuelle Wahrnehmung von Misinformation wider

• Wir beleuchten das heute mal ein bisschen nuancierter

PART I: Was ist Misinformation?

Im Kontext der “Information Disorder”

Wardle & Derakhshan, 2017

• Trennung von Mis- und Desinformation

• Fake News als Subtyp von Desinformation

• Fokus auf Schädlichkeit

Misinformation = unwahre Informationen ohne bestimmte Intention

• Laut der Definition von den Autor:innen sind Mis- und Desinformation zwei verschiedene Oberbegriffe für Falschnachrichten, die aber mit Malinformation, also Hassrede überlappen

• Ich mag diese Definition weil sie einen Fokus auf Schädlichkeit liegt: Information kann falsch sein und keinen Schaden anrichten, aber auch richtig aber hasserfüllt sein und großen Schaden anrichten

• Trotz der Trennung wird der Begriff Misinformation in der Praxis eher als Oberbegriff verwendet, in der Forschung ist es oft schwer die Intention festzustellen

• Hier wird Misinformation in der Regel als unwahre oder falsche Informationen bezeichnet, die keine bestimmte Intention hat

Subtypen

• Zwei Dimensionen: Intention vs. Wahrheitsgehalt

Tandoc et al., 2018

\(\rightarrow\) Aber: Fake News inzwischen eher ein politisiertes Buzzword!

• Nach der Definition der Autor:innen können verschiedene Typen von Misinformation anhand der Intention und des Wahrheitsgehalts geclustered werden

• Hier werden Formen wie Satire und Parodien mit einbegriffen, aber auch Pseudojournalismus und Werbung, die oft ökonomischen Interessen folgen

• Tatsächlich gibt es aber auch sehr viele Formen in der Mitte: dekontextualisierte Informationen und die meisten Meinungsartikel

• Fake News eher ein politisches Schlachtwort

Wie sieht das in der Praxis aus?

Beispiel 1: Unüberprüftes Teilen von Informationen

\(\rightarrow\) unabsichtliche Fehler

Wie sieht das in der Praxis aus?

Beispiel 2: Falsche Zeugenaussagen

\(\rightarrow\) dekontextualisierende Interpretationen

Wie sieht das in der Praxis aus?

Beispiel 3: Pseudojournalismus

\(\rightarrow\) politisch motivierte Desinformationskampagnen

Mögliche Konsequenzen von Misinformation

Auf individueller Ebene

• kognitiv (Effekte auf Wissen)

• einstellungsbezogen (Effekte auf Meinungen)

• emotional (Effekte auf Gefühle)

• Verhalten

• Studien haben gezeigt, dass Misinformation zu Wahrnehmungsverzerrungen, sowohl auf Ebene des Wissens, Meinungen und Gefühlen führen kann

• Sowohl tieferliegende Glaubenssätze als auch Verhalten werden kaum von Misinformation beeinflusst

• Allerdings kann finanziell motivierte Desinformation potenziell zu Kaufentscheidungen führen

• Es gibt jedoch keine Beweise dafür, dass Mis- und Desinformation Wahlentscheidungen beeinflusst hat

Mögliche Konsequenzen von Misinformation

Auf gesellschaftlicher Ebene

• gruppenbezogene Wahrnehmungsverzerrungen

• Mobilisierung und Spaltung

• Zynismus & verringertes Vertrauen in die Medien und demokratische Institutionen

• Die gesamtgesellschaftlichen Konsequenzen sind dafür umso folgenreicher

• Misinformation kann die Wahrnehmung von ganzen Gruppen verzerren, das ist das was wir zu Corona-Zeiten in den Nachrichten gesehen haben

• Es kann zu Mobilisierungs- und Spaltungsprozessen beitragen

• Und weil es oft bestimmte Weltansichten und Inhalte pushed, kann es zur Zynismus führen

• Aber Debatten um die Glaubwürdigkeit von Information führen gesamtgesellschaftlich zu verringertem Vertrauen in die Medien

PART II: Realitätscheck

Wie verbreitet ist Misinformation?

Altay et al., 2022

1-6% in fünf Studien von 2016-2019

\(\rightarrow\) kleiner Anteil des Nachrichtenkonsums

• Wenn wir uns die Verbreitung von Misinformation anschauen, dann wird aber alles was ich eben gesagt habe stark relativiert
• Misinformation erreicht im Schnitt nur 1 bis 6% der Gesellschaften und zuverlässige Informationen sind weiter verbreitet
• Auf vielen Plattformen ist der Großteil des Contents nicht mal politisch, sondern Pornos
• Hier in dem Schaubild sieht mans für die USA wo grün gute und rot falsche Informationen sind
• Und die USA sind tatsächlich auch ein Fall, der immer als schlimmes Beispiel angeführt wird
• Eine Studie hat auch gezeigt, dass in Deutschland, Frankreich, den USA, und Großbritannien während der Pandemie mehr und mehr auf zuverlässige Quellen zurückgegriffen wurde
• Und auch das Vertrauen in die Medien hat in Deutschland zu der Zeit etwas zugenommen

Und wie hat sich das mit den sozialen Medien verändert?

• Ursprung von Misinformation liegt nicht in sozialen Medien, aber existierende Mechanismen werden eventuell verstärkt:

  • Negative und aufbrausende Emotionen

  • Popularitätssignale

  • Superspreader

\(\rightarrow\) Überlappt mit Hassrede und Konflikt zwischen sozialen Gruppen

• Es ist sehr schwer zu messen, ob soziale Medien die Verbreitung von Misinformation verschlimmern und die Forschung ist sich da uneinig
• Grundsätzlich hat Misinformation aber schon lange lange vor den sozialen Medien existiert
• Aber es gibt Mechanismen, die offline existieren, die durch algorithmische Systeme in sozialen Medien eventuell verstärkt werden und zur Verbreitung von Misinformation führen
• Zum Beispiel erwecken negative Nachrichten und Popularitätssignale with Likes Aufmerksamkeit von User:innen, sodass der Content dann wiederum algorithmisch hervorgehoben wird, was wiederum zu mehr Popularität führt
• Oft ist das Content, der von User:innen produziert wird, die sehr extrem und aktiv ihre Meinung kundtun
• Daher überlappt die Verbreitung von Misinformation stark; Misinformation ist oft hasserfüllt, und hetzt gegen andere Gruppen

Und wie hat sich das mit den sozialen Medien verändert?

• Minderheit der User:innen teilt Großteil der Falschinformation:

  • 1% User teilt 75% (2018-2019), 5% User teilt 50% (2016)

• Wer teilt?

  • Politiker:innen teilen 20% (~69% des Engagement mit Fehlinformation)

  • extreme Superspreader

\(\rightarrow\) Mensch oder Algorithmus?

• Wir sehen also auch in den sozialen Medien, dass nur 1% der User:innen den Großteil an Misinformation teilt
• Das sind oft Politiker:innen selbst oder extreme Superspreader
• Hier wiederholt sich also die Frage: Sind das wirklich die Algorithmen oder ist das ein Eliten-Problem, das wir auch offline haben?
• eine tief philosophische Frage die schwer empirisch zu messen ist

Mögliche Konsequenzen von Misinformation

Auf individueller Ebene

• kognitiv (Effekte auf Wissen)

• einstellungsbezogen (Effekte auf Meinungen)???

• emotional (Effekte auf Gefühle)

• Verhalten???

\(\rightarrow\) sehr limitierte Effekte!

• Daher würde ich diese Effekte relativieren und sagen, dass es kaum Effekte auf die Allgemeinheit gibt, aber sehr starke Effekte auf kleine Gruppen, die sowieso schon anfällig dafür sind
• Gleichzeitig sehen wie wir in dem Ranking ganz am Anfang, dass Misinformation als großes Risiko wahrgenommen wird und dass Menschen zunehmend verunsichert sind (sekundäre Effekte)
• Wir gucken jetzt mal warum das so ist

PART III: Die Psychologie dahinter

Warum glauben Menschen an Misinformation?

Erklärung 1: Kognition

• Aus den Kognitionswissenschaften kommt die Theorie, dass es zwei Modi der Informationsverarbeitung gibt

• Das basiert auf dem Psychologen Daniel Kahnemann, demnach man Informationen schnell und einfach verarbeiten kann oder rational und elaboriert

• So kommt es dazu, dass Menschen in verschiedenen Situationen unterschiedlich gut darin sind, logisch zu denken und Misinformation zu erkennen

• Hier ist die Annahme, dass den Menschen etwas fehlt, kritisches Denken, Aufmerksamkeit oder Fähigkeiten

• Aber Menschen sind grundsätzlich skeptisch gegenüber neuen Informationen und sind dazu in der Lage, neues mit bisherigem Wissen abzugleichen

Warum glauben Menschen an Misinformation?

Erklärung 2: Motivation

\(\rightarrow\) politische oder soziale Motivation

\(\rightarrow\) politische Asymmetrie

• Aber, wenn bisheriges Wissen schon verzerrt ist, gibt es keine guten Abwehrmechanismen mehr

• Viel wahrscheinlicher ist daher, dass eine motivierte Minderheit schon bestimmte Einstellungen hat Misinformation konsumiert und verbreitet

• Menschen tendieren grundsätzlich dazu, Informationen herauszusuchen und zu verarbeiten, die mit ihren Einstellungen oder ihren sozialen Zirkeln übereinstimmen

• Diese Prozess nennt man “Motivated Reasoning”

• Deshalb ist der stärkste Faktor, warum Menschen an Misinformation glauben ihre politische Einstellung

• Bei ganz extremen User:innen geht es auch oft nicht mehr um den Wahrheitsgehalt, sondern um den Protest

• Menschen teilen falsche Informationen, um Chaos zu stiften oder um einen Punkt zu machen

• Aber, Misinformation ist tendenziell ein rechtes Problem

• Viele Verschwörungstheorien kommen aus antisemitischen Kreisen

• Dahinter stecken oft rechtsextreme Einstellungen, Misstrauen in die Medien und demokratische Institutionen

Machen Emotionen Menschen dumm?

• Mehr Wut und weniger Freude in Reaktion auf Misinformation

• Menschen mit guter und schlechter Urteilsfähigkeit werden wütend

\(\rightarrow\) Funktion von Emotionen hängt von existierenden Einstellungen ab

• In Experimenten aber auch wenn wir uns Daten aus sozialen Medien anschauen sehen wir immer dasselbe Muster: mehr Wut und weniger Freude
• Aber: Emotionen machen nicht grundsätzlich dumm
• Insbesondere bei Aufständen von diskriminierten Minderheiten stigmatisiert
• In einer Studie haben wir herausgefunden, dass Menschen die an Misinformation glauben wütend werden, aber auch Menschen die gut darin waren es zu erkennen
• Die haben dann sowas gesagt wie “Bullshit”
• Also sehen wir auch hier dass die Effekte von Misinformation von existierenden Einstellungen abhängen
• Und in einer anderen Studie, die ich gerade durchführe sehen wir, dass Emotionen in Misinformation einfach gespiegelt werden

PART III: Wie können wir die Verbreitung von Misinformation eindämmen?

Interventionen: Prebunking

• Accuracy nudges

  • Wahrheitsgehalt und Quellen

  • Teilen

• Medienkompetenz

  • logikbasiert

  • gamified, z.B. Go Viral! oder Bad News

• Nudges sind Warnhinweise oder so Banner wie man es im Kontext von COVID gesehen hat

• Das passiert aber nur bei bestimmten Themen, zum Nahostkonflikt nicht

Interventionen: Prebunking

• Accuracy nudges

  • Wahrheitsgehalt und Quellen

  • Teilen

• Medienkompetenz

  • logikbasiert

  • gamified, z.B. Go Viral! oder Bad News
    

+ Skalierbarkeit

- Kleine Effekte

- Negative Spillover-Effekte

- Reduktion von zuverlässigen Informationen

Interventionen: Debunking

• Factchecking

  • Expert:innen: unabhängige Organisationen (mimikama, Correctiv) oder als Teil von Redaktionen (APA, faktenfinder)

  • Crowdsourced: Birdwatch

+ Überprüfung von politischen Akteur:innen

- Überprüfung von extremen Fällen

- Kleine Effekte & sogar Backfire-Effekte in Zielgruppe

- Reaktionär & nicht sehr skalierbar

• politische Akteur:innen werden von unabhängigen Organisationen überprüft
• aber: preaching to the choir?
• crowdsourced factchecking macht es skalierbar, aber ist das gut für den politischen Zusammenhalt?
• automatisierte Verfahren scheitern leider

Interventionen: Systemisch

• Transparenzpflichten und Regulierung von sozialen Medien und Suchmaschinen

• Stärkung von unabhängigen Medien und zuverlässigen Informationen

• Politische Bildung und Extremismus-Prävention

\(\rightarrow\) Kombination an Interventionen?

• soziale Medien: Algorithmen auditen, Daten freigeben
• Medien: Länder mit öffentlich-rechtlichem haben weniger ein Problem mit Misstrauen in die Medien, und Länder mit Korruption ein größeres Problem
• Vertrauen in die Medien schaffen und die Radikalisierung von politischen Gruppen reduzieren

Abschluss

Letzte Worte

• Starker Fokus auf extreme Formen von Misinformation

• Aber weniger extreme, alltägliche Dekontextualisierungen haben nachhaltigere Effekte

\(\rightarrow\) Nicht der Wahrheitsgehalt ist schädlich, sondern die Inhalte!

\(\rightarrow\) Misinformation ist ein perfektes Instrument, um schädliche Inhalte zu verbreiten

• Dilemma in der interdisziplinären Forschung: Wie definiere ich Misinformation? Kann ich das selbst machen oder brauche ich dafür Expert:innen?

• Meinungsinhalte

• KI?

Fragen?

Diskussion

1. Ist Misinformation wirklich das größte Problem, das wir gerade haben? Oder ist es eher ein Symptom?

2. Wer ist in der Verantwortung?

3. Was passiert nun mit KI?