Misinformation in den sozialen Medien

Gastvorlesung von Jula Luehring

13. Mai 2024

Vorstellung

Jula Lühring, M.Sc.

  • Studium in Bremen und Amsterdam
  • Arbeit im Bereich der Demokratieförderung
  • Doktorandin im Computational Communication Science Lab & Complexity Science Hub


Mail: jula.luehring@univie.ac.at

Misinformation in den Schlagzeilen

Misinformation als eine der größten Gefahren?

  • Das Weltwirtschaftsforum hat gerade wieder Mis- und Desinformation als aktuell größtes global Risiko ernannt

  • Dieses Ranking baut auf Umfragen auf, und spiegelt die aktuelle Wahrnehmung von Misinformation wider

  • Wir beleuchten das heute mal ein bisschen nuancierter

PART I: Was ist Misinformation?

Im Kontext der “Information Disorder”

Wardle & Derakhshan, 2017

  • Trennung von Mis- und Desinformation

  • Fake News als Subtyp von Desinformation

  • Fokus auf Schädlichkeit

Misinformation = unwahre Informationen ohne bestimmte Intention

  • Laut der Definition von den Autor:innen sind Mis- und Desinformation zwei verschiedene Oberbegriffe für Falschnachrichten, die aber mit Malinformation, also Hassrede überlappen

  • Ich mag diese Definition weil sie einen Fokus auf Schädlichkeit liegt: Information kann falsch sein und keinen Schaden anrichten, aber auch richtig aber hasserfüllt sein und großen Schaden anrichten

  • Trotz der Trennung wird der Begriff Misinformation in der Praxis eher als Oberbegriff verwendet, in der Forschung ist es oft schwer die Intention festzustellen

  • Hier wird Misinformation in der Regel als unwahre oder falsche Informationen bezeichnet, die keine bestimmte Intention hat

Subtypen

  • Zwei Dimensionen: Intention vs. Wahrheitsgehalt

Tandoc et al., 2018

→ Aber: Fake News inzwischen eher ein politisiertes Buzzword!

  • Nach der Definition der Autor:innen können verschiedene Typen von Misinformation anhand der Intention und des Wahrheitsgehalts geclustered werden

  • Hier werden Formen wie Satire und Parodien mit einbegriffen, aber auch Pseudojournalismus und Werbung, die oft ökonomischen Interessen folgen

  • Tatsächlich gibt es aber auch sehr viele Formen in der Mitte: dekontextualisierte Informationen und die meisten Meinungsartikel

  • Fake News eher ein politisches Schlachtwort

Wie sieht das in der Praxis aus?

Beispiel 1: Unüberprüftes Teilen von Informationen

→ unabsichtliche Fehler

Wie sieht das in der Praxis aus?

Beispiel 2: Falsche Zeugenaussagen

→ dekontextualisierende Interpretationen

Wie sieht das in der Praxis aus?

Beispiel 3: Pseudojournalismus

→ politisch motivierte Desinformationskampagnen

Mögliche Konsequenzen von Misinformation

Auf individueller Ebene

  • kognitiv (Effekte auf Wissen)

  • einstellungsbezogen (Effekte auf Meinungen)

  • emotional (Effekte auf Gefühle)

  • Verhalten

Altay et al., 2023; Guess et al., 2022; Moeller et al., 2020

  • Studien haben gezeigt, dass Misinformation zu Wahrnehmungsverzerrungen, sowohl auf Ebene des Wissens, Meinungen und Gefühlen führen kann

  • Sowohl tieferliegende Glaubenssätze als auch Verhalten werden kaum von Misinformation beeinflusst

  • Allerdings kann finanziell motivierte Desinformation potenziell zu Kaufentscheidungen führen

  • Es gibt jedoch keine Beweise dafür, dass Mis- und Desinformation Wahlentscheidungen beeinflusst hat

Mögliche Konsequenzen von Misinformation

Auf gesellschaftlicher Ebene

  • gruppenbezogene Wahrnehmungsverzerrungen

  • Mobilisierung und Spaltung

  • Zynismus & verringertes Vertrauen in die Medien und demokratische Institutionen

Scheufele et al., 2020; van der Meer et al., 2023; Weikmann et al., 2024

  • Die gesamtgesellschaftlichen Konsequenzen sind dafür umso folgenreicher

  • Misinformation kann die Wahrnehmung von ganzen Gruppen verzerren, das ist das was wir zu Corona-Zeiten in den Nachrichten gesehen haben

  • Es kann zu Mobilisierungs- und Spaltungsprozessen beitragen

  • Und weil es oft bestimmte Weltansichten und Inhalte pushed, kann es zur Zynismus führen

  • Aber Debatten um die Glaubwürdigkeit von Information führen gesamtgesellschaftlich zu verringertem Vertrauen in die Medien

PART II: Realitätscheck

Wie verbreitet ist Misinformation?

Altay et al., 2022


1-6% in fünf Studien von 2016-2019

→ kleiner Anteil des Nachrichtenkonsums

Allcott & Gentzkow, 2017; Allen et al., 2020; Altay et al., 2022; Guess et al., 2020

  • Wenn wir uns die Verbreitung von Misinformation anschauen, dann wird aber alles was ich eben gesagt habe stark relativiert
  • Misinformation erreicht im Schnitt nur 1 bis 6% der Gesellschaften und zuverlässige Informationen sind weiter verbreitet
  • Auf vielen Plattformen ist der Großteil des Contents nicht mal politisch, sondern Pornos
  • Hier in dem Schaubild sieht mans für die USA wo grün gute und rot falsche Informationen sind
  • Und die USA sind tatsächlich auch ein Fall, der immer als schlimmes Beispiel angeführt wird
  • Eine Studie hat auch gezeigt, dass in Deutschland, Frankreich, den USA, und Großbritannien während der Pandemie mehr und mehr auf zuverlässige Quellen zurückgegriffen wurde
  • Und auch das Vertrauen in die Medien hat in Deutschland zu der Zeit etwas zugenommen

Und wie hat sich das mit den sozialen Medien verändert?

  • Ursprung von Misinformation liegt nicht in sozialen Medien, aber existierende Mechanismen werden eventuell verstärkt:

    • Negative und aufbrausende Emotionen

    • Popularitätssignale

    • Superspreader

→ Überlappt mit Hassrede und Konflikt zwischen sozialen Gruppen

Avram et al., 2020; Bail, 2020; Lazer et al., 2018; Mosleh et al., 2024; Watts et al., 2021

  • Es ist sehr schwer zu messen, ob soziale Medien die Verbreitung von Misinformation verschlimmern und die Forschung ist sich da uneinig
  • Grundsätzlich hat Misinformation aber schon lange lange vor den sozialen Medien existiert
  • Aber es gibt Mechanismen, die offline existieren, die durch algorithmische Systeme in sozialen Medien eventuell verstärkt werden und zur Verbreitung von Misinformation führen
  • Zum Beispiel erwecken negative Nachrichten und Popularitätssignale with Likes Aufmerksamkeit von User:innen, sodass der Content dann wiederum algorithmisch hervorgehoben wird, was wiederum zu mehr Popularität führt
  • Oft ist das Content, der von User:innen produziert wird, die sehr extrem und aktiv ihre Meinung kundtun
  • Daher überlappt die Verbreitung von Misinformation stark; Misinformation ist oft hasserfüllt, und hetzt gegen andere Gruppen

Und wie hat sich das mit den sozialen Medien verändert?

  • Minderheit der User:innen teilt Großteil der Falschinformation:

    • 1% User teilt 75% (2018-2019), 5% User teilt 50% (2016)

  • Wer teilt?

    • Politiker:innen teilen 20% (~69% des Engagement mit Fehlinformation)

    • extreme Superspreader

→ Mensch oder Algorithmus?

Brennen et al., 2020; Grinberg et al., 2019; Osmundsen et al., 2021; Robertson et al., 2023; Törnberg, 2022

  • Wir sehen also auch in den sozialen Medien, dass nur 1% der User:innen den Großteil an Misinformation teilt
  • Das sind oft Politiker:innen selbst oder extreme Superspreader
  • Hier wiederholt sich also die Frage: Sind das wirklich die Algorithmen oder ist das ein Eliten-Problem, das wir auch offline haben?
  • eine tief philosophische Frage die schwer empirisch zu messen ist

Mögliche Konsequenzen von Misinformation

Auf individueller Ebene

  • kognitiv (Effekte auf Wissen)

  • einstellungsbezogen (Effekte auf Meinungen)???

  • emotional (Effekte auf Gefühle)

  • Verhalten???

→ sehr limitierte Effekte!

Altay et al., 2023; Guess et al., 2022; Moeller et al., 2020

  • Daher würde ich diese Effekte relativieren und sagen, dass es kaum Effekte auf die Allgemeinheit gibt, aber sehr starke Effekte auf kleine Gruppen, die sowieso schon anfällig dafür sind
  • Gleichzeitig sehen wie wir in dem Ranking ganz am Anfang, dass Misinformation als großes Risiko wahrgenommen wird und dass Menschen zunehmend verunsichert sind (sekundäre Effekte)
  • Wir gucken jetzt mal warum das so ist

PART III: Die Psychologie dahinter

Warum glauben Menschen an Misinformation?

Erklärung 1: Kognition

Ecker et al., 2023; Mercier, 2020

  • Aus den Kognitionswissenschaften kommt die Theorie, dass es zwei Modi der Informationsverarbeitung gibt

  • Das basiert auf dem Psychologen Daniel Kahnemann, demnach man Informationen schnell und einfach verarbeiten kann oder rational und elaboriert

  • So kommt es dazu, dass Menschen in verschiedenen Situationen unterschiedlich gut darin sind, logisch zu denken und Misinformation zu erkennen

  • Hier ist die Annahme, dass den Menschen etwas fehlt, kritisches Denken, Aufmerksamkeit oder Fähigkeiten

  • Aber Menschen sind grundsätzlich skeptisch gegenüber neuen Informationen und sind dazu in der Lage, neues mit bisherigem Wissen abzugleichen

Warum glauben Menschen an Misinformation?

Erklärung 2: Motivation

→ politische oder soziale Motivation

→ politische Asymmetrie

Bail, 2020; Bor & Petersen, 2021; Ecker et al., 2023; Petersen et al., 2020.

  • Aber, wenn bisheriges Wissen schon verzerrt ist, gibt es keine guten Abwehrmechanismen mehr

  • Viel wahrscheinlicher ist daher, dass eine motivierte Minderheit schon bestimmte Einstellungen hat Misinformation konsumiert und verbreitet

  • Menschen tendieren grundsätzlich dazu, Informationen herauszusuchen und zu verarbeiten, die mit ihren Einstellungen oder ihren sozialen Zirkeln übereinstimmen

  • Diese Prozess nennt man “Motivated Reasoning”

  • Deshalb ist der stärkste Faktor, warum Menschen an Misinformation glauben ihre politische Einstellung

  • Bei ganz extremen User:innen geht es auch oft nicht mehr um den Wahrheitsgehalt, sondern um den Protest

  • Menschen teilen falsche Informationen, um Chaos zu stiften oder um einen Punkt zu machen

  • Aber, Misinformation ist tendenziell ein rechtes Problem

  • Viele Verschwörungstheorien kommen aus antisemitischen Kreisen

  • Dahinter stecken oft rechtsextreme Einstellungen, Misstrauen in die Medien und demokratische Institutionen

Machen Emotionen Menschen dumm?

  • Mehr Wut und weniger Freude in Reaktion auf Misinformation
  • Menschen mit guter und schlechter Urteilsfähigkeit werden wütend

→ Funktion von Emotionen hängt von existierenden Einstellungen ab

Luehring*, Shetty*, et al., 2023

  • In Experimenten aber auch wenn wir uns Daten aus sozialen Medien anschauen sehen wir immer dasselbe Muster: mehr Wut und weniger Freude
  • Aber: Emotionen machen nicht grundsätzlich dumm
  • Insbesondere bei Aufständen von diskriminierten Minderheiten stigmatisiert
  • In einer Studie haben wir herausgefunden, dass Menschen die an Misinformation glauben wütend werden, aber auch Menschen die gut darin waren es zu erkennen
  • Die haben dann sowas gesagt wie “Bullshit”
  • Also sehen wir auch hier dass die Effekte von Misinformation von existierenden Einstellungen abhängen
  • Und in einer anderen Studie, die ich gerade durchführe sehen wir, dass Emotionen in Misinformation einfach gespiegelt werden

PART III: Wie können wir die Verbreitung von Misinformation eindämmen?

Interventionen: Prebunking

  • Accuracy nudges

    • Wahrheitsgehalt und Quellen

    • Teilen

  • Medienkompetenz

    • logikbasiert

    • gamified, z.B. Go Viral! oder Bad News

  • Nudges sind Warnhinweise oder so Banner wie man es im Kontext von COVID gesehen hat

  • Das passiert aber nur bei bestimmten Themen, zum Nahostkonflikt nicht

Interventionen: Prebunking

  • Accuracy nudges

    • Wahrheitsgehalt und Quellen

    • Teilen

  • Medienkompetenz

    • logikbasiert

    • gamified, z.B. Go Viral! oder Bad News

+ Skalierbarkeit

- Kleine Effekte

- Negative Spillover-Effekte

- Reduktion von zuverlässigen Informationen

Lewandowsky & van der Linden 2021; van der Meer et al., 2023.

Interventionen: Debunking

  • Factchecking

    • Expert:innen: unabhängige Organisationen (mimikama, Correctiv) oder als Teil von Redaktionen (APA, faktenfinder)

    • Crowdsourced: Birdwatch

+ Überprüfung von politischen Akteur:innen

- Überprüfung von extremen Fällen

- Kleine Effekte & sogar Backfire-Effekte in Zielgruppe

- Reaktionär & nicht sehr skalierbar

Allen et al., 2022; Altay, 2022; Hameleers & van der Meer, 2020.

  • politische Akteur:innen werden von unabhängigen Organisationen überprüft
  • aber: preaching to the choir?
  • crowdsourced factchecking macht es skalierbar, aber ist das gut für den politischen Zusammenhalt?
  • automatisierte Verfahren scheitern leider

Interventionen: Systemisch

  • Transparenzpflichten und Regulierung von sozialen Medien und Suchmaschinen

  • Stärkung von unabhängigen Medien und zuverlässigen Informationen

  • Politische Bildung und Extremismus-Prävention

→ Kombination an Interventionen?

  • soziale Medien: Algorithmen auditen, Daten freigeben
  • Medien: Länder mit öffentlich-rechtlichem haben weniger ein Problem mit Misstrauen in die Medien, und Länder mit Korruption ein größeres Problem
  • Vertrauen in die Medien schaffen und die Radikalisierung von politischen Gruppen reduzieren

Abschluss

Letzte Worte

  • Starker Fokus auf extreme Formen von Misinformation

  • Aber weniger extreme, alltägliche Dekontextualisierungen haben nachhaltigere Effekte

→ Nicht der Wahrheitsgehalt ist schädlich, sondern die Inhalte!

→ Misinformation ist ein perfektes Instrument, um schädliche Inhalte zu verbreiten

Hameleers et al., 2021; Luehring et al., in prep

  • Dilemma in der interdisziplinären Forschung: Wie definiere ich Misinformation? Kann ich das selbst machen oder brauche ich dafür Expert:innen?

  • Meinungsinhalte

  • KI?

Fragen?

Diskussion

  1. Ist Misinformation wirklich das größte Problem, das wir gerade haben? Oder ist es eher ein Symptom?

  2. Wer ist in der Verantwortung?

  3. Was passiert nun mit KI?

1 / 31
Misinformation in den sozialen Medien Gastvorlesung von Jula Luehring 13. Mai 2024

  1. Slides

  2. Tools

  3. Close
  • Misinformation in den sozialen Medien
  • Vorstellung
  • Jula Lühring, M.Sc.
  • Misinformation in den Schlagzeilen
  • Misinformation als eine der größten Gefahren?
  • PART I: Was ist Misinformation?
  • Im Kontext der “Information Disorder”
  • Subtypen
  • Wie sieht das in der Praxis aus?
  • Wie sieht das in der Praxis aus?
  • Wie sieht das in der Praxis aus?
  • Mögliche Konsequenzen von Misinformation
  • Mögliche Konsequenzen von Misinformation
  • PART II: Realitätscheck
  • Wie verbreitet ist Misinformation?
  • Und wie hat sich das mit den sozialen Medien verändert?
  • Und wie hat sich das mit den sozialen Medien verändert?
  • Mögliche Konsequenzen von Misinformation
  • PART III: Die Psychologie dahinter
  • Warum glauben Menschen an Misinformation?
  • Warum glauben Menschen an Misinformation?
  • Machen Emotionen Menschen dumm?
  • PART III: Wie können wir die Verbreitung von Misinformation eindämmen?
  • Interventionen: Prebunking
  • Interventionen: Prebunking
  • Interventionen: Debunking
  • Interventionen: Systemisch
  • Abschluss
  • Letzte Worte
  • Fragen?
  • Diskussion
  • f Fullscreen
  • s Speaker View
  • o Slide Overview
  • e PDF Export Mode
  • ? Keyboard Help