Quellen:
- The Invisible Rulers Turning Lies Into Reality — Commonwealth Club World Affairs, 17. Juni 2024
- AISSR Lecture | From Posts to Policy: The New Architecture of Influence — Universität Amsterdam, 6. November 2025 (mit Panel: Ulrike Klinger, Liza Mugge)
Wer spricht?
Renée DiResta (1983, USA) — Forscherin, Autorin, jetzt Georgetown University. Ehemalige Technical Research Manager am Stanford Internet Observatory (SIO).
DiResta kam zur Desinformationsforschung durch persönliche Erfahrung: Als Mutter suchte sie Impfinformationen und fand die dominante Anti-Impf-Bewegung auf Twitter. Als CS-Ingenieurin näherte sie sich dem Problem systematisch — Netzwerke, Knoten, Informationsflüsse. Doch das reichte nicht, sie musste auch das Soziale verstehen. Was als Eltern-Engagement begann, führte sie zu einer Karriere an der Schnittstelle von Propaganda, Algorithmen und politischer Psychologie. Das SIO wurde 2024 unter politischem Druck aufgelöst — ein Fall, über den sie unverblümt spricht.
Wichtigste Werke: Invisible Rulers: The People Who Turn Lies into Reality (2024, 2. Auflage 2026) Kernkonzepte: Influencer-Propaganda, Crowd-Mechanik, Algorithmen als Verstärker, Bridging-Algorithmen, Exclusionary Populism
Inhalt
Drei Transformationen der Demokratie — das Grundgerüst
DiResta strukturiert ihre Arbeit um drei Befunde — wertneutral formuliert, obwohl der Fokus auf adversarial abuse liegt:
- Rewired Legitimacy — Wer gilt als glaubwürdige Stimme? Die Antwort hat sich fundamental verschoben: weg von Credentials, hin zu Aufmerksamkeit. Wer ein Publikum bindet, genießt Autorität — unabhängig davon, ob er Ahnung hat.
- Rewarding Extremity — Algorithmen und Fraktionsdynamik belohnen extreme Stimmen. Extreophiles (Begriff des Atlantic) sprechen in einer Weise, die Engagement maximiert: Empörung, moralische Überlegenheit, Stammeskonflikt.
- Reality Fragmentation — Wenn Fraktionen nicht nur verschieden denken, sondern in komplett verschiedenen Informationsumgebungen leben, gibt es keine gemeinsame Faktenbasis mehr. Demokratische Kohäsion setzt geteilte Realität voraus.
Warum Propaganda nicht neu ist — und warum sie trotzdem anders ist
DiResta beginnt mit einem radikalen Befund: Propaganda ist so alt wie menschliche Kommunikation. Martin Luther und der Buchdruck, Father Coughlin und das Radio, Edward Bernays und die Massenpsychologie. Jede neue Kommunikationstechnologie wurde von Propagandisten gekapert, bevor Gesellschaften verstanden hatten, wie sie damit umzugehen ist.
„It’s not that this is new. Anti-vaccine narratives actually haven’t changed. So why did they work then, and why do they work now?”
Die entscheidende Frage ist nicht: Was hat sich inhaltlich verändert? Sondern: Was hat sich an der Mechanik verändert? DiRestas Antwort: die Kombination aus Influencern, Algorithmen und Massen — drei Elemente, die bisher nie gleichzeitig in dieser Konfiguration zusammenwirkten.
Eigene Einschätzung
Diese historische Perspektive ist eine wohltuende Korrektur gegen Technik-Panik. Das Neue an sozialen Medien ist nicht, dass Menschen manipulierbar sind — das waren sie immer. Das Neue ist die Skalierung und Dezentralisierung: Propaganda ist keine Topdown-Operation mehr. Sie kommt aus tausend Richtungen gleichzeitig, finanziert durch Engagement-Algorithmen, ohne zentrale Steuerung. Das ist paradoxerweise schwerer zu bekämpfen als staatliche Propaganda.
Edward Bernays und die “Invisible Rulers”
Der Begriff stammt von Edward Bernays — Neffe Sigmund Freuds, “Vater der PR”. Bernays schrieb in den 1920ern, dass Demokratie gelenkt werden muss: Die Massen können nicht selbst vernünftig entscheiden, deshalb ist es die Pflicht aufgeklärter Eliten, die öffentliche Meinung zu formen. Diese unsichtbaren Herrscher regieren im Hintergrund — zum Wohl aller.
Bernays’ berühmteste Kampagne: “Torches of Freedom” für eine Zigarrenmarke. Er verknüpfte Rauchen mit Emanzipation — inszenierte Frauen, die auf der Fifth Avenue demonstrativ rauchten. Die Presse berichtete, als wäre es eine echte politische Bewegung gewesen. Das Prinzip — Gruppenidentität als Hebel — ist das Grundmuster jeder modernen Influencer-Kampagne:
„You create demand in the individual as a member of a group, a group identity.”
Eigene Einschätzung
Bernays klingt paternalistisch-zynisch: Die Masse ist zu dumm für echte Demokratie, also müssen Kluge für sie denken. Aber diese Haltung lebt weiter — nur demokratisiert. Heute muss man keine Elite sein, um „Invisible Ruler” zu werden. Jeder mit einem hinreichend treuen Publikum kann Realitäten konstruieren. Bernays’ Traum von erleuchteten Lenkern ist zu einem Albtraum dezentralisierter Propagandisten geworden.
Das Triad-System: Influencer, Algorithmus, Crowd
„Today’s platforms don’t just reflect reality. It’s much more of a machine than a mirror.”
Influencer + Algorithmus + Crowd sind kein Dreiklang unabhängiger Elemente — sie bilden ein komplexes System mit wechselseitigen Abhängigkeiten, in dem jedes Element die anderen formt:
- Der Influencer ist im Kern ein Peer-to-Peer-Kanal — nicht für Produkte, sondern für Überzeugungen. Er produziert Content nicht nur für Menschen, sondern optimiert für den algorithmischen Kurator: AB-Testing von Thumbnails, Titeln, Tonlagen. Der Algorithmus liebt moralische Empörung — deshalb klingt politischer Content so oft nach Rage.
- Der Algorithmus nimmt Signale von der frühen Crowd auf und entscheidet, was er an wen ausspielt. Selbst Follower-Beziehungen garantieren keine Sichtbarkeit — das Ranking entscheidet.
- Die Crowd ist nicht passiv: Sie ko-kreiert Content und Narrative, trägt Material von Plattform zu Plattform. “It’s individual people who create the bridges across the ecosystem.”
Das System ist radikal dezentralisiert: Statt einer zentralen Propagandastimme gibt es zehntausende Influencer in Nischen. Und das erklärt das Hijacking der alten Medien: Influencer inszenieren ein Ereignis → Presse berichtet → Influencer verbreiten die Berichterstattung als Beweis. Genau das machte Bernays. Es funktioniert heute genauso.
Charlie Munger: “Show me the incentives and I’ll show you the outcome.” Chomskys Manufacturing Consent analysierte dieselbe Logik für Broadcast-TV — heute sind es Engagement-Algorithmen statt Werbebudgets.
Legitimität neu verdrahtet — und die CDC-Lektion
2015, Masernausbruch in Disneyland. Twitter wurde vollständig vom Anti-Impf-Narrativ dominiert. Es gab schlicht keine pro-Impf-Influencer — kein credentialed Arzt dachte: “Ich sollte auf Twitter sein, wo die Menschen sind.” Die CDC postete Fact Sheets auf ihrer Website.
„Those are just some people online.” — die CDC, als DiResta fragte, warum sie nicht in der Konversation sind.
Die Konsequenz: Credentialism wird durch Aufmerksamkeit als Kapital ersetzt. Wer das Publikum bindet und Menschen das Gefühl gibt, gehört zu werden und aktive Teilnehmer zu sein — der genießt Autorität. Nicht der Arzt mit dem Abschluss.
Fraktionen und Reality Fragmentation
Twitter-Emoji-Bios als Stammessignale: Die Rose (Demokratische Sozialisten), die Wassermelone (Palästina-Solidarity), das Fahrrad (Transit-Lobby), die Avocado (Housing Costs). Beim ersten Blick auf einen Reply war die Fraktionszugehörigkeit klar — und die Horde rückte geschlossen aus, wenn jemand “ihren” Trigger traf.
Die Fraktionierung vertieft sich durch Platform Migration: Links-Platforms, Rechts-Platforms. Komplett verschiedene Themen dominieren die Diskurse — mit fundamentalen Konsequenzen für Demokratie: Wo ist noch der Konsens, über den verhandelt werden kann?
Propaganda, nicht Misinformation
„Misinformation implies that if you were to correct people, they receive the information and then change their mind. After 10 years of looking at this — that is just not what people are looking for.”
Der Begriff Misinformation verfehlt das Problem: Er impliziert Korrektierbarkeit, die nicht existiert. Die Information ist so eng mit Identität, Fraktionszugehörigkeit und Aktivismus verknüpft, dass Fakten als Angriff auf die Gruppe erlebt werden. Das ist Propaganda — Information mit einer Agenda, die Identität als Hebel nutzt.
Fallstudie: “Eating the Pets” — 7 Schichten eines viralen Propagandamoments
Dieser Fall zeigt alle Schichten des Systems — von aufrichtiger privater Sorge bis zur Präsidentschaftsdebatte:
Schicht 1 — Ursprung: Eine Frau postet in einer geschlossenen Springfield-Nachbarschaftsgruppe: Haitianer in der Stadt würden Haustiere essen. Die Frau glaubt das aufrichtig. Kein Troll, keine Absicht — das ist entscheidend.
Schicht 2 — Context Collapse: Ein Twitter-User decontextualisiert den Post (Dana Boyd: context collapse) mit der Rahmung “Ich hab’s euch gesagt.” Geht viral.
Schicht 3 — Participatory Propaganda: Grok (KI-Bildtool auf Twitter) war gerade gelauncht. Die Crowd produziert AI-generierte Memes — vom harmlosen Witz bis zum rassistischen Bild. Trump teilt die Memes auf Truth Social. Die MAGA-Bewegung hat eine Fandom-Beziehung zu ihrem Kandidaten — man weiß nie, ob der Präsident dein Meme teilt. Enormer Partizipationsanreiz.
Schicht 4 — Elite-Amplification: JD Vance, Senator aus Ohio, greift das Gerücht auf — sagt nicht “das ist Unsinn”, sondern rahmt es als berechtigte Migrationsfrage: “Who is America for?” 11,5 Mio. Impressionen. 15 Mio. Impressionen.
Schicht 5 — Präsidentschaftsdebatte: Trump sagt es live gegen Kamala Harris. DiResta sitzt im Flughafen-Bar auf einem Layover und beobachtet die Gesichter der Umgebenden: “What the hell is going on?” — wer nicht Twitter-affin ist, hat keinen Kontext. Google-Suchanfragen für “eating the pets” schießen hoch.
Schicht 6 — Rückklammerung: Chris Rufo schreibt ein $5.000-Kopfgeld für “Beweise” aus — nachdem VP und Präsidentschaftskandidat die Geschichte bereits verbreitet haben. Das grainy Handyvideo taucht auf. Leute zoomen auf Tierknöchel am Grill: Vogel oder Säugetier?
Schicht 7 — Reale Konsequenzen: Bombendrohungen gegen Schulen. Morddrohungen gegen den republikanischen Ohio-Unternehmer, der sagte, Haitianer arbeiteten in seinen Fabriken. Der republikanische Gouverneur versucht zu deeskalieren — und wird ignoriert.
Das entscheidende Paradox: Die ursprüngliche Frau, deren Katze wiedergefunden wurde, entschuldigte sich öffentlich im Wall Street Journal. Es interessierte niemanden.
„Polling showed approximately 55% of the president’s supporters believed this was real.”
Eigene Einschätzung
Was diesen Case so lehrreich macht: Die Frau aus Springfield ist kein Bösewicht. Sie ist aufrichtig besorgt. Die Crowd, die Memes macht, hat Spaß. JD Vance nutzt eine Gelegenheit. Trump amplified, weil die Base begeistert ist. Kein einziger Akteur muss lügen wollen — das System produziert dennoch Propaganda. Das ist das tiefste Problem: Es gibt keine zentrale Schuld, die man anklagen könnte.
Fallstudie: Die Wayfair-Verschwörung
“Amazing Polly” — eine Gartenbloggerin — entdeckte bei Wayfair teuer gelistete Aktenschränke mit Frauennamen und konstruierte daraus eine Kinderhandels-Verschwörung. Millionen verbreiteten den Hashtag. Die echte Kinderschutzorganisation musste öffentlich bitten aufzuhören — ihre Hotlines waren blockiert.
Twitter verlangsamte den Trend — woraufhin die Community erklärte: Twitter ist Teil der Verschwörung. Als ein tatsächlich vermisstes Mädchen (eine Ausreißerin) postete, sie sei wohlauf, wurde sie angegriffen: „Deine Entführer lassen dich das schreiben.”
Dieses Muster ist zentral: Jede Widerlegung wird als Beleg für die Verschwörung interpretiert. Die Crowd kann nicht zugeben, falsch zu liegen — ihre Identität hängt an der Überzeugung.
Eigene Einschätzung
Das Problem ist nicht Ignoranz, sondern Gruppenidentität als epistemische Barriere. Sobald eine Überzeugung Teil der Gruppenidentität wurde, wird jedes Gegenargument als Angriff auf die Gruppe erlebt. Bonhoeffers Dummheitstheorie trifft hier exakt: Es ist nicht fehlende Intelligenz — es ist die Übernahme der Gruppenlogik als Denkersatz.
Russische Trolls: Verstärkung statt Überzeugung
Eine der wichtigsten Korrekturen in DiRestas Arbeit: Russische Trolls versuchten nicht, Menschen zu überzeugen. Sie verstärkten, was bereits vorhanden war.
„You don’t have to move them. You just have to kind of like entrench them.”
Veteranen, die das Gefühl hatten, vergessen zu werden — bekamen Content, der ihre Wut vertiefte. Muslime, die Diskriminierung erfahren hatten — bekamen Content, der ihre Entfremdung verstärkte. Dann wurden diese Gruppen gegeneinander ausgespielt.
Das Ziel: Rubio-Wähler in der Vorwahl zu Trump verschieben. Nicht Demokraten zu Republikanern. Fraktionierung, nicht Konversion.
Eigene Einschätzung
Das ist die eigentliche strategische Lektion: Man muss keine Meinungen ändern. Es reicht, vorhandene Identitäten zu vertiefen und Gräben zu verbreitern. Das ist effizienter — und schwerer zu bekämpfen, weil die Manipulation nicht als Manipulation erkennbar ist. Menschen denken, sie denken selbst. Haidt’s Forschung zur moralischen Psychologie erklärt, warum: Identität und Stammeslogik kommen immer vor rationaler Argumentation.
Das Stanford Internet Observatory: Lawfare gegen Forschung (2023–2025)
Die “Twitter Files” — selektiv freigegebene interne Twitter-Dokumente — wurden von Taibbi, Shellenberger und anderen als Beweis für systematische Zensur präsentiert. Die Erzählung: Stanford, SIO, Regierung arbeiteten zusammen, um konservative Stimmen zu unterdrücken.
DiRestas Antwort: Das SIO veröffentlichte seine Berichte wöchentlich öffentlich. Jeder konnte sie abonnieren. Die Behördenkommunikation war FOIA-pflichtig. Shellenberger zitierte unter Schwur im Kongress einen Blog-Post von “Mike Benz, Executive Director of the Foundation for Freedom Online” — was die Foundation war, war sein eigener Blog. Am nächsten Tag schickte Jim Jordan Stanford einen Subpoena-Brief.
Das SIO meldete im Verlauf des gesamten Election Integrity Partnership-Projekts 2.700 Tweets an Twitter. Twitter ignorierte 65% davon. Die Behauptung: 22 Millionen Tweets zensiert — drei Größenordnungen daneben.
„It’s like McCarthyism. You can never exonerate yourself with your own documents, because they’ve decided what story they want to tell before the subpoena lands in your box.”
Stanford — mit 36,4 Milliarden Dollar Stiftungsvermögen — verlängerte DiRestas Vertrag nicht und löste das SIO auf.
„An institution with an endowment of 36.4 billion has been cowed by this? Disappointed.”
Die eigentliche Lektion: Stanford wählte “No comment” — und ließ das Narrativ unwidersprochen laufen. DiResta wollte öffentlich im Ton des Internets zurückschlagen (proactive ridicule wäre die richtige Antwort gewesen). Sie wurde davon abgehalten. Stattdessen veröffentlichte sie ihre gesamte E-Mail-Korrespondenz mit Shellenberger auf Substack:
SEO-freundlich, zugänglich, suchbar — das ist das Modell für akademische Gegenwehr im digitalen Zeitalter. Was in einem Westlaw-Archiv oder PDF-Filing vergraben liegt, erreicht niemanden. Was Google und KI-Antwortmaschinen finden, formt die öffentliche Wahrheit.
2025-Update: Jim Jordan schickte einen neuen Brief — jetzt an eine andere Stanford-Einheit, die eine Konferenz mit dem australischen E-Safety-Commissioner abgehalten hatte. Sheelenbergers Headline: “Obama-linked Stanford Center held secret meeting with foreign governments to plot global internet censorship.”
- “Obama-linked” = Obama hat einmal dort gesprochen
- “Secret meeting” = Konferenz + kleineres Abendessen danach
- “Plot global internet censorship” = Diskussion über australische Age-Verification-Gesetze
Das zeigt: Die Abwicklung des SIO hat nichts beendet. Lawfare richtet sich jetzt gegen andere Forschungseinheiten. Das Werkzeug ist dasselbe — die Allegation genügt, um den Subpoena-Mechanismus auszulösen.
2025: Die Institutionen werden Teil der Maschine
Das ist die beunruhigendste Entwicklung, die DiResta im Epilog der zweiten Ausgabe von Invisible Rulers beschreibt:
Früher kämpften Institutionen gegen die Rumor-Mill-Dynamiken. 2025 nutzen Regierungsbeamte die Crowd-Rumors als Rechtfertigung für politische Entscheidungen.
Beispiel USAID: Crowds beginnen, öffentliche Grant-Datenbanken zu durchsuchen — die schon immer öffentlich waren — und finden “Beweise” für Verschwendung, ohne zu verstehen, was sie lesen.
“$50 Millionen Kondome für Hamas” — komplett erfunden. Elon Musk: “We canceled that, we sent it through the wood chipper.” Die Crowd: “Finally, the government is listening to us.” Für zwei Monate durchforstet die Base enthusiastisch Behörden-Datenbanken.
„Everything becomes the Twitter files — very decontextualized emails, documents that aren’t quite what the crowds decide they are, but advantageous to an administration that wants to do the thing anyway.”
DiResta nennt das exclusionary populism: Eine Regierung, die durch virale Crowd-Aktionen noch responsiver erscheint — während sie vorbestimmte politische Ziele durchsetzt.
Lösungsansätze: Was tatsächlich helfen kann
1. Free Speech ≠ Free Reach Meinungsfreiheit bedeutet das Recht, etwas zu sagen — nicht das Recht auf algorithmische Verstärkung. Jeder Algorithmus ist eine redaktionelle Entscheidung. Plattformen sind keine neutralen Rohre.
2. Fact-Checking löst das Problem nicht Es ist kein Misinformationsproblem. Identitäts- und Vertrauensfragen lassen sich nicht wegfakten. Zehn Jahre Anti-Impf-Arbeit haben das bewiesen.
3. Bridging-basiertes Ranking ▶ 56:33 Statt Algorithmen, die das Polarisierende belohnen: Algorithmen, die produktiven Dissens hochranken — Inhalte, die diverse Gruppen als halbwegs fair empfinden. DiResta baut das konkret: ein Recommender-System für Bluesky (open architecture), das solche Bridging-Signale nutzt.
“Können die algorithmischen Incentives so verschoben werden, dass downstream auch Influencer- und Crowd-Anreize sich ändern?” Das ist die Forschungsfrage. Little tech — Interoperabilität, Dezentralisierung, Middleware — ist der konstruktive Gegenentwurf zu konzentrierter Big-Tech-Macht.
4. Reibung vor dem Teilen ▶ 61:10 “Circuit Breaker”: kurze Pause bevor etwas viral geht. Twitter testete: “Willst du das wirklich retweeten? Du hast den Artikel nicht gelesen.” Einfache Nudges reduzieren unreflektiertes Weiterleiten erheblich.
5. Prebunking statt Debunking ▶ 59:37 Als Antwort auf Father Coughlin entstanden in den 1930ern Pamphlete, die rhetorische Muster erklärten — nicht einzelne Fakten: “Glittering Generalities”, emotionale Manipulation, False Dichotomies. Nicht die Lüge widerlegen, sondern die Technik vorab erkennbar machen.
6. Community Notes > institutionelles Fact-Checking ▶ 67:51 Community Notes genießen höhere Legitimität als professionelles Fact-Checking, weil sie von Nutzern kommen, nicht von “woken Akademikern.” Der Witz: Meta lobt Community Notes in DSA-Berichten — hat es aber in den USA abgeschafft, weil Fact-Checking als Zensur geframt wurde.
7. Institutionen müssen Netzwerke werden ▶ 54:04 Das Modell “Pressemitteilung + Journalisten-Zitat” ist tot. Epidemiologie-Influencer zeigen, dass evidence-based counter-speech möglich ist — wenn man in den virality loops präsent ist, Kollegen amplified und aktiv experimentiert.
KI und Bots: Begrenzte Gegenwart, wachsende Zukunft
Bots sind aktuell noch nicht das Hauptproblem: Sie werden leicht erkannt, erzeugen kaum organische Resonanz. Twitter (X) hat den Zugang zu Forschungstools auf ~42.000 USD/Monat verteuert — systematische Analyse wird unmöglich gemacht.
Aber: KI senkt die Hürde für Desinformationskampagnen drastisch. Der Bottleneck war früher Content-Produktion. Das fällt weg.
„I think within 2 to 3 years you’ll see a lot of research on proof of person.”
Panel Amsterdam: Europäische Perspektiven
Ulrike Klinger (ASCoR): Laurel Weldon’s Buch heißt From Protest to Policy — DiRestas Titel From Post to Policy ist keine Metapher, sondern eine bittere Pointierung: Wo soziale Bewegungen jahrelang für politischen Einfluss kämpften, genügt jetzt ein viraler Post.
Klinger: “Können wir in diesem Raum gewinnen? Audre Lorde: Man kann das Haus des Herrn nicht mit den Werkzeugen des Herrn abbauen.” DiRestas Antwort: Man muss es versuchen — und Epidemiologie-Influencer zeigen, dass es geht. Funders müssen in response capacity investieren, nicht nur in Forschung.
EU/US-Divergenz: In den USA ist Hate Speech First-Amendment-geschützt. Der DSA wird von US-Rechts als “Digital Censorship Act” geframt. Jim Jordan hat Europa besucht, um dagegen zu kämpfen. Nigel Farage hat im US-Kongress zur “Zensur in Amerika” ausgesagt.
„Transparency is censorship — because they don’t like the thought that the woke academics are going to be the ones getting the data.”
Das gleiche Reframing-Werkzeug, das gegen das SIO eingesetzt wurde, wird jetzt gegen europäische Regulierung exportiert.
Altersverifikation / ID-Pflicht: DiResta skeptisch. Propaganda wird oft mit vollem Namen und Kindergesicht im Profilbild verbreitet — Anonymität ist nicht das Kernproblem. Größeres Risiko: Chilling Effect auf dissidente Rede. Möglicher Mittelweg: privacy-protecting credentials (nicht staatlich), behavioral-based signals.
Eigene Einschätzung
Die EU/US-Spannung ist real — aber DiResta zeigt auch, warum der rein regulatorische Ansatz zu kurz greift: Wer die Incentive-Struktur nicht ändert, regelt an der Oberfläche. DSA und Community Notes schließen sich nicht aus. Das Problem ist, dass der politische Kampf um Deutungshoheit — “Zensur” vs. “Transparenz” — selbst nach DiRestas Mechanik funktioniert: Begriffsbesetzung vor Fakten.
Faktencheck
Bestätigt — JD Vance und das Haustier-Gerücht
Vance twitterte am 9./10. September 2024 über Springfield und bekannte sich zu den Gerüchten trotz fehlender Belege. Quelle: AP News — The viral false claim about Haitian immigrants eating pets
Bestätigt — $50M Kondome für Hamas
PolitiFact und Reuters zeigten: Zahl stark aufgebauscht, Hamas-Verbindung erfunden. Quelle: Reuters Fact Check
Bestätigt — SIO-Abwicklung
Das SIO wurde 2024 nach politischem Druck und juristischen Anfechtungen aufgelöst. Quelle: The Guardian
Bestätigt — 2.700 Tweets, nicht 22 Millionen
EIP-Abschlussbericht dokumentiert 2.700 gemeldete Tweets (65% von Twitter ignoriert). Quelle: EIP Final Report
Vereinfacht — Community Notes als höher-legitim
Plausibel für bestimmte Nutzergruppen, aber empirisch noch wenig belegt. Die Forschungslage ist im Aufbau. Keine unabhängige Quelle mit klarer Evidenz gefunden.
Vereinfacht — 55% Trump-Supporter glauben das Haustier-Gerücht
YouGov/The Economist, September 2024. Methodologisch unklar, ob “believe” aktive Überzeugung oder unentschlossenes Nicht-Widerlegen bedeutet. Quelle: YouGov/Economist Poll
Weiterführende Quellen
- Renée DiResta: Invisible Rulers — Das Grundlagenwerk
- Edward Bernays — Propaganda (1928), Crystalizing Public Opinion (1923)
- Noam Chomsky & Edward S. Herman — Manufacturing Consent (1988) — DiResta: das 5-Filter-Modell für Broadcast-TV ist das Vorläufermodell für Algorithmus-Incentives
- Walter Lippmann — Public Opinion (1922) — Der Lippmann-Dewey-Streit: Braucht Demokratie eine aufgeklärte Elite als Hüter?
- Tobias Rose-Stockwell — Buch über Aufmerksamkeit und Social-Media-Design — enthält die “Friction before sharing”-Forschung
- Algo Speak — Buch über algorithmic language adaptation — Jugendliche sagen “unalived” statt “suicide”
- Renée DiResta auf Lawfare — Online-Speech-Kommentare
- DiResta’s Substack — inkl. der veröffentlichten Shellenberger-Korrespondenz
- Carnegie Endowment White Paper (Herbst 2025) — Institutionen müssen proaktiv kommunizieren
- Bridging-based Ranking — Georgetown/Bluesky-Forschungsprojekt; Konzept u.a. von Jigsaw (Google)
Verbindungen
→ ARTE — Hybrider Angriff Putins Krieg gegen Europas Osten
Die empirische Feldstudie zu DiRestas Theorie: Russlands hybrider Krieg im EU-Osten erfindet nichts, er verstärkt vorhandenes Misstrauen — genau der Mechanismus, den DiResta beschreibt. Die „auf einen Knopf drücken”-These der Doku ist DiRestas dezentrale Propaganda in geopolitischer Anwendung.
→ Yuval Noah Harari — Das biologische Drama unserer Spezies
Das empirische Gegenstück zu Hararis „Ballon, den keine Faktennadel zerplatzt“: DiResta hat vermessen, wie Widerlegung an Gruppenidentität abprallt. Harari liefert die Theorie der Grenze des Faktenchecks, DiResta die Feldforschung.
→ Annette Dittert — Dear Britain
Dittert beschreibt den konkreten Anwendungsfall von DiRestas „bespoke reality”: Wie Musk & MAGA über X die UK-Unruhen befeuern und aus Wiederholung geteilte „Realität” wird.
- Wertewesten — Eiserner Besen oder bessere Argumente — DiResta liefert das wissenschaftliche Fundament für die „Anatomie der Manipulation”, die die beiden Wertewesten-Hosts intuitiv beschreiben (Goebbels-Ratio, rhetorische Schminke). Wo Wertewesten anekdotisch erklärt, wie aus Wiederholung Realität wird, hat DiResta es über 10 Jahre systematisch vermessen
- Jonathan Haidt — Kann ein gespaltenes Amerika heilen — Haidt erklärt das psychologische Fundament: Stammeslogik und moralische Identität machen Menschen für Widerlegungen unzugänglich — DiResta bestätigt das empirisch über 10 Jahre Forschung
- Jonathan Haidt — Die moralischen Wurzeln von Liberalen und Konservativen — Die “Moral Foundations” sind die Hebel, an denen Propagandisten ziehen; DiRestas Trolls-Kapitel ist eine praktische Anwendung von Haidts Theorie
- Dietrich Bonhoeffer — Theorie der Dummheit — Dummheit als soziale Infektion durch Gruppenidentität — die Frau aus Springfield und die Wayfair-Crowd sind moderne Lehrbuchbeispiele
- Francesca Bria — The Authoritarian Stack — Bria: Tech-Plattformen als politökonomische Machtstruktur; DiResta: die Propaganda-Mechanik auf dieser Struktur; 2025 verschmelzen beide Ebenen (Musk/Trump)
- Hannah Arendt — Denken ohne Geländer — Arendt: Totalitarismus zerstört Institutionen, die gemeinsame Realität sichern; DiResta dokumentiert denselben Prozess digital — ohne Staat, durch dezentralisierte Crowds
- Rainer Mausfeld — Warum schweigen die Lämmer — Mausfeld: Elite-gesteuerte Meinungsmache (top-down); DiResta: die Crowd ist selbst der Propagandaapparat (dezentralisiert) — zwei Modelle desselben Phänomens
- Rainer Mühlhoff — Künstliche Intelligenz und der neue Faschismus — KI senkt die Produktionshürde für Propaganda; Mühlhoff zeigt die strukturelle Seite, DiResta die operative
- Claus-Christian Carbon — Wahrnehmung und Wirklichkeit — Carbon erklärt kognitiv, wie Wahrnehmung konstruiert wird; DiResta zeigt, wie Propagandisten diese Konstruktion systematisch ausnutzen
- ARTE — Forschung Fake und faule Tricks — Wie Industrien Zweifel säen (Agnotologie); DiResta: Influencer-Crowds tun dasselbe dezentralisiert — strukturell verwandt
- Gilda con Arne — Rechte Milliardaere kaufen Medien — Rechte Milliardäre kaufen Medienkanäle (sichtbar) + Influencer-Netzwerke (unsichtbar) + Regierungsbeamte nutzen Crowd-Rumors als Policy-Grundlage (2025) — drei Schichten desselben Systems
- Panorama — Politik verstehen — Bernays’ Prinzip (Gruppenidentität als Hebel) und algorithmische Verstärkung: wie politische Narrative heute gebaut werden
- Mouffe — Das Politische und die Politik — Mouffe erklärt die Leerstelle, in die DiRestas Invisible Rulers eindringen: Wenn echte politische Auseinandersetzung aus dem Zentrum verdrängt wird, füllt Propaganda-Content den entstandenen Vakuum — dezentralisiert, affektgesteuert, unkontrollierbar
- Holy Koolaid — Amerikanische Propaganda 7 Formen — Holy Koolaid zeigt das institutionelle Substrat, das DiRestas Propagandamechanismen erst erzeugt: Schule, Fahne, Kalter-Krieg-Binär als kulturelle Grundprogrammierung, bevor Fakten ankommen
- Bundestalk — Meinungsfreiheit in Deutschland 2026 — Gutmairs Algorithmen-Kritik in diesem taz-Podcast ist DiRestas „Free Speech ≠ Free Reach” auf deutschem Boden: Strafrecht trifft das falsche Problem, die Diskursmechanik liegt in den Plattform-Incentives
- republica26 — Social-Media-Verbot fuer Kinder — Paschkes klinischer Befund (1,5 Mio. suchtgefährdete Jugendliche durch KI-Personalisierung auf gefährdende Inhalte geleitet) ist DiRestas algorithmische Verstärkungslogik angewandt auf die vulnerabelste Nutzungsgruppe — mit unmittelbaren Gesundheitsfolgen statt nur politischen
- Martin Andree — Monopole zerstören unsere Demokratie — Die strukturelle Ergänzung zu DiRestas Forums-Dynamik: Andree zeigt, wem das Forum gehört (Plattform-Monopole als Eigentümer von 60 % der Öffentlichkeit) und warum Entflechtung, Outlink-Pflicht und offene Standards der Hebel wären; DiRestas „Rewarding Extremity“ liefert die verhaltenspsychologische Erklärung für Andrees Neutralitätslüge
- Fediverse — Die digitale Allmende — Das Fediverse ist DiRestas „Bridging”-Forderung in Infrastruktur gegossen: keine Engagement-Optimierung, keine algorithmische Radikalisierung, chronologische Timeline. Wähner und Stockmann erklären, warum das nicht reicht: Das beste Gegendesign zieht keine Nutzer, wenn Onboarding scheitert und Netzwerkeffekte fehlen — Fragmentierung entsteht im kommerziellen Netz durch Algorithmen, im dezentralen durch Konzentrationstendenzen
- Topfvollgold — Die Wahrheit über die Öffentlich-Rechtlichen — Die Innenseite von DiRestas „Rewired Legitimacy”: ÖRR-Insider beschreiben, wie eine Institution mit hohen journalistischen Standards durch algorithmisch begünstigte Empörungswellen in die Defensive gerät — die „Angst vor dem Hass” und die Schere im Kopf sind die psychologische Folgewirkung von „Rewarding Extremity” in den angegriffenen Redaktionen
→ Adam Johnson — How to Sell a Genocide
Das institutionelle Gegenstück zur dezentralen Crowd-Propaganda: Johnson zeigt, dass die klassische top-down-Konsensfabrikation (Manufacturing Consent) im US-Mainstream ungebrochen weiterläuft — ohne Algorithmus, durch redaktionelle Routine.
→ Der leere Turm - wie Macht herrenlos wird
Der philosophische Überbau zu DiRestas Springfield-Befund: „Kein einziger Akteur muss lügen wollen, es gibt keine zentrale Schuld” ist exakt die Herrenlosigkeit, die der leere Turm zur These macht. Wo DiResta zeigt, dass Propaganda ohne Drahtzieher entsteht, verallgemeinert die Note den Mechanismus zur Verantwortungs-Entsorgung — und nennt das Gegengift: das Urteil behalten, milliardenfach klein.