RSS-Feeds

Rainer Mühlhoff — Künstliche Intelligenz und der neue Faschismus

25 Min. Lesezeit

Quelle: Jung & Naiv: Folge 818

Wer spricht?

Rainer Mühlhoff — Philosoph und Mathematiker, Professor für Ethik der Künstlichen Intelligenz an der Universität Osnabrück.

Mühlhoff studierte Mathematik und theoretische Physik, bevor er in die Geisteswissenschaften wechselte — ein Weg, der ihn befähigt, KI-Systeme technisch zu verstehen und zugleich philosophisch-politisch zu befragen. Vor seiner akademischen Karriere arbeitete er in der Unternehmensberatung, was ihm einen Einblick in die Logik des kapitalistischen Marktes gab. Seither hat er sich als einer der schärfsten deutschsprachigen Analytiker des digitalen Kapitalismus und seiner politischen Folgen etabliert.

Wichtigstes Werk: Künstliche Intelligenz und der neue Faschismus (Reclam, 2025) — 19 Wochen auf der Spiegel-Bestsellerliste, ausgezeichnet als „Das politische Buch 2026” der Friedrich-Ebert-Stiftung. Übersetzungen ins Englische (Pluto Press), Französische und Türkische in Vorbereitung. Kernkonzepte: Desouveränisierung, Authoritarian Stack, Faschismus als Herrschaftsmodus, Solutionismus, Longterminismus

Inhalt

Der KI-Hype: Versprechen und Realität

▶ 1:40

Mühlhoff öffnet das Gespräch mit einer klaren Diagnose: Der KI-Diskurs ist von einer klaffenden Diskrepanz zwischen dem geprägt, was KI technisch ist und kann, und dem, was öffentlich darüber geglaubt wird. „Hype” meint nicht bloß Übertreibung — sondern ein systematisches Auseinanderdriften, das von einem komplexen Orchester vieler Akteure gleichzeitig angefeuert wird: Industrie, Investoren, Politik, Medien.

„Das involviert ja die Öffentlichkeit, aber auch die Politik, Investitionsdynamiken, Konjunkturen an den Aktienmärkten. Das führt dazu, dass man alles der KI zutraut, gesellschaftliche Probleme zu lösen.”

Die wichtigste begriffliche Unterscheidung, die er zieht: KI existiert nicht im Singular. Es gibt nicht die KI, sondern tausend verschiedene Systeme von tausend verschiedenen Unternehmen, mit verschiedenen Fähigkeiten, Geschäftsmodellen und Zwecken. Diese Vereinheitlichung im Diskurs ist selbst Teil des Hypes — wer sie betreibt, will entweder verherrlichen oder verteufeln, beides verhindert präzises Denken.

Eigene Einschätzung

Mühlhoff kommt hier als Mathematiker zum Vorschein: er besteht auf Definitionen. „KI kann das nicht” ist semantisch leer, wenn man nicht sagt: welche KI, wozu gebaut, von wem, zu welchem Zeitpunkt. Diese Präzisionspflicht ist kein akademischer Tick — sie ist politisch notwendig. Ein undifferenzierter Begriff öffnet Raum für Projektion.

Die Entstehung der Datenmacht

▶ 9:37

Die Entstehung von „KI” ist für Mühlhoff kein technologischer Zufall, sondern eine nachgelagerte Monetarisierung von Datenbergen, die in den 2000er Jahren von Facebook, Google und Co. aufgehäuft wurden. Das Muster verläuft in Stufen:

  1. Infrastruktur aufbauen — Soziale Netzwerke, Suchmaschinen, E-Commerce
  2. Daten horten — unbemerkt, aus allen digitalen Aktivitäten der Nutzer*innen
  3. Machine Learning als Auswertungstechnik in den 2010er Jahren entwickeln
  4. Monetarisierung durch personalisierte Werbung, zuletzt durch KI-Services

„KI-Technologie ist ein großer Treiber von einer Umverteilung von unten nach oben. Der Profit akkumuliert sich in ungekanntem Ausmaß bei wenigen oligopoligen Akteuren — Firmen, die so wertvoll sind, wie noch nie Firmen wertvoll gewesen sind.”

Das Geschäftsmodell basiert auf einer unsichtbaren Asymmetrie: Nutzerinnen sind nicht Kundinnen — sie sind das Rohmaterial. Ihre Daten ermöglichen den Werbekunden die Zielgenauigkeit, für die diese zahlen. Mühlhoff zieht hier eine direkte Linie zu kolonialen Strukturen: Extraktion ohne Kompensation, auf Basis bestehender globaler Machthierarchien, die das Erbe kolonialer Ungleichheit in eine neue digitale Logik überführen.

Eigene Einschätzung

Was früher Rohstoffe waren, sind heute Daten. Was früher Handelsrouten waren, sind heute Plattformarchitekturen. Mühlhoffs Kolonialismus-Analogie ist kein Metapher — sie benennt eine strukturelle Kontinuität. Wer das als zu weit hergeholt abtut, muss erklären, warum die Wertschöpfungsketten immer noch dem alten Süd-Nord-Gefälle folgen.

Die Desouveränisierung des Staates

▶ 1:07:00

Dieser Abschnitt markiert den qualitativen Sprung in Mühlhoffs Analyse. Seit 2025 — Trump, DOGE, Palantir — erleben wir nicht mehr nur Diskursverzerrung oder Überwachungskapitalismus: Wir erleben die direkte Übernahme staatlicher Funktionen durch die Tech-Industrie.

„Das game ist, sich immer mehr ins Spiel zu bringen als das Betriebssystem von Staatsmacht — wie Gesellschaft funktioniert, wie Politik funktioniert, wie Verwaltung funktioniert.”

Die Mechanik ist konkret: Trump entließ zehntausende Staatsbedienstete — verkauft als „Bürokratieabbau”. Tatsächlich erhielten Palantir und Google-Government-Sparten Milliarden-Aufträge, um dieselben Funktionen zu übernehmen. Nicht Effizienz ist das Ziel, sondern Kontrolle.

Mühlhoff führt dabei eine wichtige analytische Unterscheidung ein:

EbeneInhalt
DemokratiePolitische Meinungsbildung, Wahlen, Parteien, Parlament
RechtsstaatAdministration, Behörden, Polizei, Schule, Gesundheit, Militär

Die Tech-Industrie zielt auf beide Ebenen — aber der Angriff auf den Rechtsstaat ist weniger sichtbar und deshalb gefährlicher. Wenn die Verwaltung privatisiert wird, entscheiden keine öffentlich-rechtlichen Verfahren mehr, sondern Algorithmen auf proprietären Plattformen.

„Es ist die administrative Seite des Staatsapparats, die durch das Wort Demokratie noch nicht umfasst ist — und die gerade still und leise reprivatisiert wird.”

Eigene Einschätzung

Die Demokratie-Debatte fixiert sich fast immer auf Wahlen und Parteien. Mühlhoffs Diagnose liegt tiefer: Die eigentliche Machtausübung passiert in der Administration. Ein gewähltes Parlament, das auf KI-Plattformen angewiesen ist für Steuerverwaltung, Polizeiarbeit oder Schulbetrieb, ist strukturell erpressbar — unabhängig davon, welche Partei regiert. Das ist eine fundamentale Verschiebung der Gewaltenteilung.

Francesca Bria und der Authoritarian Stack

▶ ~1:10:00

An dieser Stelle verweist Mühlhoff explizit auf eine Schlüsselquelle: Francesca Brias Studie The Authoritarian Stack — eine interaktive Datenplattform, die das Netzwerk von Firmen, Fonds und politischen Akteuren kartografiert, die staatliche Kernfunktionen in private Plattformen überführen. Über 250 Akteure, tausende verifizierte Verbindungen, 45 Milliarden Dollar dokumentierte Finanzflüsse.

„Francesca Bria — die hat eine sehr gute Studie dazu gemacht: Authoritarian Stack. authoritarian-stack.info — rufts alle auf, da kann man das gut visualisiert sehen. Denen geht es nicht mehr um Profit. Wenn man einmal Profit erreicht hat, dann geht es dir als nächstes um staatliche Macht, um die Übernahme von Staatsmacht.”

Brias Analyse deckt sich mit Mühlhoffs Buch: Nicht bloß Kapitalakkumulation, sondern Souveränitätsakkumulation ist das Endziel. Alex Karp (Palantir-Chef) hat das offen formuliert: es geht um „domination” — um Herrschaft, nicht um Gewinne.

Warum gerade jetzt? Die Wachstumsfalle

▶ ~1:15:00

Mühlhoff erklärt den Zeitpunkt nicht durch Böswilligkeit, sondern durch strukturelle Logik: Exponentielles Wachstum der Tech-Industrie bedeutet exponentiell steigenden Ressourcenverbrauch — Strom, Wasser, seltene Erden. Dieser Verbrauch ist mit demokratischen, aufklärerisch-gerechten Prinzipien der Ressourcenverteilung schlicht unvereinbar.

„Wenn diese Industrie ihr Wachstum exponentiell fortsetzen will, dann werden sie bis 2030 an die Grenzen dessen stoßen, was auf der Plattform demokratischer Politik befürwortbar ist. Demokratie und Rechtsstaat stören — also werden sie weggeräumt.”

Prognosen für den Stromverbrauch von Rechenzentren bis 2030: Faktor 3–10 nach wissenschaftlichen Schätzungen, Faktor 100 nach Industrieprognosen. Die Industrie weiß längst, dass Dekarbonisierungsziele ihr Wachstumshemmnis sind — und orientiert sich massiv auf fossile Energieträger sowie Investitionen in Fusionskraft.

Eigene Einschätzung

Das ist Mühlhoffs stärkste analytische Leistung: Er leitet den Autoritarismus nicht aus Ideologie ab, sondern aus Physik. Wachstum ist endlich begrenzt durch Ressourcen. Demokratie begrenzt Ressourcenzugriff. Also ist Demokratie strukturell hinderlich für exponentielles Wachstum. Das macht jeden Angriff auf demokratische Institutionen lesbar als Kapitalstrategie — nicht als politische Überzeugung.

Die KI-Ideologien: Ein Zwiebelschalen-Modell

▶ ~1:30:00

Mühlhoff analysiert die ideologischen Unterbauten der KI-Szene als Zwiebelschalen-Modell: Es gibt nicht die eine Ideologie, sondern mehrere Schichten — von öffentlich bekannten bis zu szeneinternen Weltbildern.

Äußere Schicht (öffentlich bekannt):

  • Technosolutionismus — Technologie löst alle gesellschaftlichen Probleme
  • Anthropomorphisierung — KI wird als denkendes, fühlendes Wesen dargestellt

Innere Schicht (szeneintern):

  • Singularität — ein Punkt in der Geschichte, nach dem technologische Entwicklung sich so rasant beschleunigt, dass die bisherigen Gesetze nicht mehr gelten (nach Ray Kurzweil). Metapher aus der Relativitätstheorie: ein Schwarzes Loch, bei dem andere Physik gilt.
  • Longtermismus (Nick Bostrom, Oxford) — eine „Ethik”, die besagt: KI wird irgendwann AGI ermöglichen, Menschen werden post-biologisch existieren und den Virgo-Galaxienhaufen besiedeln. In einer Milliarde Jahre könnten dort 10^38 Menschen leben — verglichen mit heute 10^10. Jede Sekunde Regulierung „kostet” 10^28 glückliche Menschenleben. Regulierung ist also moralisch unvertretbar.
  • Eugenik — in der KI-Szene offen vertreten: Selektion nach IQ, um „bessere” KI-Entwickler zu produzieren

„Das ist ein sehr wirkmächtiges Denken, das mit allem Ernst betrieben wird. Das Argument: was moralisch auf dem Spiel steht in Bezug auf die ultraferne Zukunft, ist so viel größer als heute — dass Klimawandel und die Lebensbedingungen unserer Kinder nur ein Fliegendreck in der Geschichte ist.”

Eigene Einschätzung

Longtermismus ist politisch gefährlich nicht trotz seiner Absurdität, sondern wegen seiner internen Kohärenz. Wenn man die Prämissen akzeptiert (AGI, post-biologische Existenz, Galaxienbesiedelung), folgt die Schlussfolgerung mathematisch. Die Stärke liegt darin, dass man nie an der Zukunft scheitern kann — sie liegt so weit weg, dass jede Widerlegung auf Lebzeiten unmöglich ist. Das ist eine erkenntnistheoretische Immunisierung. Mühlhoff nennt es „säkulare Eschatologie” — religiöse Erlösungssehnsüchte in Quantenzahlen verkleidet.

Faschismus 2.0: Ideologie, White Supremacy und Manosphere

▶ ~2:00:00

Mühlhoff zeigt die strukturelle Homologie zwischen klassischem Faschismus und KI-Ideologie:

Faschismus-Kernstruktur:

  1. Pessimistische Gegenwartsdiagnose — die Gesellschaft ist dekadent, krank, verfallen
  2. Naturalisierung von Hierarchien — Überlegenheit bestimmter Gruppen gilt als naturgegeben
  3. Erlösungsversprechen — nationale Erneuerung, Wiedergeburt, Stärke in der Zukunft
  4. Opfer bringen — Leid in der Gegenwart ist nötig, um die Utopie zu erreichen

Diese Struktur findet sich identisch in der Tech-Rechten: die Gesellschaft ist zu soft/dekadent, natürliche Hierarchien (Männer über Frauen, bestimmte Ethnien über andere) werden unterdrückt, die Singularität/AGI bringt Erlösung — und dafür müssen wir jetzt Opfer bringen.

„Das ganze bei Adolf — das kannst du in allen faschistischen Ideologien in irgendeiner Form sehen. Make America Great Again ist ganz simpel so ein Versprechen. Aber die KI-Ideologie unterfüttert das massiv mit einer technischen Realität.”

White Supremacy und Manosphere: Diese Heilsversprechen verfangen besonders bei frustrierter Männlichkeit: Männer, die das Gefühl haben, ihre „natürliche Stellung” verloren zu haben, finden in der KI-Ideologie eine Struktur, die ihre Frustration naturalisiert und eine Erlösung verspricht. Diversitätspolitik gilt als Ursache des Verfalls, AGI/Singularität als Erlösung — und Elon Musks Raketen als buchstäbliches Raumschiff für die Elite.

„Wen nimmt Elon Musk mit auf seinem Raumschiff zum Mars? Wessen Gehirne werden von Neuralink auf den USB-Stick hochgeladen? Natürlich nicht alle. Das wird nie gesagt — das ist der blinde Fleck aller dieser Ideologien.”

KI als Faschismus-Ermöglicher: Der entscheidende neue Zug: Ein Neofaschismus braucht keine menschlichen „Zahnräder” mehr. Die Vernichtungsmaschinerie des 20. Jahrhunderts bestand aus Menschen, die Befehle befolgten. KI ermöglicht die Auslagerung von „gruseligen Entscheidungen” an Algorithmen — niemand ist mehr verantwortlich, niemand hat befohlen, eine Maschine hat errechnet.

Eigene Einschätzung

Das ist der Satz, der mich am meisten beschäftigt: Wenn Menschenselektion durch Algorithmen passiert — wer zur Arbeit kommt, wer Kredit bekommt, wer als Sicherheitsrisiko gilt — dann wird die Banalität des Bösen digital. Hannah Arendt beschrieb Eichmann als Bürokraten ohne moralisches Urteil. Ein Algorithmus hat nicht mal die Möglichkeit zu urteilen. Das ist keine Metapher — das ist Systemarchitektur.

KI-Ethik und ihre Grenzen

▶ ~1:45:00

Mühlhoff grenzt sich scharf von der dominanten KI-Ethik ab, die er als industriell vereinnahmbar bezeichnet. Das Muster: Unternehmen stellen Ethiker*innen an, um Regulierung zu vermeiden — Ethik als White-Paper-Produktion statt als Machtkritik.

Sein eigener Ansatz in Osnabrück: machtbewusste Ethik der KI — eine Ethik, die nie an der Industrie „anstellungsfähig” ist, weil sie klar benennt, worum es geht: normative Machtverhältnisse.

„Regulierung wäre das schärfere Schwert, und das will man vermeiden. Also sagt man: Wir haben doch ein Ethik-White-Paper, wir stellen ganz viele Ethikerinnen an — wir sind auch voll ethisch.”*

AGI-Skepsis und struktureller Pessimismus

▶ ~2:30:00

Mühlhoffs Position zu AGI ist klar: AGI wird nicht kommen. Die KI-Blase wird in wenigen Jahren platzen — Pattern Recognition ist nicht menschliche Intelligenz, und man wird das erkennen.

Die eigentliche Frage ist eine andere: Wie viel Staatsmacht hat sich die Industrie bis dahin angeeignet? Wenn sie erst einmal das „Betriebssystem” des Staates geworden ist, kann man sie nicht mehr einfach scheitern lassen — man müsste sie retten, wie man 2008 die Banken retten musste.

„Ich bin nicht komplett pessimistisch, sonst würde ich das nicht machen. Aber es wird haarig werden. Wir werden noch sehr viel mehr Verfolgung, Diskriminierung, Ermordung, Klimawandel und dadurch sterbende Millionen erleben.”

Gegenstrategien (Europa):

  • Europäische Regulierung halten und ausbauen — DSGVO als Modell, das weltweit Wirkung hatte
  • Nicht Deregulierung als Antwort auf US-Wettbewerb — das nützt nur den großen Playern
  • Europäische Unternehmen fördern mit Regulierungsrahmen, nicht gegen ihn
  • Den Rechtsstaat als gemeinsamen Nenner verteidigen — quer zu Parteigrenzen

Eigene Einschätzung

Mühlhoffs Gegenstrategie ist bewusst defensiv: erst mal halten, was wir haben. Das wirkt kleiner als die Diagnose — aber vielleicht ist das ehrlicher als alle Utopien. Wer seinen Rechtsstaat verliert, verliert den Hebel für alles andere. Das ist kein revolutionäres Programm, sondern ein minimaler Anker in einer Welt, die gerade schnell schlechter wird. Ich finde darin eine Parallele zu Bonhoeffers „Theorie der Dummheit”: die erste Pflicht ist nicht Veränderung, sondern Verhinderung des Schlimmsten.

Zuschauerfragen — wo der Chat die Theorie konkretisiert

▶ ~2:45:00 — Im zweiten Teil übernimmt Hans Jessen die Fragen aus dem Live-Chat. Bei einer so dichten Theorie wie Mühlhoffs Synergie-These zwischen KI und Neuer Rechten wird besonders sichtbar, wie sie an konkreten Fällen tragen muss — an Schul-KI, an Klickarbeit im globalen Süden, an Palantir, am Zirkelschluss zwischen staatlichem Regulator und staatlicher KI-Anwendung.

Sind Trainingsdaten der materielle Urgrund von KI?

Hans Jessens Einstieg: Du sprichst vom „Trainingsdaten-Paradigma” — sind die Trainingsdaten der materielle Urgrund dessen, was wir heute als KI erleben?

Mühlhoffs Antwort: Ja, im Groben. Die KI-Technologie, die heute groß und erfolgreich geworden ist, folgt dem Paradigma des maschinellen Lernens — und das braucht gewaltige Datensätze. Die Idee ist alt (geht auf Turing zurück), aber technisch erst seit ~15 Jahren machbar: Rechenleistung und Speicher und vor allem die Daten selbst.

„Die bessere Frage ist nicht warum haben wir die Daten, sondern wo haben wir sie. Bei den Unternehmen, die seit den frühen 2000ern die Infrastruktur etabliert haben, über die wir heute alle Daten produzieren — Amazon, Google, Microsoft, Meta, Apple. Deswegen sind das auch die Unternehmen, die jetzt KI machen können.”

Eine strukturelle Pointe: KI-Macht ist eine Folge von Dateninfrastruktur-Eigentum — kein Zufall, kein Wettbewerbsergebnis.

Warum ist der Unterschied zwischen Wahrheit und Wahrscheinlichkeit so wichtig?

Wenn KI-Outputs sich „schlüssig und plausibel” lesen — warum ist es so entscheidend, dass sie auf Wahrscheinlichkeit (nicht Wahrheit) optimiert sind?

Mühlhoffs Antwort ist fundamental: KI-Systeme sind darauf optimiert, das auszugeben, was am wahrscheinlichsten gut ankommt. Beispiel Klappentext: Es gibt keine wahre Version — es gibt die, die am besten performt. ChatGPT wird über Nutzerfeedback trainiert (Daumen hoch, Nachfrage, Schweigen). Das System lernt, Antworten zu plappern, die am wahrscheinlichsten Zustimmung bringen. Wahrheit ist kein Kriterium — und kann es im Trainingsdesign auch gar nicht sein.

Was ist mit KI in der Medizin? Wäre das nicht legitim?

Eine Chat-Frage mit positivem Bezug zu KI: In der ärztlichen Diagnostik kann KI doch Risiken erkennen — was wäre schlecht daran?

Mühlhoff differenziert scharf: In der ärztlichen Diagnostik ja, dort sicher vielversprechend. Aber dasselbe Modell wandert weiter — „nicht die behandelnde Ärztin, sondern die Versicherung lässt es laufen, bevor sie den Vertrag abschließt. Oder der Arbeitgeber bei der Bewerbung.” Es gibt KI-Forschung zur Erkennung von Depressionen aus Stimmaufnahmen — anfangs medizinisch, dann in Bewerbungsgesprächen.

Klassisches Function Creep: Ein System wird für einen unproblematischen Zweck gebaut und mutiert in problematische Anwendungsfelder, „die meistens Bevölkerungsgruppen treffen, die groß sind und keine Stimme haben.”

„Ethik-Debatten müssen immer Verteilungsfragen stellen. Die Frage ist nicht: Was ist, wenn man einen Piloten mit Depression übersieht? Die größte Frage ist: Auf welche Bevölkerungsgruppen wird so ein System angewendet werden?”

Der oft bemühte Andreas-Lubitz-Fall (Germanwings 2015) ist die Rosine, die als Legitimation für eine viel breitere, schädlichere Anwendung herhält.

Wodurch unterscheidet sich KI-„Lernen” von menschlichem Lernen?

Mühlhoffs Antwort kommt über Timnit Gebrus Bild des stochastischen Papageien: Ein großes Sprachmodell ist ein automatisierter Papagei — er plappert nach, was er hundertmal gehört hat, kann es ein bisschen variieren. „Das ist nicht Lernen. Das ist wie wenn ich in der Schule den Stoff nicht verstehe, sondern nur performativ reproduziere — ein typischer Quatschkopf, der eigentlich nichts versteht, aber ganz gut quatschen kann.”

Auf Tilos Nachfrage, ob Imitations-Lernen nicht der Anfang jedes menschlichen Lernens sei: Mühlhoff weicht der Philosophie-des-Geistes-Debatte aus und antwortet empirisch — die Technikgeschichte zeigt, dass Extrapolation von einzelnen Erfolgen auf zukünftige durchgehend gescheitert ist. „Eine exponentielle Entwicklungskurve sieht an jedem Punkt gleich krass aus.” Sie verführt zur Projektion. Aus Erfolgsschritten in den nächsten zu schließen — falsch.

Wichtig: Auch politische Gegenentwürfe erben die Denkstrukturen der Gegenwart — „die 68er wollten sich gegen Unterdrückung auflehnen, aber…” Kritik muss Selbstkritik einschließen — Hinterfragen der eigenen Episteme.

Faschismus = KI + Old Right? Lenin lässt grüßen

Tilo wirft ein, Mühlhoffs Formel klinge wie Lenins berühmtes „Kommunismus ist die Herrschaft der Räte plus Elektrifizierung des ganzen Landes” — nur als negative Variante.

Mühlhoff präzisiert: Er rede nicht von einem Faschismus, der „da” sei, sondern von Faschismus als Prozess der Radikalisierung. Wenn die Synergien zwischen KI-Industrie und ultrarechter Ideologie gemeinsame Sache machen, kann eine gesellschaftliche Radikalisierung in Gang kommen — „technokratisch mechanisierte Menschen-Selektionsprozesse zum Kern unseres politischen Systems machen”, ideologisch legitimiert durch das Narrativ der dekadenten Gegenwart, die zur nationalen Überlegenheit hin „repariert” werden soll.

Was können künstliche neuronale Netze nicht lernen?

Eine konkrete philosophische Frage. Mühlhoffs Antwort ist überraschend:

„Das weiß ich nicht. Es tut mir leid. Es ist mir egal.”

Warum? Weil seine Wissenschaft nicht fragt, was KI wirklich kann — sondern was über KI behauptet wird und welche Macht-Wirkung diese Behauptung in der Gesellschaft entfaltet.

Beispiel: Eines seiner Forschungsprojekte untersucht KI-Tools, die die Hälfte der deutschen Bundesländer für die automatische Bewertung von Schüler-Aufsätzen eingekauft hat. Die Unternehmen behaupten, die KI könne das. Ein Hauptbefund: „Nur Texte, die Schüler:innen mit ChatGPT geschrieben haben, werden von diesen Tools am besten bewertet. Mit einem rein menschlich geschriebenen Text schaffst du keine Bestbewertung.”

„Es ist egal, ob die KI wirklich benoten kann. Sie wird damit verkauft. Und dadurch transformiert sich, was Benoten überhaupt heißt.”

Klickarbeit im globalen Süden — der unsichtbare Unterbau

Tilo erinnert an Mühlhoffs Buch-Kapitel zur digitalen Neokolonialismus-Dimension von KI: Hinter den großen Modellen stehen Klickarbeiter:innen, die Daten labeln. Mühlhoff weitet das aus auf Commercial Content Moderation: Bei Facebook/Instagram filtert KI ~80 % der harmlosen Inhalte aus — der Rest (Grenzfälle: Gewalt, Pornografie, Mord, Krieg) geht an menschliche Moderator:innen, meist im globalen Süden.

„Diese Menschen haben nach drei Monaten posttraumatische Belastungsstörung. Aber in den Sozialsystemen der Länder, wo das gemacht wird, kann man das einfach mit den Leuten machen — die kriegen keine Gesundheitsversorgung, die Firmen bezahlen sie auch nicht. Man beutet sie psychologisch und gesundheitlich aus.”

Verweis: Sarah Roberts hat das wissenschaftlich aufgearbeitet. Analog zu Kindern auf afrikanischen Müllhalden, die Kupfer aus Kabeln brennen — eine Ausbeutungsform, die in westlichen Industrienationen rechtlich undenkbar wäre.

Wo kann man Geisteswissenschaft + KI-Kritik studieren?

Praktische Studienberatung im Chat. Mühlhoffs Tipps: Kognitionswissenschaft (sein eigener Standort Osnabrück), allgemein das interdisziplinäre Feld Science and Technology Studies (STS) — zwischen Philosophie, Sozialwissenschaften und Informatik — oder AI Ethics. Pragmatischer Tipp: „Lies ein paar Bücher oder Papers, die Ansätze, die dir gefallen — guck, wo die Leute sind, an welcher Uni.”

Wie schaffe ich gesellschaftlichen Mehrwert mit KI, solange sie privatisiert ist?

Eine klassisch linke Frage aus dem Chat. Mühlhoff antwortet zweispurig:

  1. Vergesellschaftung — langfristig, weil KI eigentlich Infrastruktur ist.
  2. Bis dahin: harte Regulierung. Konkret an der Schwelle, wo KI staatliche Funktionen übernimmt (Bürokratieabbau, Polizei, Palantir). Predictive Policing ist „egal, ob europäisch oder amerikanisch, immer menschenverachtend und grundrechtsgefährdend.”

„Wir können nicht den Tech Pros überlassen, die eigenen Beschränkungen zu entwerfen. Wir brauchen Geisteswissenschaften, normative Wissenschaften, die diese Beschränkungen in den Diskurs und in die Politik einbringen — und eine Wahlbevölkerung, die das dann auch implementiert.”

Vergleich mit China — staatlicher Zugriff als Alternative?

Tilos Nachfrage: China hat doch staatliche Kontrolle. Mühlhoff bremst: „China hat keine demokratisch-rechtsstaatliche Tradition — das ist ganz schwierig, diese Systeme zu vergleichen.” Wichtiger noch: In China vertraut die Gesellschaft dem Staat und misstraut der Industrie. In den USA umgekehrt. Bevor man über Social Credit Systems urteilt, muss man diese Valenz-Differenzen verstehen. Was nicht heißt, dass China kein totalitärer Staat ist, der politische Opponenten unterdrückt — „das sollte skandalisiert werden”. Aber der reflexhafte China-Vergleich verbiegt die eigene Debatte.

Gibt es neutrale Datensätze?

Frage nach Open-Source-KI auf „neutralen” Daten. Mühlhoffs Antwort ist eindeutig:

„Es gibt keine neutralen Daten. Alle Daten sind ausgewählt, geschöpft, kuratiert aus einer bestimmten Perspektive. Die Idee, Daten seien objektiv, ist eines der zentralen Stücke der gegenwärtigen Technikideologie.”

Stichwort Automation Bias: Menschen glauben Computer-Entscheidungen eher als Mensch-Entscheidungen, weil sie „auf Datengrundlage” erscheinen. Klassisches Zitat eines Ex-Google-Mitarbeiters: „All data is credit data.” Alle Daten sind potenziell Credit-Scoring-Daten. Es gibt keine Gott-Perspektive auf Welt — also auch keine Daten, die aus dem Nichts kommen.

Brauchen wir KI nicht zur Komplexitätsbewältigung?

Eine in Tech-Debatten häufige Annahme. Mühlhoffs Antwort: „Nö. Easy-Argument, Shortcut.”

Sein Beispiel: Nach ChatGPT 2023 wurden massiv Software-Entwickler:innen entlassen. „Jetzt werden die wieder eingestellt — weil die KI so viel AI-Slop produziert hat, dass jetzt erstmal Menschen den Shit aufräumen müssen.” Chaotischer, schlecht dokumentierter Code, Folge-Fehler, die niemand mehr beherrscht — die KI macht Komplexität nicht beherrschbar, sondern vermehrt sie.

Tilo schließt mit Goethes Zauberlehrling (1797): „Die Geister, die ich rief…” Mühlhoff präzisiert: Bei Goethe kommt der Meister zurück. Hier gibt es keinen Meister.

Kann man KI nicht für Demokratie nutzen?

Eine wohlwollende Chat-Frage. Mühlhoff dreht sie um: „Hätte gerne kurz ein Beispiel.” Tilo improvisiert: Elterninitiativen suchen nach Erfolgsbeispielen gegen verkommende Schulen. Mühlhoffs zwei Antworten:

  1. „Warum googelst du das jetzt nicht? Google ist auch KI, aber wenigstens nicht LLM. Bei ChatGPT ist das Halluzinations-Risiko zu groß, und der Ressourcenverbrauch zu hoch.”
  2. Wenn es systematisch wird, „wollt ihr OpenAI wirklich so viel Macht geben, das Betriebssystem aller Elterninitiativen zu werden?”

Die zentrale Pointe: „Man kann diese KI nicht losgelöst vom Unternehmen besprechen, von dem man sie kauft.”

Welche KI nutzt du selbst?

Eine sympathische Chat-Frage. Mühlhoffs ehrliche Antwort: Voice-to-Text auf dem Smartphone. Er mag Soft-Keyboards nicht, will keinem Sprachnachrichten schicken („verlangt dem Gegenüber zu viel ab”). „Übrigens kann das Ding nach acht Jahren immer noch nicht die Namen meiner Kinder in der richtigen Rechtschreibung.”

Sein Prinzip: KI als Werkzeug benutzen — Zweck klar, Eignung geprüft — ist völlig legitim. Etwas anderes ist es, als Gesellschaft in eine schleichende KI-Abhängigkeit zu rutschen, in der immer mehr Zwecke unreflektiert auf KI verlagert werden.

Werden Wahlen durch KI manipuliert?

Mühlhoff differenziert: Donald Trump wurde mit breiter Mehrheit gewählt — das nicht klein zu reden. Aber: In sozialen Medien wird massiv politische Desinformation betrieben, die Wahlen beeinflusst. „Das darf man nicht unterschätzen — das muss man regulieren, dafür haben wir in der EU eigentlich den Digital Services Act.” Ein systemisches Risiko.

Hochmut kommt vor dem Fall — können wir uns nicht darauf verlassen?

Mühlhoffs Antwort ist düster:

„Ja, der Fall wird kommen. Das Problem ist: Diese Akteure werden sich bis dahin so sehr mit dem Kern unserer demokratischen Rechtsstaaten verbinden, dass sie dieselben mit hineinreißen bei ihrem Fall.”

Sein Begriff dafür: „AI goes state” — KI hat aufgehört, eine Ziviltechnologie zu sein. Sie übernimmt Staatsmacht, um sich unersetzbar zu machen — too big to fail, too important to fail. Wenn sie fällt, fallen die Staaten mit. Eine eigene Dystopie.

Der Zirkelschluss: Staat reguliert, was er selber nutzt

Eine pointierte Frage am Ende. Mühlhoff verweist auf die Rechtswissenschaftlerin Hannah Ruschemeier (im Buch zitiert): Genau diesen Interessenkonflikt diskutiert er explizit — „Staaten wollen KI benutzen und sind gleichzeitig diejenigen, die KI regulieren und ihre Übermacht einhegen sollten.”

Seine Konsequenz: „Der Staat muss sich zurückhalten, privatwirtschaftliche KI-Technologie zu benutzen. Die Regulierung muss zuerst erfolgen — die Einhegung der Macht. Erst danach kann man diese Services im Rahmen der Regulierung benutzen. Wenn man zuerst die Services benutzt und dann meint, irgendwann noch regulieren zu können — daran glaube ich nicht.”

Macht man im Rechtsstaat Kompromisse?

Hans Jessen widerspricht abschließend einer Mühlhoff-Formulierung aus dem ersten Teil. Mühlhoff korrigiert: Innerhalb des parteipolitischen Spektrums natürlich — demokratische Politik ist Kompromissbildung. Aber: „Wenn es um rechtsstaatliche Prinzipien geht, gibt es keine Kompromissbereitschaft. Der demokratische Rechtsstaat ist der Rahmen, innerhalb dessen Politik stattfindet. Den anzuzweifeln, ist verfassungsfeindlich.”

Hans schließt mit dem Verfassungsväter-Satz: „Keine Freiheit für die Feinde der Freiheit.”

Weitergedacht

Wenn Mühlhoff sagt „AI goes state — und wenn sie fällt, fällt der Staat mit” — was bedeutet das für die liberale Hoffnung auf Selbstkorrektur der Technologie durch Märkte? Ist die Entkopplung von KI und Staat schon möglich, oder hat sich der Zeitpunkt für sanfte Lösungen bereits geschlossen?

Weiterführende Quellen

Aus dem Gespräch:

  • The Authoritarian Stack — Francesca Brias interaktive Datenplattform; Mühlhoffs Hauptreferenz für die Desouveränisierungs-These

Zur Person:

Verbindungen

→ Yuval Noah Harari — Das biologische Drama unserer Spezies

Hararis „KI ist Agent, kein Werkzeug“ und die Rechtsperson-Frage bekommen hier die politökonomische Erdung: Mühlhoff zeigt, wie sich reale Souveränität längst an autonome Systeme und ihre Konzerne verschiebt — die Macht liegt faktisch dort, bevor wir sie zusprechen.

→ Grenzgaenger Studios — Wie Peter Thiel den Westen umbauen will

Grenzgänger Studios dokumentiert Thiels Gesamtbiografie als konkretes Fallbeispiel für Mühlhoffs Desouveränisierungs-These: CIA-Startfinanzierung → Palantir → DOGE-Datenzugriff → ObjectionAI. Was Mühlhoff als strukturelle Logik beschreibt (exponentielles KI-Wachstum erzwingt antidemokratische Governance), hat Thiel Schritt für Schritt realisiert.

→ Kurz und Goerlitz — Palantir und die deutsche Polizei

Kurz und Görlitz liefern den deutschen Rechtsfall zu Mühlhoffs Desouveränisierungsthese: Palantir übernimmt staatliche Kernfunktionen (Polizei, Gefahrenabwehr) ohne demokratische Kontrolle — der Vendor Lock-in und das Scheitern der Gesetze an Verfassungsstandards ist die empirische Verifikation seiner strukturellen Kritik.

→ rp26 — KIs unsichtbare Arbeitskraefte

Kloiber und Kinyua liefern das menschliche Fundament von Mühlhoffs Kolonialismus-These: Die 150–430 Mio. Data Workers sind nicht Randnotiz, sondern die Rohstoff-Basis des KI-Regimes — Extraktion ohne Kompensation, Süd-Nord-Wertschöpfung in Reinform.

→ Holy Koolaid — Amerikanische Propaganda 7 Formen

Holy Koolaid beschreibt das historische Muster des Imperial Overstretch; Mühlhoff zeigt den nächsten Schritt: wenn staatliche Infrastruktur privatisiert und digitalisiert ist, braucht ein kollabierendes Imperium keine Propaganda mehr — Verhaltenssteuerung ist direkt in die Plattformarchitektur eingebaut.

→ Jan-Keno Janssen — Nvidia Tokenextremismus

Janssens c’t-3003-Analyse der Computex 2026 ist Mühlhoffs These in der konkreten Produktrealität: Jensen Huangs Tokenextemismus — Wert eines Entwicklers gemessen in Tokenkosten — ist der exakte Mechanismus, den Mühlhoff als Umverteilung von unten nach oben bei wenigen oligopolistischen Akteuren beschreibt. Der Amazon-Kirorank-Incident (Tokenmaxxing) ist der lebendige Beweis, wie perverse Anreize entstehen wenn Infrastruktur-Anbieter das Kennzahlsystem definieren.

→ Neitzel und Iltisberger — Hype Is a System

Neitzel/Iltisberger formalisieren die Systemstruktur des KI-Hypes (3 Subsysteme, 4 Merkmale, 6 Akteurs-Gruppen), die Mühlhoff politisch analysiert: ihr Modell ist die analytische Architektur hinter dem, was er als “Orchester vieler Akteure” beschreibt. Mühlhoff fragt, wer die Macht gewinnt — Neitzel/Iltisberger erklären, wie das System das möglich macht.

→ Byung-Chul Han — Das Glück kommt durch die Hände

Die philosophische Miniatur zur strukturellen Analyse: Hans „Vieh, das den Zaun nicht als Gefängnis erkennt, weil dort das Futter ist” beschreibt dieselbe Herrschaft-als-Bequemlichkeit, deren politische Ökonomie und autoritären Kipppunkt Mühlhoff ausbuchstabiert. Beide trennen streng Werkzeug von Herrschaftsform — auch bei der KI.

  • Sternstunde Philosophie — Droht ein neuer Faschismus? — Mühlhoffs drei Kriterien werden in der SRF-Sendung als Referenzdefinition aufgerufen — und Redecker kritisiert das Technologie-Kriterium als „zu breit“: auch linke technokratische Regime nutzen Technik als Machtmittel, ohne faschistisch zu sein.

→ Dahlmann und Kuhle — Senkt KI die Hemmschwelle zum Krieg

Mühlhoffs Verantwortungsdiffusion, ins Militärische verlängert: Die re:publica-Debatte zeigt am Beispiel Kundus, dass ohne menschliche Entscheidung kein Minister mehr zurücktreten kann — die demokratische Rechenschaft selbst entkoppelt sich.

→ Catrin Misselhorn — Grundfragen der Maschinenethik

Misselhorn liefert die ethische Fassung von Mühlhoffs Machtanalyse: Ihr dritter Grundsatz (substanzielle menschliche Verantwortung, überprüfbar und anfechtbar) ist die normative Antwort auf die prädiktiven Verwaltungssysteme, deren Verantwortungsdiffusion er beschreibt.

Backlinks