Quelle: Inside AI’s Human Assembly Line – re:publica 26
Wer spricht?
Julia Kloiber — Digital-Rights-Aktivistin und Gründerin von SUPERRR Lab (Berlin). Kämpft für feministische Technologiepolitik, digitale Gerechtigkeit und Arbeitnehmerrechte von Data Workers. Früher Mozilla Foundation, Ashoka, Open Knowledge Foundation; Co-Initiatorin des Prototype Fund und Code for Germany.
Joan Kinyua — Gründungspräsidentin der Data Labelers Association Kenya. Seit 2017 selbst Data Annotatorin, hat 8 Jahre unsichtbare KI-Arbeit von Kenia aus erledigt — Straßen in Berlin kartiert, Röntgenaufnahmen bewertet, verstörendste Inhalte aus Trainingsdaten gefiltert. Die Association hat über 1.000 Mitglieder und sitzt heute im Bundestag mit am Tisch.
Ephantus Kanyugi — Vizepräsident der Data Labelers Association, sollte gemeinsam mit Joan sprechen. Ihm wurde das Visum für Deutschland verweigert. Dieser Umstand eröffnet den Talk — und ist kein Zufall.
Das Visum als erste Lektion
Der Vortrag beginnt mit einer Entschuldigung und einer Klage. Ephantus Kanyugi, Vizepräsident der Data Labelers Association Kenya und erfahrener Data Worker, ist nicht da. Er sollte da sein. Er hat sein halbes Leben damit verbracht, die Infrastruktur dieser Welt zu trainieren — Berlins Straßen, Europas Verkehrsschilder, Gesichtserkennung für Flughäfen, an denen er selbst nie landen darf. Und trotzdem: kein Visum.
Julia Kloiber sagt es direkt in die Stille des Saals:
„Es wird zunehmend schwieriger für Aktivisten aus Afrika, uns hier in Europa zu besuchen.”
Der Satz ist eine stille Sprengladung. Er enthält die gesamte Struktur des Problems in kondensierter Form: Die Arbeit der Menschen aus dem Globalen Süden ist willkommen. Ihre Körper, ihre Stimmen, ihre Anwesenheit — nicht. KI-Systeme lernen auf Kosten von Millionen unsichtbarer Arbeitskräfte in Nigeria, Kenia, Venezuela, auf den Philippinen. Aber wenn einer von ihnen auf eine Bühne in Berlin will, um darüber zu sprechen: Formular abgelehnt.
Es gibt keine elegantere Einleitung zu diesem Thema. Der Talk beginnt mit dem Beweis seiner eigenen Hauptthese: Die unsichtbare Arbeit wird sichtbar, aber die Menschen dahinter bleiben ausgesperrt.
Weitergedacht
Wenn Europa Data-Worker-Arbeit braucht, aber Data-Worker-Stimmen nicht will — was sagt das über die Art der gewünschten Beziehung aus?
Die unsichtbare Fabrik
Julia Kloiber erklärt zunächst das System — für ein Publikum, das täglich KI nutzt und dabei selten fragt, wer eigentlich dahintersteckt. Die Antwort: eine globale, fragmentierte Arbeitskraft aus 150 bis 430 Millionen Menschen (Weltbank-Schätzung), die täglich mit Augen, Ohren und Urteilsvermögen das tun, was Maschinen noch nicht alleine können.
Data Workers annotieren Bilder. Sie moderieren Inhalte. Sie schreiben Prompts. Sie beschriften Krebsscans. Sie beurteilen autonomes Fahren. Und sie tun das alles in einem System, das strukturell auf Unsichtbarkeit ausgelegt ist.
Das Schlüsselwort ist Subcontracting. Kein großes Tech-Unternehmen beschäftigt Data Workers direkt. Die Kette läuft: Big Tech → Outsourcing-Unternehmen → Subunternehmer → Plattform → Freelancer zu Hause. Jede Stufe diluted die Verantwortung. Am Ende sitzt Joan Kinyua in Nairobi, betreibt ihre eigene Hardware, zahlt ihren eigenen Strom, hat kein Arbeitsrecht, keinen Arbeitsvertrag, keine Krankenversicherung — und trägt zur Infrastruktur von Unternehmen mit Billionen-Dollar-Marktkapitalisierung bei.
„Diese Unsichtbarkeit ist kein Zufall. Sie ist by Design.”
Die Bilder in den Medien zeigen Data Workers als anonyme Menge — Gesichter im Dunkeln, angestrahlt von Bildschirmen. Kloiber benennt die politische Funktion dieser Darstellung: Es ist schwerer, Empathie für eine gesichtslose Masse zu entwickeln als für einen Menschen. Deshalb sprechen Joan und ihre Kolleginnen heute — often at great personal risk.
Joans Büro: Zuhause, 18 Stunden, allein
Kloiber fragt nach dem Arbeitsalltag. Die Antwort ist nüchtern und erschütternd:
„Ich arbeitete gerade 18 Stunden am Stück — und das ergab noch keinen Sinn. Dann musste ich auf 20 Stunden ausdehnen, um vielleicht 20 Dollar in der Woche zu verdienen.”
Der Satz muss zweimal gelesen werden. 18 bis 20 Stunden täglich. 20 Dollar wöchentlich. Keine feste Zuteilung — man wartet auf Tasks. Alle Laptops haben Auto-Refresh-Extensions installiert. Die Arbeit kommt in Bruchteilen: 0,00-irgendwas für eine Aufgabe, 0,00-irgendwas für eine andere, die man vor sechs Monaten erledigt hat. Joans Einkommen hängt von der Akkumulierung eines gigantischen Backlogs ab, von dem nur ein Bruchteil akzeptiert und bezahlt wird.
Das Modell ist konsequent: Kein Festlohn, kein Stundenlohn, kein Mindestsatz. Pay per task, accepted or rejected. Die Plattformen können Tasks nach Belieben ablehnen — ohne Begründung, ohne Einspruchsmöglichkeit. Das schafft permanenten psychischen Druck.
Weitergedacht
„Komfort des eigenen Heims” — so beschreibt Joan die Freelance-Situation. Wer profitiert davon, wenn Ausbeutung als Flexibilität vermarktet wird?
Das Bild des Gig-Economy-„Freiheit” ist hier auf seine härteste Form reduziert: Joan arbeitet 18-20 Stunden auf eigener Hardware, mit eigenem WLAN, eigenem Strom, ohne Kollegen, ohne Support, ohne Verträge — und ernährt die Modelle, die bald ihren Job übernehmen sollen.
Was die Augen der KI gesehen haben
Der Inhalt der Arbeit ist das Dunkelste, was dieser Talk enthält. Joan beschreibt drei Projekttypen, die ihr Arbeitsalltag waren:
Medizinische Scans: Röntgenaufnahmen, Scans, die sie nach bestimmten Anomalien bewerten soll — ohne Medizinstudium, ohne ethische Rahmung, ohne zu wissen, wo die Daten landen. Sie sagt:
„In Zukunft geht vielleicht jemand aus meiner Familie ins Krankenhaus und macht einen Scan. Und ich habe Angst, weil ich etwas gelernt habe über die Funktionsweise dieser Dinge — obwohl ich keine Medizin studiert habe.”
Autopsie-KI: Bilder von Leichen, mit der Aufgabe, die Todesursache zu klassifizieren. Schusswunde? Schlag auf den Hinterkopf? Joan kündigt es mit einer Triggerwarnung an: Sie habe nicht erwartet, jemals auf einer Bühne so etwas beschreiben zu müssen.
LLM-Training: Prompts schreiben, die das Modell auf extremste Themen trainieren. Die Beispiele, die Joan nennt, lassen im Saal Stille entstehen.
Das ist kein Einzelfall. Es ist eine Branche. Und das Material für diese „Abwehr”-Filterung muss von Menschen gesehen, verarbeitet, klassifiziert werden — bevor das Modell es nie wieder zeigen soll.
Weitergedacht
Wenn Inhalt, der Menschen traumatisiert, aus KI-Systemen herausgefiltert werden soll — wer trägt die ethische Verantwortung für den Menschen, der ihn entfernt?
PTSD als Berufsrisiko
Joan spricht nur kurz über ihre eigene psychische Gesundheit. Man merkt, dass sie es nicht gerne tut — nicht aus Scham, sondern weil das Erinnern schmerzt:
„Ich habe anderthalb Jahre lang sehr schlecht abgeschnitten. Soziale Angst, Panikattacken, jede Art von psychischer Beeinträchtigung, die du dir vorstellen kannst.”
Sie hatte ein kleines Kind. Gleichzeitig verarbeitete sie Inhalte, die zeigten, was Menschen einander antun können. Sie fragte sich, warum sie das ihrem eigenen Kind antut — indirekt, durch ihre Mitarbeit an dieser Infrastruktur.
Kloiber nennt die Zahlen: 140 kenianische Facebook-Content-Moderatoren wurden im Dezember 2024 am Kenyatta Hospital getestet. Alle 140 wurden positiv auf PTSD diagnostiziert — in unterschiedlicher Ausprägung, aber jeder Einzelne.
Das „Mental-Health-Support”-Angebot der Unternehmen ist dabei selbst Teil des Problems: Wellness Coaches, keine Psychiater. Und wer zu ihnen geht, riskiert Retaliation — weil die Coaches Management-zugehörig sind. Und wer das Projekt benennt, auf dem er arbeitet, verletzt NDAs. Das System ist vollständig geschlossen: Kein Weg raus, kein Weg, um Hilfe zu bitten.
Die Meta-Glasses und die Grenze des Privaten
Ein schwedischer Artikel dokumentiert, was Meta Ray-Ban-Nutzer aufnehmen — und was anschließend von Data Workers gesehen, kontextualisiert und für KI-Training verwendet wird:
„Menschen auf Toiletten. Intime Momente. Finanzinformationen. Es gibt keine Filter, keine Grenzen — weil der Träger der Brille nicht filtert. Alles, was sichtbar ist, wird aufgenommen.”
Joan war Teil der journalistischen Recherche zu diesem Thema. Als der Artikel erschien und Meta um Stellungnahme gebeten wurde, folgte sofortige Vergeltung: Die Firma rief bei den Outsourcing-Unternehmen in Kenia an und fragte, wer gesprochen hatte. CCTV-Überwachung wurde angekündigt. 1.100 Mitarbeiter — mehr als eine Statistik nennt — wurden im Anschluss entlassen.
Meta verließ Kenya als Konsequenz. Joan beschreibt es ohne Bitterkeit, aber mit Klarheit: Sie zogen in eine Jurisdiktion mit noch schwächeren Schutzgesetzen. Oder auf Online-Plattformen, wo Tracking schwerer ist. Die Kapitallogik ist eindeutig: Geht das Hemmnis weg, geht das Kapital weiter. Das Hemmnis war die Stimme der Arbeiterinnen.
Die Data Labelers Association: Unsichtbare werden sichtbar
Joan hat zusammen mit Ephantus Kanyugi 2024 die Data Labelers Association Kenya gegründet. Über 1.000 Mitglieder. Ihre Kernbotschaft an Konferenzpublikum und Politik:
„KI ist keine Magie. Es sind Menschen, deren Gesichter diese Arbeit tun. Für die Selbstfahrenden Autos auf euren Straßen gibt es Menschen, die diesem System beigebracht haben, was es sehen soll.”
Sie nennt drei Forderungen an Politiker — besonders europäische:
- Inklusive Policies: Arbeitnehmer an den Tisch holen, wenn KI-Regulierung gemacht wird. Nicht über sie, sondern mit ihnen.
- Konsequenter Verbraucherschutz: Die EU AI Act und verwandte Gesetze nicht abschwächen zugunsten der Big Tech.
- Awareness: Die breite Öffentlichkeit weiß nicht, dass es diese Arbeit gibt. Das muss sich ändern.
Die Association kämpft auch gegen das Framing als „Clickwork”. Joan und ihre Kollegen haben Universitätsabschlüsse in Wirtschaft, Rechtswissenschaft, Aktuarwissenschaft. Das Label „uneducated click workers” ist politisch, nicht deskriptiv — es dient dazu, Arbeitnehmerrechte nicht ernst nehmen zu müssen.
Zuschauerfragen
Frage 1 — Körperliche Konsequenzen: Was macht nicht nur der Inhalt, sondern was machen 18 Stunden täglich vor dem Bildschirm mit dem Körper?
Joan: Beinschwellungen, Rückenschmerzen, Handgelenkschmerzen. Karpaltunnel-OPs. Manche haben Sehprobleme entwickelt, weil Annotationen auf 1.000 % Zoom durchgeführt werden müssen. Die Arbeit zerstört Augen, Rücken, Handgelenke — und das soziale Leben: „95 % der Zeit arbeite ich. Ich habe keine Freunde, keine Zeit für anderes.”
Frage 2 — Wäre KI noch profitabel bei Mindestlohn?
Julia Kloibers Antwort ist scharf: Die Unternehmen haben Milliarden investiert und fahren bisher nur einstellige Milliarden-Erträge ein. Es ist noch keine profitable Branche in klassischem Sinne. Joan antwortet pragmatischer:
„Ich denke, es geht nicht mehr um Profit — es geht darum, das Richtige zu tun. Behandle Menschen so, wie du behandelt werden wolltest, wenn die Rollen umgekehrt wären.”
Faktencheck
Bestätigt — PTSD-Studie an kenianischen Content-Moderatoren
140 kenianische Facebook-Content-Moderatoren wurden am Kenyatta National Hospital getestet und alle 140 zeigten PTSD-Symptome. Quelle: The Guardian, Dezember 2024
Bestätigt — 150 bis 430 Millionen Data Workers weltweit
Die Weltbank schätzt die Zahl der Data Workers global auf 150 bis 430 Millionen. Quelle: World Bank Digital Development Blog, 2023
Bestätigt — Massenkündigung nach Meta-Recherche in Kenya
Nach der Kooperation kenianischer Data Workers mit schwedischen Journalisten (zur Meta Ray-Ban-Recherche) wurden über 1.100 Mitarbeiter von Outsourcing-Unternehmen in Kenya entlassen. Quelle: Datalabelers.org Pressroom, April 2026
Vereinfacht — Subcontracting-Kette vollständig opak
Die Aussage, dass die Lieferketten komplett undurchsichtig seien, ist im Grundsatz korrekt, aber in der EU zunehmend durch den AI Act und die Supply Chain Due Diligence Directive adressiert. Die Durchsetzung ist bisher jedoch schwach. Keine unabhängige Quelle gefunden, die vollständige Transparenz bestätigt.
Vereinfacht — KI noch nicht profitabel
Julia Kloibers Hinweis, dass die großen AI-Unternehmen „bisher nur einstellige Milliarden-Erträge” erzielen, ist für bestimmte Unternehmen wie OpenAI zutreffend (geschätzter Umsatz 2025: ~4 Mrd., Verluste ~5 Mrd.). Google DeepMind und Microsoft AI dagegen sind bereits profitabel. Quelle: Bloomberg, Februar 2025
Weiterführende Quellen
Aus der Video-Beschreibung:
- re:publica Session-Seite — Weitere Informationen und Speaker-Profile
Im Talk erwähnte Quellen und Recherchen:
- Guardian: All 140 Kenyan Facebook moderators tested showed signs of PTSD — Dezember 2024
- Darkblood / Schwedischer Artikel zu Meta Ray-Ban-Glasses — investigative Recherche, April 2026
- Data Labelers Association Kenya — Joan Kinyuas Organisation
- SUPERRR Lab — Julia Kloibers Organisation
- World Bank: Digital Jobs & Data Annotation — Zahlen zur globalen Data-Worker-Population
- BMZ Digital: Joan Kinyua Interview — Hintergrund zu ihrer Arbeit
Verbindungen
→ Rainer Mühlhoff — Künstliche Intelligenz und der neue Faschismus
Mühlhoffs Kolonialismus-Analogie — Extraktion ohne Kompensation, Süd-Nord-Wertschöpfung — ist die theoretische Rahmung genau dessen, was Kloiber und Kinyua empirisch zeigen: Data Workers sind kein Randproblem, sondern die Rohstoff-Basis des KI-Regimes. Mühlhoff liefert die Diagnose (strukturelle Kontinuität), diese Note das Gesicht (150–430 Mio. Menschen).
→ Yanis Varoufakis — Technofeudalism
Varoufakis’ These, dass Big Tech weniger als 1 % als Löhne zahlt, trifft sich mit 20 $/Woche für Data Workers: Die Cloud-Feudalherren akkumulieren Tribut, die unsichtbare Arbeit darunter ist systemisch. Varoufakis nennt es Cloud Rent — diese Note zeigt, wie die Extraktionskette bis zum Globalen Süden reicht.
→ Mbembe — The Earthly Community
Mbembes Kern: Koloniale Logiken überführen sich in neue Technologiestrukturen, das Globale Süd-Nord-Gefälle wird digital fortgeschrieben. Die Visumsverweigering für Ephantus Kanyugi ist bei Mbembe strukturell lesbar: Deine Arbeit gehört uns — deine Stimme nicht.
→ Francesca Bria — The Authoritarian Stack
Brias „Personnel Pipeline” und die Unternehmens-Militär-Verflechtung ergänzen, was Kloiber „Invisibility by Design” nennt: Wer an Subcontracting-Ketten nicht interessiert ist, baut Systeme, in denen Verantwortung strukturell verschwindet. Bria kartiert die Machtarchitektur oben — diese Note zeigt, wen sie unten trifft.
→ Morpheus - Whistleblower mundtot machen
Die Massenkündigung von 1.100+ Arbeitern nach investigativem Journalismus über Meta ist strukturell dieselbe Logik: Wer Einblick gibt oder aufdeckt, wird eliminiert. Retaliation als systematisches Instrument — dort gegen Journalisten, hier gegen Data Workers.
→ NANO Talk — Arbeiten wir zu wenig oder voellig falsch
„So eine KI fällt ja nicht vom Himmel” — dahinter stehen spezifische Produktionsverhältnisse. Diese Note liefert genau das konkrete Hinter-dem-Himmel: 150–430 Mio. Menschen, 18–20 Stunden/Tag, $20/Woche. Beide Notes zusammen: Diagnose (NANO) plus Evidenz (rp26).
→ Anna-Verena Nosthoff — Kybernetik und die Macht der Tech-Eliten (scobel)
Nosthoff zeigt, wie die kybernetische Logik Menschen als optimierbare Inputs klassifiziert. Das „Clickwork”-Framing ist genau das: hochqualifizierte Arbeit wird durch Kategorisierung als mechanische Input-Tätigkeit unsichtbar gemacht — das kybernetische Deutungsmuster in seiner reinsten Anwendung.
→ rp26 — Stresstest fuer die Demokratie Ostdeutschland
Beide Notes entstammen der re:publica 26 und kreisen um Machtasymmetrien — dort zwischen ostdeutscher Bevölkerung und westdeutschen Eliten, hier zwischen Global-South-Arbeitskräften und Silicon-Valley-Konzernen. Die strukturelle Frage ist dieselbe: Wessen Erfahrung zählt in demokratischen und wirtschaftlichen Entscheidungen?
→ Büttner & Kaufmann — KI-Souveränität in Europa
Ebenfalls re:publica 26 — aber aus der entgegengesetzten Perspektive: Büttner und Kaufmann diskutieren KI-Souveränität aus Unternehmersicht, während diese Note zeigt, welche menschlichen Kosten der EU AI Act durch seine Schutzlücken produziert. Beide beklagen dasselbe Regulierungsversagen — aus völlig verschiedenen Richtungen.
Weiterdenken
Was Sokrates vielleicht gefragt hätte
- Wenn KI-Systeme nur möglich sind, weil Menschen Traumata akkumulieren — kann man ein Produkt, das auf diesem Fundament steht, als Fortschritt bezeichnen?
- Joan sagt: „Behandle Menschen so, wie du behandelt werden wolltest.” — Aber was, wenn die Architektur des Systems sicherstellt, dass man nie in Joans Position kommen kann? Ist Empathie dann Lösung oder Ablenkung?
- Ephantus durfte nicht kommen, weil er kein Visum bekam. Joans Arbeit durfte nach Europa — ihre Stimme fast nicht. Wie können wir von „globaler KI-Governance” sprechen, wenn die betroffensten Menschen aus dem Raum ausgesperrt bleiben?
- Die Data Labelers Association kämpft für Anerkennung im bestehenden System. Ist das der richtige Kampf — oder sollte die Forderung sein, das System grundlegend umzustrukturieren?
- → Vergleich mit Byung-Chul Hans Transparenzgesellschaft: Wenn alles sichtbar werden soll — wessen Unsichtbarkeit wird als normal akzeptiert?