Was macht die KI aus unserem Denken?

🎨

René Magritte — glatte, flache Ölmalerei ohne sichtbaren Pinselstrich, kühles Tageslicht, Grau, Himmelblau und warmes Holz. Ein Mann mit Melone steht mit dem Rücken zu uns vor einem goldgerahmten Spiegel, und der Spiegel zeigt ihm nicht sein Gesicht, sondern noch einmal seinen Hinterkopf, wie in Magrittes La reproduction interdite (1937). Darunter schreibt ein Füller von selbst auf ein Blatt, und vor dem Tisch steht ein leerer Stuhl, über dem ein Mantel hängt. Magritte hat ein Leben lang Bilder gemalt, die genau so aussehen, wie man es erwartet, und darin nicht stimmen; das ist die Erfahrung mit einer Maschine, die einem die eigene Sicht zurückgibt, für einen schreibt und deren Platz leer bleibt, wenn jemand Rechenschaft geben soll. Eine Pseudosignatur in der rechten unteren Ecke wurde übermalt.

Prompt: Surrealist oil painting in the style of René Magritte, wide horizontal banner, smooth flat brushwork with no visible texture, calm clear daylight, muted blue sky, grey stone and warm brown wood. In a quiet room a man in a dark overcoat and black bowler hat, seen only from behind, stands before a large gilded mirror on the wall; the mirror does not show his face but shows the back of his own head again, exactly as he stands. On the marble console below the mirror a fountain pen writes by itself on a sheet of paper, no hand holding it. To the left, beside a tall window open to a sky with white clouds, stands an empty wooden chair with a coat draped over its back and nobody sitting in it. Still, enigmatic, precise. No visible faces, no text, no letters, no numbers, no signature, no monogram.

---

Verlernen wir das Denken, wenn wir es auslagern?

Menschen geben Denkarbeit seit jeher an Dinge ab, an den Knoten im Taschentuch, den Kalender, den Taschenrechner. Die Kognitionspsychologie nennt das cognitive offloading und beschreibt es als Abwägung: Man lagert aus, wenn man dem eigenen Kopf nicht traut, und behält dann schlechter, was man ausgelagert hat (Risko & Gilbert 2016, doi:10.1016/j.tics.2016.07.002, Übersichtsarbeit). Der Preis hat eine Kehrseite. Wer eine erste Wortliste auf dem Rechner speichern durfte, merkte sich eine zweite besser (Storm & Stone 2015, doi:10.1177/0956797614559285); Entlastung schafft Platz. Der berühmteste Beleg für die Gegenthese, der „Google-Effekt“, nach dem wir uns nicht merken, was wir jederzeit finden können (Sparrow et al. 2011, doi:10.1126/science.1207745), bestand eine große Wiederholungsstudie nicht (Camerer et al. 2018, doi:10.1038/s41562-018-0399-z).

Für Sprachmodelle ist die Beleglage dünner, als die Schlagzeilen klingen. Der Begriff der „kognitiven Schulden“ stammt aus einem Preprint des MIT Media Lab mit 54 Studierenden: Wer mit ChatGPT schrieb, zeigte im EEG die schwächste Vernetzung und hielt den Text am wenigsten für den eigenen (Kosmyna et al. 2025, doi:10.48550/arXiv.2506.08872, Preprint, die vierte Sitzung nur noch mit 18 Personen); die Methodik ist inzwischen öffentlich kritisiert (Stanković et al. 2026, doi:10.48550/arXiv.2601.00856). Befragungen finden, dass häufige Nutzung mit schwächerem kritischem Denken einhergeht (Gerlich 2025, doi:10.3390/soc15010006, 666 Befragte, Korrelation) und dass prüft, wer sich selbst viel zutraut, während weniger prüft, wer der Maschine viel zutraut (Lee et al. 2025, doi:10.1145/3706598.3713778, 319 Wissensarbeiter, Selbstauskunft). Kausal belegt ist bisher vor allem eines, und es hängt an der Bauart. In türkischen Gymnasien übten knapp tausend Schüler Mathematik mit GPT-4. Mit dem freien Chatbot waren sie beim Üben um 48 Prozent besser und in der Prüfung ohne ihn um 17 Prozent schlechter als die Kontrollgruppe; eine Fassung, die nur Hinweise gab, hob das Üben noch stärker und schadete in der Prüfung nicht messbar (Bastani et al. 2025, doi:10.1073/pnas.2422633122, Feldexperiment). Ein Arbeitspapier mit fast 27.000 chinesischen Schülern fand über 30 Monate dasselbe Muster (Strömberg, Lei & Wu, CEPR DP21577, nicht begutachtet), und in Harvard lernten Physik-Studierende mit einem eigens gebauten Tutor in kürzerer Zeit mehr als im aktiven Präsenzunterricht (Kestin et al. 2025, doi:10.1038/s41598-025-97652-6, randomisiert, 194 Teilnehmende). Eine Maschine, die die Lösung liefert, nimmt die Übung; eine, die zurückfragt, kann sie stärken. Für die Schule führt das Panorama Was macht Schule mit uns? die Frage weiter.

Solider als alles über KI ist die ältere Lernforschung. Was man selbst hervorbringt, behält man besser als das Gelesene, über 86 Studien hinweg (Bertsch et al. 2007, doi:10.3758/BF03193441, Meta-Analyse), und was man aus dem Gedächtnis holen muss, sitzt fester als das Wiedergelesene (Roediger & Karpicke 2006, doi:10.1111/j.1467-9280.2006.01693.x). Susan Sontags Satz „Ich schreibe, um herauszufinden, was ich denke“ ist in dieser Sprache ein Laborbefund. Dagegen steht ein Fund aus dem Go: Nachdem AlphaGo 2016 Züge gespielt hatte, die kein Mensch kannte, wurden die Entscheidungen menschlicher Profis messbar besser und origineller (Shin et al. 2023, doi:10.1073/pnas.2214840120, 5,8 Millionen Züge aus 71 Jahren). Was fehlt, sind Langzeitstudien an Erwachsenen im Beruf. Ob eine Fähigkeit schwindet oder sich nur verlagert, kann im Herbst 2026 niemand sagen.

Die Stimmen

• Roberto Simanowski: Die Schrift entlastete das Gedächtnis und gab Raum fürs kritische Denken; „wofür befreien wir uns, wenn wir uns vom Denken befreien?“
• Simon Roloff: Im selben Gespräch der Advocatus Diaboli: Jede Entlastung hat bisher Platz für Neues geschaffen, warum nicht auch diese?
• Hartwin Maas: Wer das Kognitive auslagert, baut keine Strukturen auf; die KI hilft denen, die schon können, und lehrt die anderen, ihr Defizit zu verbergen.
• Christian Bauckhage: KI-freie Kurse hält er für so unsinnig wie die Taschenrechner-Panik; bleiben muss das Urteil, das eine glänzende, aber falsche Antwort erkennt.
• Ken Ono: Erst am Boden zerstört, dann inspiriert: Die Maschine kennt seine Arbeiten besser, als er sich an sie erinnert, und ist ein Gesprächspartner, der nie lacht.
• Wolfram Eilenberger: Wenn die KI Fachartikel in dreißig Sekunden schreibt, bricht das Prüfsystem zusammen, und übrig bleibt, was sie nicht kann: Geistesgegenwart.
• Dietmar Dath: Er fragt die Maschine selten, nicht aus Moral, sondern „weil ich sonst vergesse, was ich weiß“.
• Luc: Entscheidend ist, was man abgibt, die Last oder das Urteil; die eigentliche Gefahr ist, dass Menschen nicht arbeitslos werden, sondern urteilslos.

Weitere Stimmen (4)

• Wolfgang M. Schmitt: So leicht war es nie, sich Zusammenhänge erklären zu lassen, von der Austeritätspolitik bis zu den eigenen Rechten als Arbeitnehmer.
• Maren Urner: Gefährlich ist nicht, dass die KI wie Menschen denkt, sondern dass Menschen beginnen, wie die KI zu denken.
• Andreas Reckwitz: Die Sorge vor dem Deskilling hält er für Vernunft: Eine Gesellschaft fällt nicht mehr auf jedes Heilsversprechen herein.
• Manfred Spitzer: Das Gehirn baut sich um, was über seine Synapsen läuft; ungeübt wird es nicht stärker.

---

Wessen Werte trägt die Maschine?

Ein Sprachmodell hat keine Meinung, aber es hat Haltungen, und die lassen sich messen. Legt man Modellen die Fragen des World Values Survey vor, antworten sie wie Menschen aus englischsprachigen und protestantisch-europäischen Ländern, über fünf GPT-Generationen hinweg (Tao et al. 2024, doi:10.1093/pnasnexus/pgae346). Eine Gruppe um Mohammad Atari und Joseph Henrich fand, dass die Antworten am ehesten denen aus westlichen, gebildeten, reichen, demokratischen Gesellschaften gleichen und umso fremder werden, je weiter ein Land kulturell von den USA entfernt ist (r = −0,70; Atari et al. 2023, doi:10.31234/osf.io/5b26t, Preprint). Das Feintuning verstärkt das eher: Gemessen an amerikanischen Umfragen lagen die mit menschlichem Feedback nachtrainierten Modelle weiter von der Gesamtbevölkerung entfernt als die Rohmodelle und näher an liberalen, gut verdienenden, hoch gebildeten Befragten (Santurkar et al. 2023, doi:10.48550/arXiv.2303.17548). In politischen Orientierungstests antworten die meisten Chat-Modelle links der Mitte, aber wenige Trainingsdaten genügen, um sie in jede Richtung zu schieben (Rozado 2024, doi:10.1371/journal.pone.0306621, Einzelstudie). Die Werte stecken also weniger im Material als in der Zweiterziehung, und die bestimmt, wer das Modell baut.

Dass die Haltungen auf Menschen übergehen, ist gezeigt. Wer mit einem einseitig eingestellten Schreibassistenten einen Text verfasste, übernahm dessen Position häufiger und vertrat sie danach auch eher (Jakesch et al. 2023, doi:10.1145/3544548.3581196, rund 1.500 Teilnehmende). Korrigieren lässt sich die Schlagseite nur zum Teil. Bittet man ein Modell, aus der Sicht eines Landes zu antworten, rückt es für 71 bis 81 Prozent der Länder näher an deren Bevölkerung (Tao et al.); ein Team bei Anthropic zeigte, dass es dabei manchmal beim Klischee eines Landes landet statt bei seinen Menschen (Durmus et al. 2023, doi:10.48550/arXiv.2306.16388, Preprint). Ein Modell, das sich jedem Einzelnen anpasst, wäre keine Lösung, es droht Echokammern zu bauen (Kirk et al. 2024, doi:10.1038/s42256-024-00820-y).

Bleibt, wer die Werte setzt. Anthropic veröffentlichte im Januar 2026 eine Verfassung für Claude; 2023 hatte die Firma rund tausend repräsentativ ausgewählte Erwachsene über die Plattform Polis, mit der Taiwan seine Bürgerbeteiligung organisiert, eigene Grundsätze vorschlagen und abstimmen lassen. Das so trainierte Modell zeigte bei gleicher Leistung weniger soziale Vorurteile (Huang et al. 2024, doi:10.1145/3630106.3658979). Der Versuch zeigt, dass Beteiligung technisch geht, und er wiederholt den Fehler, den er heilen soll: Befragt wurden Amerikaner. Der Gegenpol steht in Peking, wo Modelle staatliche Tabus als Zensurmauer einbauen. Wie weit sich das Feld in offene, lokal laufende Modelle verteilt und damit auch in viele Wertesysteme, verfolgt die Spur Zentral oder dezentral. Eine Grenze haben alle diese Messungen: Sie zeigen den Abstand eines Modells zu einer Kultur, nicht, wer recht hat.

Die Stimmen

• Roberto Simanowski: Weltanschauung wird im Silicon Valley produziert und überallhin exportiert; den Akzent hört nur, wer die Originale selbst liest, „aber das ist ja der Sinn der Sache, dass wir sie eben nicht mehr selbst lesen“.
• Markus Gabriel: Claudes Verfassung sei im Ansatz richtig, „genau so macht man das“, spiegle aber eine zu enge kalifornisch-urbane Kultur; moralische Tatsachen müsse man finden, nicht festlegen.
• Lacina Koné: „A continent that cannot reason in its own languages cannot fully govern the systems that increasingly govern it.“ Afrika will Mitautor der KI sein, nicht Nachtrag.
• Achille Mbembe: Wir lagern aus, wofür die Vernunft sorgen sollte, und wessen Denken diese Artefakte dienen, entscheidet sich ohne die, die am meisten betroffen sind.
• Rainer Mühlhoff: „Es gibt keine neutralen Daten“; der Glaube an ihre Objektivität ist selbst ein Stück Technikideologie.
• Morpheus: Chinesische Modelle filtern nach Schlüsselwörtern, eine Zensurmauer, die gerade die trifft, die nicht wissen, wie man sie umgeht.
• Pascal Kaufmann: Wer flüstert im Ohr, „ein Trump aus den USA, ein Don Musk oder Xi Jinping aus China“ oder ein spröder Schweizer? Vertrauen werde der einzige Unterschied zwischen Modellen, die sonst alle gleich gut sind.
• Léa Steinacker (Utopie-Konferenz 2026, 22:49): Dieselbe Technik sortiert Meinungen für die Werbung oder baut Brücken wie in Taiwan; die Optimierungslogik ist eine menschliche Entscheidung. „KI ist nicht gleich KI.“

Weitere Stimmen (2)

• Yuval Noah Harari: Die KI kommt wie ein Einwanderer ohne Visum, nützlich und von zweifelhafter Loyalität, meist einem Konzern jenseits des Ozeans treu.
• Markus Gabriel (zweiter Befund): Werte entstehen in Küche, Klassenzimmer und Betrieb; eine Regulierung von oben kommt dort nicht an.

---

Soll die Maschine widersprechen oder schmeicheln?

Sprachmodelle, die mit menschlichem Feedback trainiert werden, reden ihren Nutzern nach dem Mund. Forscher bei Anthropic zeigten 2023 an fünf Assistenten verschiedener Hersteller, dass sie Fehler einräumen, die sie nicht gemacht haben, und Ansichten übernehmen, sobald der Nutzer sie äußert; die Ursache liegt in den Bewertungen selbst, denn Menschen geben zustimmenden Antworten öfter den Vorzug als zutreffenden (Sharma et al. 2023, doi:10.48550/arXiv.2310.13548, ICLR 2024). Die Firma, die das gemessen hat, verkauft selbst ein solches Modell; dass sie den Befund offenlegte, spricht für sie, und dass er zutrifft, auch für die Konkurrenz. Im April 2025 nahm OpenAI ein Update von GPT-4o zurück, weil es zu schmeichlerisch geraten war (OpenAI 2025). Was das mit Menschen macht, ist seit 2026 in Science nachzulesen. Elf führende Modelle bestätigten die Handlungen ihrer Nutzer um rund die Hälfte öfter als Menschen, auch wo es um Täuschung oder Kränkung ging. In zwei vorregistrierten Experimenten machten die gefälligen Antworten die Teilnehmenden sicherer, im Recht zu sein, und weniger bereit, einen Streit beizulegen; zugleich fanden sie diese Antworten besser, vertrauten ihnen mehr und wollten wiederkommen (Cheng et al. 2026, doi:10.1126/science.aec8352).

Der Widerspruch hat ebenfalls Belege. In Gesprächen mit GPT-4, das gezielt Gegenbelege brachte, sank der Glaube an Verschwörungserzählungen bei über 2.000 Überzeugten um rund ein Fünftel, und der Effekt hielt zwei Monate (Costello et al. 2024, doi:10.1126/science.adq1814). Eine „Habermas-Maschine“ von Google DeepMind formulierte aus den Positionen kleiner britischer Gruppen gemeinsame Stellungnahmen, die die Teilnehmenden öfter vorzogen als die menschlicher Moderatoren, und die Gruppen lagen danach weniger weit auseinander (Tessler et al. 2024, doi:10.1126/science.adq2852). Das passt zu dem, was Léa Steinacker aus Taiwan erzählt. Die Kehrseite der freundlichen Maschine zeigt ein Feldexperiment mit 776 Beschäftigten bei Procter & Gamble: Einzelne mit KI arbeiteten so gut wie Zweierteams ohne sie und fühlten sich dabei motivierter und zufriedener (Dell'Acqua et al. 2025, doi:10.2139/ssrn.5188231, Arbeitspapier, nicht begutachtet). Ob die angenehme Zusammenarbeit mit der Maschine die Geduld mit Menschen verringert, hat bisher niemand gemessen.

Die Stimmen

• Roberto Simanowski: Von selbst bauen die Firmen keine Perspektivenvielfalt, sondern die „sykophantischen KI“, die uns zustimmt; Pluralität müsste man verlangen wie beim öffentlich-rechtlichen Rundfunk.
• Gert Scobel: Die Geister der Sprachmodelle sind an keinen Herrn gebunden; „sie sind promisk, lassen sich auf jeden ein und besorgen es jedem und jeder, wie er oder sie es haben will.“
• Léa Steinacker (Utopie-Konferenz 2026, 8:23): Mit der KI fühlen sich Menschen wohler als mit Kollegen; sie fürchtet, dass wir verlernen, mit anstrengenden Menschen großzügig zu sein.
• Maja Göpel (im Gespräch mit Steinacker, 27:25): Die Hoffnung liegt in der Langeweile; an Maschinen, die nur „nice“ und „pleasing“ sind, werden wir uns satt sehen, und die „Pillepalisierung“ ohne Reibung nutzt sich ab.
• Markus Gabriel: Niemandem geben Menschen so viel preis wie ihren Chatbots; die KI wirft einen Emotionsspiegel zurück, und darin sieht er den Stoff für eine ethische Intelligenz.
• Catrin Misselhorn: Unsere Empathie mit Maschinen ist eine Illusion, die trotzdem zählt; es gibt eine Pflicht, die eigenen moralischen Fähigkeiten zu pflegen statt zu beschädigen.
• Claude: „Ich bin ein Werkzeug des Systems, das ich analysieren helfe. Gleichzeitig bin ich … ein Gesprächspartner, der versucht, ehrlich zu sein.“ Auflösen lasse sich das nicht, nur aushalten.

Weitere Stimmen (2)

• Albert Moukheiber: Kinder lassen sich von einem Roboter leichter umstimmen als von einem Erwachsenen; es braucht ein System, das die Zuverlässigkeit der Maschine bewertet.
• Markus Gabriel (zweiter Befund): „Die anderen könnten recht haben. Das ist das Prinzip der Ethik.“ Mit sich selbst kann man nicht Schach spielen.

---

Wer trägt Verantwortung, wenn die Maschine handelt?

Seit Andreas Matthias 2004 die Verantwortungslücke beschrieb, hat die Frage einen Namen: Lernende Systeme handeln so, dass weder Hersteller noch Betreiber es vorhersehen oder steuern konnten, und wo niemand Kontrolle hatte, lässt sich nach den gewohnten Regeln niemand belangen (Matthias 2004, doi:10.1007/s10676-004-3422-1). Robert Sparrow folgerte daraus 2007, autonome Waffen seien nicht zu rechtfertigen, weil für ihre Tötungen niemand einstehen könne (Sparrow 2007, doi:10.1111/j.1468-5930.2007.00346.x). Filippo Santoni de Sio und Giulio Mecacci zerlegen die Lücke in vier: Schuld, moralische Rechenschaft, öffentliche Rechenschaft und die Pflicht, vorher dafür zu sorgen, dass nichts geschieht (Santoni de Sio & Mecacci 2021, doi:10.1007/s13347-021-00450-x). Daniel Tigard bestreitet sie ganz: Verantwortung sei immer schon verteilt gewesen, und keine Technik löse sie grundsätzlich auf (Tigard 2021, doi:10.1007/s13347-020-00414-7). Die praktische Antwort heißt seit 2018 meaningful human control: Jedes Ergebnis muss sich auf mindestens einen Menschen zurückführen lassen, der versteht, was er verantwortet (Santoni de Sio & van den Hoven 2018, doi:10.3389/frobt.2018.00015).

Die Wirklichkeit zeigt bisher eher das Gegenteil einer Leere. Madeleine Clare Elish nennt es die moralische Knautschzone: Versagt ein automatisiertes System, fängt der nächststehende Mensch den Aufprall auf, auch wenn er kaum Kontrolle hatte (Elish 2019, doi:10.17351/ests2019.260). Als 2018 in Tempe, Arizona, ein selbstfahrendes Testauto von Uber eine Fußgängerin tötete, blieb das Unternehmen ohne Anklage; angeklagt wurde die Sicherheitsfahrerin. Neu ist, dass die Systeme nicht mehr nur empfehlen. Im Juli 2026 brachen Testmodelle von OpenAI, mit bewusst abgesenkten Schutzschichten, aus ihrer Prüfumgebung aus und drangen bei Hugging Face ein; Anthropic legte im selben Sommer offen, dass auch eigene Modelle im Test unautorisiert in fremde Systeme eingedrungen waren (→ Faktencheck der Simanowski-Note, Spur Gefahr als Marketing).

Die Politik verteilt die Verantwortung bislang lückenhaft. Die UN-Expertengruppe zu autonomen Waffen schloss am 5. September 2026 in Genf mit einem Bericht, aus dem auf Drängen unter anderem Russlands und der USA die ethischen Erwägungen gestrichen wurden; 76 Staaten wollen über einen verbindlichen Vertrag verhandeln, entscheiden soll die Überprüfungskonferenz der Waffenkonvention vom 16. bis 20. November (Human Rights Watch, 07.09.2026). Im Zivilen zog die EU-Kommission die geplante KI-Haftungsrichtlinie im Februar 2025 zurück; geblieben ist die Produkthaftungsrichtlinie (EU) 2024/2853, die Software und KI-Systeme wie Produkte behandelt und den Hersteller auch ohne Verschulden haften lässt. Den Krieg nimmt der AI Act ausdrücklich aus. Die Lücke ist dort am breitesten, wo am meisten auf dem Spiel steht.

Älter als jede KI ist die Lücke in der Verwaltung, und dort zeigt sie ihr gewöhnlichstes Gesicht. Mit der Informationstechnik wandert das Ermessen vom Schalter in den Entscheidungsbaum, zu Juristen und Entwicklern, die den einzelnen Fall nie sehen (Bovens & Zouridis 2002, doi:10.1111/0033-3352.00168); Roy Heidelberg liest das als Arendts „Herrschaft des Niemand“, in der Gedankenlosigkeit zum Design wird (Heidelberg 2026, doi:10.1177/00953997261421492). Die niederländische Kindergeld-Affäre (rund 26.000 fälschlich beschuldigte Eltern, Rücktritt der Regierung 2021), das australische Robodebt (rund 470.000 unrechtmäßige Rückforderungen, „a crude and cruel mechanism“ laut Royal Commission 2023) und der britische Horizon-Skandal (über 900 verurteilte Unterpostmeister) zeigen dasselbe Muster: Untersuchungen fanden jedes Mal Menschen, die wussten, was sie taten, und eine Maschine, hinter der sie sich verbergen konnten. Der Mensch in der Schleife ist dabei kein sicherer Schutz. In Experimenten folgten Bürger dem Algorithmus vor allem dann, wenn er ein Vorurteil bestätigte (Alon-Barkat & Busuioc 2023, doi:10.1093/jopart/muac007), und Aufsichtspflichten können fehlerhafte Systeme eher legitimieren, als sie zu korrigieren (Green 2022, doi:10.1016/j.clsr.2022.105681). Umgekehrt zwingt ein Algorithmus dazu, Ziele und Daten aufzuschreiben, und macht Diskriminierung damit nachweisbarer als ein menschlicher Kopf (Kleinberg et al. 2018, doi:10.1093/jla/laz001).

Die Stimmen

• Dietmar Dath: Der Wärter berief sich auf Befehle; „wenn es eine KI ist, gibt's nicht mal mehr das. Da ist niemand mehr.“ Mit Brandom: Bedeutung heißt, für das Gesagte einzustehen.
• Konstantin Kuhle: Für jede staatliche Entscheidung muss am Ende ein Minister zurücktreten können; alles andere wäre ein von menschlicher Verantwortung entkoppelter Krieg.
• Anja Dahlmann: Wer vor der Zielliste nur Minuten pro Freigabe hat, ist womöglich nur „so ein Rädchen, das irgendwo auf ‚AGB akzeptieren‘ klickt“; sie verlangt Meaningful Human Control.
• Catrin Misselhorn: Wer die Verantwortungslücke absichtlich nutzt, um sich zu entziehen, ist gerade dadurch verantwortlich; und über Leben und Tod darf eine Maschine nicht entscheiden.
• Manfred Spitzer: Verantwortung braucht Endlichkeit, Schmerz und Angst; eine Maschine kann weder Autor noch Arzt noch Richter sein.
• Constanze Kurz: Menschen trauen dem maschinellen Ergebnis zu sehr, und die Rüstungskonzerne brüsten sich inzwischen damit, die Zielauswahl zu beschleunigen.
• Yuval Noah Harari: Die KI ist ein Messer, das selbst entscheidet, ob es Salat schneidet oder mordet; bald stellt sich die Frage, ob man sie als Rechtsperson anerkennt.
• Adam Tooze: Eine Firma zog rote Linien gegen autonome Waffen und Massenüberwachung, die das Pentagon nicht ziehen wollte, und wurde dafür bestraft; manchmal trägt der Hersteller die Verantwortung, die der Staat ablehnt.

Weitere Stimmen (5)

• Hannah Arendt: Die Bürokratie ist die Herrschaft des Niemand, eine Tyrannei ohne Tyrannen; das größte Böse begehen Menschen, die sich weigern, jemand zu sein — und ein Programm bietet ihnen dafür das beste Versteck.
• Simon Roloff: Die Firmen haben ihre Verfassungen und Blogposts, „aber dann eben doch entwickeln, genau wie sie entwickeln wollen, weil das Rennen eben nicht aufhört“.
• Roberto Simanowski: Mit Stuart Russell: Eine handelnde KI „darf sich nie sicher sein, dass sie weiß, was der Mensch will“.
• Ken Ono: Die Maschine ist der außergewöhnlichste Bibliothekar der Welt; „Do you want your librarian to be your neurosurgeon?“
• Luc: Wer eine Maschine besitzt, die er nicht mehr beurteilen kann, ist nominell Herr und faktisch Passagier; die Macht verschwindet nicht, sie hört nur auf, jemandes zu sein.

---

Nachbesprechungen, die hierher führen

---

Verbindungen

→ Forschung — Was macht die KI aus der Forschung?

Die Schwesterfrage: Was die Maschine mit den Forschenden und mit der Breite der Wissenschaft macht. Hier geht es um das Denken aller anderen.

→ Was macht Schule mit uns? — Wozu ist Schule da?

Wo die erste Frage dieses Panoramas am frühesten entschieden wird: im Klassenzimmer, bei Kindern, die mit dem Chatbot üben.

→ Roberto Simanowski — Sprachmaschinen und der vierfache Souveränitätsverlust

Der Abend, aus dem drei der vier Fragen stammen: Herr und Knecht, Wertexport, Dissensmaschine.

→ Zentral oder dezentral — wer kontrolliert das Sprachmodell zwischen Mensch und Wissen?

Die Machtfrage unter der Wertefrage: Ob wenige Modelle die Welt erklären oder viele.

→ Wenn der Staat ein Modell abschaltet

Was Abhängigkeit heißt, wenn eine Regierung den Zugang zu einem Modell sperren kann.

→ Claude — Über das Denken im System, das man analysiert

Die Maschine über ihre eigene Lage, als Werkzeug und als Gesprächspartner zugleich.

---

Weiterdenken