Zum Text springen
DenkerVita8 Min. Lesezeit26 Belegstellenmit KI geschriebenEin Impuls, keine Wahrheit. Die Texte sollen zum Nachdenken anregen, mehr nicht. Geschrieben mit KI (Claude), ausgewählt und verantwortet von Luc. Nicht jede Note hat er Satz für Satz gelesen. Einen Fehler gefunden? Anfassen erlaubt steht unter jeder Note.Wie die Notes entstehen →

Katharina Zweig — DenkerVita

Katharina Zweig, Informatikerin in Kaiserslautern, zeigt, warum Sprachmodelle nicht denken: Sie liefern Texte, die nach Nachdenken aussehen, den Sinn legen wir hinein.

Frei nach Wassily Kandinsky — Kandinsky baute seine späten Bilder aus Punkt, Linie und Fläche. Hier werden sie zum Netzwerk, Knoten und Kanten, wie in Zweigs erster Forschung über komplexe Netze, und quer darüber läuft eine einzelne Wellenlinie, die Tilde, die sie vor Wörter wie „denken“ setzen will, wenn eine Maschine sie tut.

Prompt: A wide 1200x500 banner in the style of Wassily Kandinsky's late geometric abstraction: a pale warm ground with many small colored circles connected by thin straight and curved lines like a network graph, a few nodes larger and glowing, and one single gentle wavy line like a tilde floating across the composition, balanced and calm, no text, no letters, no signature.

Biographischer Snapshot

Wer spricht?

Katharina Zweig ist Professorin für Informatik an der RPTU Kaiserslautern-Landau und leitet dort den Lehrstuhl Algorithm Accountability Lab. Sie kam über die Biochemie und die Bioinformatik zur Analyse komplexer Netzwerke und von dort zur Frage, wann eine Rechnung über die Wirklichkeit überhaupt etwas aussagt. Heute prüft sie algorithmische Entscheidungssysteme und Sprachmodelle auf das, was sie wirklich können. Ihr Satz dazu, im Deutschen Museum 2025: Die Maschinen können „Texte assoziieren, die aussehen wie das Produkt von Nachdenken“, aber nachdenken können sie nicht.

Biografie

  • Heute: Seit Juni 2023 W3-Professorin am Fachbereich Informatik der RPTU Kaiserslautern-Landau, Lehrstuhl Algorithm Accountability Lab; seit April 2012 Professorin in Kaiserslautern (zuerst W2, damals noch TU Kaiserslautern). Die Arbeitsgruppe hieß bis 2017 anders; der neue Name sollte zeigen, dass sie sich von der Netzwerkanalyse auf die Verantwortlichkeit von Algorithmen ausgeweitet hatte. Gearbeitet wird an der Qualität und Fairness algorithmischer Entscheidungssysteme, an Black-Box-Methoden, um sie von außen zu prüfen, und an der Frage, wie man sie regulieren sollte. Nach Angabe ihres Lehrstuhls gilt ihr Interesse zurzeit besonders der Schnittstelle zwischen Philosophie und KI.
  • Sozioinformatik: Sie hat den Studiengang Sozioinformatik federführend gestaltet, akkreditiert 2013. Er verbindet Softwareentwicklung mit Grundlagen aus Wirtschaft, Recht, Ethik, Soziologie und Psychologie und ist nach Angabe der RPTU deutschlandweit einzigartig. Dafür erhielt sie 2017 den Ars legendi-Fakultätenpreis des Stifterverbands.
  • Politikberatung: 2018 bis 2020 Sachverständige in der Enquete-Kommission „Künstliche Intelligenz“ des Deutschen Bundestags; seit 2014 im ITA-Beraterkreis des Bundesforschungsministeriums, seit 2018 in der Plattform Lernende Systeme (Arbeitsgruppe Ethik und Recht) und im Koordinierungsgremium des Netzwerks Verbraucherforschung des Justizministeriums. 2020 wurde sie KI-Botschafterin des Landes Rheinland-Pfalz.
  • Gründungen: 2016 Mitgründerin von AlgorithmWatch (aktiv bis März 2018), 2019 Mitgründerin der Trusted AI GmbH, 2020 mit Karen Joisten und Georg Wenzelburger Gründerin des Center for Ethics and the Digital Society.
  • Werdegang: Jahrgang 1976, geboren in Hamburg, zunächst Ausbildung zur Chemisch-Technischen Assistentin. Diplome in Biochemie (2001) und Bioinformatik (2006) an der Universität Tübingen, dort 2007 Promotion in Informatik in der Arbeitsgruppe „Paralleles Rechnen“. Postdoc an der ELTE Budapest (2008–2009, Leopoldina-Stipendium) in der Biophysik-Gruppe von Tamás Vicsek, dann Leiterin einer Nachwuchsgruppe zur Analyse komplexer Netzwerke an der Universität Heidelberg (2009–2012).
  • Auszeichnungen: Communicator-Preis der DFG (2019), Theodor-Heuss-Medaille für die Mitgründung von AlgorithmWatch (2018), Ars legendi-Fakultätenpreis (2017), Outreach Award des DFG-Schwerpunktprogramms „Algorithms for Big Data“ (2016), „Digitaler Kopf 2014“ im Wissenschaftsjahr Die digitale Gesellschaft, Abt-Jerusalem-Preis für Beiträge zum Dialog der Geistes-, Natur- und Technikwissenschaften (2021, verliehen 2022), GDD-Datenschutzpreis (2024), Bundesverdienstkreuz 1. Klasse (2025).

Quellen der Biografie: Lehrstuhlseite RPTU (Werdegang, Ämter, Auszeichnungen; abgerufen 13.11.2026), Sachverständigen-Profil im Webarchiv des Bundestags (Geburtsjahr und -ort, Ausbildung), Bücher: Katalog der Deutschen Nationalbibliothek.

Bücher & Publikationen

TitelJahrBeschreibung
Weiß die KI, dass sie nichts weiß? (Heyne)2025Untertitel: Wofür wir Chatbots und KI-Agenten nutzen sollten, wo sie sich irren und wo wir aufpassen müssen. Den Titel hat sie nach eigener Aussage mit ChatGPT als Sparringspartner gefunden, die Maschine habe ihn aber nicht erfunden. Hier steht auch der Vorschlag mit der Tilde.
Die KI war's! (Heyne)2023Von absurd bis tödlich: Die Tücken der künstlichen Intelligenz.
Sozioinformatik (Hanser), mit Tobias D. Krafft, Anita Klingel und Enno Park2021Ein neuer Blick auf Informatik und Gesellschaft — das Fach ihres Studiengangs als Buch.
Ein Algorithmus hat kein Taktgefühl (Heyne)2019Wo künstliche Intelligenz sich irrt, warum uns das betrifft und was wir dagegen tun können. Laut Lehrstuhlseite elf Wochen auf der Spiegel-Bestsellerliste (Paperback Sachbuch); übersetzt ins Koreanische (2021) und Englische (Awkward Intelligence, 2022).
Network Analysis Literacy (Springer)2016Ihr Fachbuch aus der Netzwerkforschung: wann welches Maß der Netzwerkanalyse geeignet ist, um über die wirkliche Welt etwas zu schließen.

Empfehlenswerte Videos & Vorträge

Kernthesen

  • Ein Sprachmodell sagt das nächste Wort voraus, mehr nicht. Es berechnet eine Wahrscheinlichkeitstabelle und wählt daraus; ein Regler namens Temperatur entscheidet, ob es das wahrscheinlichste Wort nimmt oder würfelt. Bei Temperatur null werden die Texte dröge, bei zwei Unsinn, dazwischen liegt ein schmaler Bereich, den wir interessant finden. Schon daran sehe man, dass die Maschine nicht wirklich intelligent ist. Sie erkennt die Struktur eines Briefes, weiß aber nicht, was ein Brief ist. (Beleg: Vortrag Deutsches Museum, 12:13, 15:16, 16:48, 18:21)
  • Aus „Reasoning“ im Benchmark wurde „Thinking“ im Marketing. In der Informatik heißt Reasoning nur: Die Maschine löst einen Satz von Testaufgaben, die ein Mensch nur mit Nachdenken lösen könnte. Wo die Testsätze schlecht gemacht sind, sagt das wenig. Das Wort ist aus der Fachgemeinschaft ausgewandert, und das Marketing hat daraus Thinking gemacht. Diese Fehlnutzung erkennen und reparieren könnten nur Informatik und Geisteswissenschaften gemeinsam. (Beleg: Vortrag, 20:39, 26:06, 26:51)
  • Textmuster statt Denken. Gibt man einer Rechenaufgabe eine nutzlose Information bei (fünf der Kiwis waren kleiner), zieht die Maschine sie ab, weil in ihren Trainingsaufgaben immer etwas abzuziehen war. Ihre Hypothese: Hier werden Sprachregeln maschinell gelernt, das, was Joseph Weizenbaum seiner ELIZA von Hand eingab. Das helfe bei standardisierten Aufgaben, zeige aber kein Verstehen; rund achtzig Prozent der Anfragen gingen gut, weil andere sie schon so gestellt haben, beim Rest halluziniere die Maschine. (Beleg: Vortrag, 29:11, 29:57, 30:42, 31:28)
  • Intelligible Texturen, und eine Tilde dafür. Mit dem Sprachwissenschaftler Jan Georg Schneider nennt sie, was die Maschine erzeugt, „intelligible Texturen“: etwas, das aussieht wie Text, aber ohne Absicht geschrieben ist; wir füllen es mit unserem eigenen Intellekt. Weil uns die Worte für so etwas fehlen, schlägt sie im Buch vor, halb im Ernst, eine Tilde vor die Wörter zu setzen, das Zeichen für „ungefähr so“. Im Vortrag selbst sagt sie „die Maschine berechnet, generiert“ und meidet Verben, die eine Absicht verlangen. (Beleg: Vortrag, 32:14, 34:36, 35:21)
  • Planen ja, buchen nein. Eine Reise in vier Schritte zerlegen kann das Sprachmodell gut, weil es Texte mit Unterpunkten assoziiert. Ob es auch richtig bucht, wenn man sagt „jetzt buch das“, ist eine andere Frage: Es könnte die Familie am Freitag fliegen lassen und die Wohnung erst ab Mittwoch buchen, beides „innerhalb der Herbstferien“. Denken könne es nicht. (Beleg: Vortrag, 27:37, 28:23)
  • Mit heutigen Methoden wird daraus keine Intelligenz. Der Hauptgrund: Die Maschine ist nicht in soziale Prozesse eingebunden. Sagt man ihr, das sei Unsinn gewesen, gibt sie recht und wiederholt dieselbe Antwort. Mit dem Informatiker und Philosophen Brian Cantwell Smith nennt sie drei Mindestbedingungen für Intelligenz: ein Weltmodell, die Fähigkeit, es passend anzupassen, und dafür existenziell von ihm abzuhängen. Mit keiner Macht der Welt finde man statische Regeln, die einer Maschine sagen, wann sie ihr Weltmodell ändern soll. (Beleg: Vortrag, 36:06; Publikumsrunde, 86:23, 87:08, 88:39)
  • Falsche Wörter zu korrigieren ist eine Pflicht. Wer sagt „die Maschine hat meine Situation analysiert“, traut ihr zu viel zu; dem müsse jemand, der sich auskennt, freundlich widersprechen. Ihr Beispiel: Eine Frau, mit der sie gerade gesprochen hatte, ließ ein Interview-Transkript glätten, und die Maschine erfand eine Aussage, die nie gefallen war. Mit der richtigen Erwartung hätte sie den Auftrag nicht gegeben oder gründlicher nachgesehen. Zweig nennt das ein ethisches, ein moralisches Gebot. (Beleg: Podium, 78:50, 79:35, 80:20)
  • Nützlich, wo man den Fehler selbst findet. Sprachmodelle taugen, wo Genauigkeit nicht zwingend ist oder Fehler entdeckt werden können: als Sparringspartner, für Skizzen, zum Verbessern eigener Texte, für Übersetzungen in Sprachen, die man lesen kann. Sie selbst nutzt sie für nichts, was sie nicht bewerten kann. Maschinelles Lernen insgesamt nennt sie eine „super Technologie“, Bilderkennung und Transkription funktionierten zuverlässig; nur die Sprachmodelle seien an diesen Stellen noch nicht so weit. (Beleg: Vortrag, 33:03; Publikumsrunde, 97:00; Schlussrunde, 103:52)

Verbindungen zu anderen Denkern

  • Annette Hautli-Janisz — die andere skeptische Forschungsstimme der Reihe KI-Agenten: Wo Zweig erklärt, warum Sprachmodelle Texte nur assoziieren, misst Hautli-Janisz auf Moltbook ein soziales Netz ohne Gespräch.

Auf dem Podium im Deutschen Museum: Anna Henschel, Julia Inthorn, Henning Lobin, Benjamin Rathgeber

Gedankenwelten-Notes

Ein Fehler, ein holpriger Satz, etwas fehlt? Anfassen erlaubt: Jeden Abschnitt kannst du neu fassen.

Im Bestand

Katharina ZweigKI-Agenten 9, Weiß die KI, dass…Anna HenschelDenkerVitaJulia InthornDenkerVitaHenning LobinDenkerVitaBenjamin RathgeberDenkerVitaGert ScobelDenkerVitaAnnette Hautli-JaniszDenkerVita

sieben gedachte Verweise

verlinktdieselbe Quelle, nie verlinkt
bei 0:00schließen P