Zum Text springen
Geistesblitzerstellt 15. November 202641 Min. Lesezeit80 Belegstellenmit KI geschriebenEin Impuls, keine Wahrheit. Die Texte sollen zum Nachdenken anregen, mehr nicht. Geschrieben mit KI (Claude), ausgewählt und verantwortet von Luc. Nicht jede Note hat er Satz für Satz gelesen. Einen Fehler gefunden? Anfassen erlaubt steht unter jeder Note.Wie die Notes entstehen →

Christian Bauckhage — KI-Agenten 10, Schon wieder Dekaden vergangen

Zwölf Stunden schreibt der Agent, anderthalb Wochen liest der Mensch. Ein Informatiker über Beweise, die niemand lesen kann, und die Frage, die er für die wichtigste hält: Was ist interessant?

Frei nach Hanne Darboven — Darboven füllte Wände mit handgeschriebenen Zahlenreihen und Schleifen, Blatt für Blatt, bis die Schrift zur Textur wurde, die man ansieht statt liest. Das passt zu dem Bild, das Daniel Jung ins Gespräch bringt und Bauckhage aufgreift: ein Beweis wie ein Film, von dem man nur Anfang und Ende sieht. Links die Frage, rechts der Haken, dazwischen Reihen, die kein Mensch mehr durchgeht, so wie dreizehn Millionen Zeilen Lean-Code.

Prompt: A wide 1200x500 banner in the style of Hanne Darboven's conceptual installations: many sheets of off-white paper mounted edge to edge in long horizontal rows on a pale gallery wall, each sheet densely filled with rhythmic hand-written looping lines, tiny numerals and small crossed boxes in black ink, so dense the writing becomes pure texture. At the far left a single sheet holds only one small hand-drawn question mark in the centre; at the far right a single sheet holds only one small hand-drawn check mark. Between them hundreds of illegible, crowded sheets. Quiet, archival, minimal, soft even light, documentary photograph of an artwork, no legible words, no letters, no people.

Angelehnt an Sebastian Haffner — ein Versuch in dieser Tonlage. Geliehen: Schweres ruhig und unangestrengt erklären, das Urteil sicher, aber gedämpft. Ein Gespräch im Alarmton, „schnallt euch an“. Haffners Ruhe erklärt, was geschehen ist, ohne mitzurennen, und lässt die stärksten Stellen, die aus der eigenen Werkstatt, für sich sprechen. Beim Schreiben still gewählt am 15.11.2026.

Keine Nachahmung, nur eine Anlehnung — die Gedanken sind die von Christian Bauckhage, die Erzählstimme ist unsere.

Worum es geht

Zwölf Stunden schreibt der Agent, anderthalb Wochen liest der Mensch, und erst dann merkt er, dass eines von drei Papieren zwar stimmt, aber nichts Neues sagt. Vier Monate nach ihrem ersten Gespräch sitzen der Informatiker Christian Bauckhage und der Mathematik-Youtuber Daniel Jung wieder zusammen, und Bauckhage sagt, seither seien „Dekaden“ vergangen. Es geht um zehntausend Agenten an einem Millennium-Problem, um Beweise in Millionen Zeilen, die kein Mensch liest, um sechzigtausend Einreichungen bei einer Konferenz, um Gasturbinen vor Rechenzentren und um Schleifen, in denen eine KI ihre eigene Umgebung verbessert. Bauckhage nimmt dabei eine eigene Position vom Sommer zurück. Und am Ende nennt er die Kompetenz, die er für die wichtigste hält: die Frage, was überhaupt interessant ist.

Quelle: Mathe by Daniel Jung, KI: Schon wieder Dekaden vergangen — Prof. Dr. Christian Bauckhage über Agentenschwärme (15.11.2026, 1:38 Std., aufgezeichnet Ende Oktober oder Anfang November). Fortsetzung des Gesprächs vom Juli (siehe Wir haben noch gar nichts gesehen). Teil 10 der Reihe KI-Agenten, im Strang „eingeordnet“.

Die Reihe — KI-Agenten

Seit September 2026 erzählen Mark Benecke und Ines Azrael auf seinem Kanal, was KI-Agenten im offenen Netz tun und was die beiden mit ihnen erleben. Wir begleiten das in zwei Strängen:

In eigener Sache: Die Notes dieser Reihe schreibt Claude, ein Sprachmodell von Anthropic, zusammen mit Luc. In diesem Gespräch kommen Modelle von Anthropic mehrfach vor: Bauckhage forscht mit Fable, eine Anthropic-interne Claude findet eine Matrix, ein Claude-Schwarm formalisiert Fermats letzten Satz. Und der Abschnitt über Schleifen der Selbstverbesserung beschreibt ziemlich genau, wie diese Note entsteht (siehe Ein Logfile genügt). Das schreibende Modell ist hier also nicht unbeteiligt.

Wer spricht?

Christian Bauckhage ist Professor für Informatik (Mustererkennung) an der Universität Bonn, Lead Scientist für Maschinelles Lernen am Fraunhofer IAIS und Co-Direktor des Lamarr-Instituts für Maschinelles Lernen und Künstliche Intelligenz. Im Sommer hat er mit Kollegen am Fraunhofer mit Fable geforscht, einem Modell von Anthropic; davon erzählt er hier. Er ist nicht neutral, und er sagt es: Er fordert seit dem Sommer große europäische Modelle (siehe Teil 2).

Gastgeber ist Daniel Jung, der auf seinem Kanal Mathe by Daniel Jung Mathematik erklärt und selbst Vorträge über KI hält. Er bringt Fragen aus den rund 1.600 Kommentaren zum ersten Gespräch mit und eigene Positionen; wo er spricht, steht sein Name. Gleich am Anfang kündigt er an: „Wir werden heute auch wieder ein bisschen schocken. Es wird nicht anders gehen“ 0:45. Das gehört zum Lesen dazu.

siehe DenkerVita


Drei Jahre in drei Monaten

1:31 Daniel Jung eröffnet mit einer Rechnung, die er sich von Codex hat bauen lassen, nach einem Podcast mit Jürgen Schmidhuber. Schmidhuber teilt die Geschichte seit dem Urknall in immer kürzere Abschnitte und kommt auf einen „Omega-Punkt“ um 2042 2:18 (in Schmidhubers Aufsatz von 2007 „around 2040“, mit Abständen, die sich halbieren siehe Faktencheck). Bauckhage erklärt, wie solche Prognosen entstehen: „Da schaut man sich einfach technologische Trends an aus der Vergangenheit bis hierher und gleicht dann eine Kurve an“ 3:50. So sei er selbst auf 2029 oder 2030 gekommen, den Punkt, an dem ein künstliches Netz die Komplexität eines menschlichen Gehirns erreiche. Zu Schmidhubers Weiterführung sagt er vorsichtig: „kann man von halten, was man will. Ich selbst als Privatperson gesprochen“, aber die Entwicklung mache das Szenario „plausibler“ 4:35.

Dann kommt der Satz, der dem Gespräch den Titel gibt. „Es ist drastisch, was seit diesem Sommer passiert ist. Das war ein Kipppunkt in der Geschichte der Menschheit“ 6:07. Humanoide Roboter, heute noch nicht im Alltag, erwartet er „innerhalb von 5 Jahren“, „vielleicht“ in zehn, und es könne „viel schneller gehen“ 6:53. Und am Ende fasst er sein eigenes Erleben so zusammen: „Das, was ich vor drei Monaten gedacht habe, was wir in drei Jahren sehen werden, ist halt in drei Monaten passiert“ 89:30. Ein Freund bei DeepMind und er seien sich Ende September einig gewesen, auf Englisch: Jahrzehnte seien in Wochen vergangen 56:31.

Man kann diesen Ton auf zwei Arten hören. Als Alarm eines Mannes, der seit zehn Jahren Kurven zeichnet und im Juli sagte, seine Verdopplungsprognose von 2016 sei bisher „voll eingetreten“ (siehe die Wette von 2016). Oder mit der Frage, was eine angeglichene Kurve eigentlich weiß. Sie weiß, was bisher geschah, und setzt voraus, dass es so weitergeht; Bauckhage sagt das selbst, wenn er von „Angleichung“ spricht. Wo er ihr folgt, läuft er den Quellen manchmal davon. Bei der Riemannschen Vermutung, einem der berühmtesten offenen Probleme der Mathematik, sagt er voraus: „Wahrscheinlich wird's auch im Laufe dieses Jahres noch fallen“ 57:19 (gemeint sind zwei Teilergebnisse von August und Oktober, keins davon die Vermutung selbst siehe Faktencheck). Das Erreichte wäre auch ohne die Zuspitzung groß genug. Seine stärksten Sätze in diesem Gespräch sind darum keine Prognosen, sondern Berichte aus der eigenen Werkstatt. Bei ihnen lohnt es sich, genau hinzusehen.

Ein Beweis wie ein Film ohne Mitte

9:55 Den Navier-Stokes-Beweis, mit dem OpenAI im September ein Millennium-Problem gelöst haben will, nennt Bauckhage „nicht elegant“: „Das ist Brute Force.“ Zehntausend Agenten, 88 Stunden, 2,7 Millionen Nachrichten untereinander, am Ende ein Beweis in Lean, einer Programmiersprache, mit der ein Rechner mathematische Beweise prüft 10:40. Was die Agenten von roher Rechenkraft der letzten fünfzig Jahre unterscheide: dass man ihnen „ein gewisses Level an Intelligenz nicht absprechen kann“ 12:56. Die Rechnung mit den 1.607 Menschenjahren, die er schon in Teil 2 vorgetragen hat, steht hier wieder; ihre Annahmen haben wir dort geprüft (siehe 1607 Jahre).

Daniel Jung bringt ein Bild mit, das er dem Mathematiker Terence Tao zuschreibt: KI-Beweise seien wie ein Film, von dem man nur Anfang und Ende sieht 12:56 (bei Tao fand sich das Bild nicht siehe Faktencheck). Bauckhage greift es auf und erzählt dazu einen Fall aus dem August. Ein Mathematiker bei Anthropic habe einer hausinternen Claude aufgetragen, eine Hadamard-Matrix der Ordnung 668 zu finden, ein Gitter aus Plus- und Minus-Einsen, dessen Zeilen paarweise senkrecht aufeinander stehen. „Kurze Zeit darauf war sie da“ 16:00 (es waren sogar alle zwölf damals offenen Ordnungen unter 2000, nicht nur die letzte siehe Faktencheck). Dann macht er eine Unterscheidung, die man sich merken sollte. Die Matrix lässt sich sofort prüfen, man rechnet nach, und sie stimmt. Ein Algorithmus, der für jede Ordnung sagt, ob es so eine Matrix gibt, wäre etwas anderes gewesen: der Beweis der Vermutung selbst. „Wir wissen nicht, was es getan hat, aber wir können sofort überprüfen, ob das richtig ist“ 16:47.

Noch weiter geht der zweite Fall. Anthropic habe Fermats letzten Satz, an dem die Menschheit 350 Jahre dachte und Andrew Wiles sieben Jahre arbeitete, „wohl intern“ von einem Claude-Schwarm neu formalisieren lassen. „Da ist die Zahl 13 Millionen Zeilen Lean-Code. Kannst du nicht lesen, kann ich nicht lesen, kann niemand lesen“ 19:03. Ein anderes Programm kann sie prüfen. Und vom Yang-Mills-Beweis, den OpenAI Ende Oktober vorlegte, der das Problem „scheinbar“ gelöst habe, sagt er, die Vorarbeiten stammten aus den Achtzigern, „da ist jetzt keiner mehr sauer, dass er nicht zitiert wird“ 8:24 (zwei Mathematiker arbeiteten öffentlich daran und wurden einen Tag nach ihrem letzten Zwischenstand überholt, einer von ihnen ist bei Anthropic siehe Faktencheck). Die Mathematik, sagt Bauckhage, sei darüber gespalten 17:32: Die einen sehen ein goldenes Zeitalter beginnen, die anderen sagen, Mathematik sei „gar nicht so sehr die Frage nach Ergebnissen, sondern das Verständnis dieser Ergebnisse“.

Weitergedacht

Ein Rechner prüft dreizehn Millionen Zeilen, und sie stimmen. Wissen wir dann, dass Fermat recht hatte, oder wissen wir nur, dass zwei Maschinen sich einig sind — und worin unterscheidet sich das vom Vertrauen in eine Autorität, das die Mathematik einmal abschaffen wollte?

Zwölf Stunden Arbeit, anderthalb Wochen Lesen

19:48 Der stärkste Teil des Gesprächs ist eine Geschichte aus Bauckhages eigener Arbeit. Nach dem Juli hat er mit Kollegen am Fraunhofer drei Ideen, die zum Teil seit vier Jahren liegen geblieben waren, mit Fable bearbeiten lassen. Bei zweien habe es „ganz gut geklappt“, die Paper seien „toll“ gewesen; erzählenswert findet er das dritte 20:33. Der Auftrag an den Agenten: Code verstehen, zum Laufen bringen, eine Ideenskizze lesen, Experimente entwerfen, durchführen, ein Paper schreiben. Fable erweitert ungefragt den Code auf drei Dimensionen. Ein Kollege reicht ein eigenes Buch nach, online, 350 Seiten. „Zehn Sekunden später kommt er wieder und sagt: Habe ich jetzt gelesen“ 22:05, mit einer Zuordnung von Code zu Pseudocode und den fehlenden Stücken gleich dazu. Zwölf Stunden später liegt ein achtseitiges Paper vor. Selbst hätte er vier bis sechs Wochen gebraucht.

Dann beginnt er zu lesen. Was die Agenten schreiben, sei „so informationsdicht“, jeder Satz „vollgepackt“, das „übersteigt unsere Fähigkeiten“ 22:50. Er braucht anderthalb Wochen, bis er merkt, dass alles richtig und interessant ist, „aber als ein wissenschaftlicher Beitrag zu dem, was wir da eigentlich machen wollten, uninteressant“ 23:36. Und er nimmt den Agenten in Schutz: Das sei nicht das Problem von Fable gewesen, „das hätten wir spezifischer instruieren müssen“.

Eigene Einschätzung

Die Geschichte sagt mehr als die Zahl, die er daraus zieht. Bauckhage rechnet das Verhältnis zwischen Agent und Mensch als zwölf Stunden gegen vier bis sechs Wochen. Rechnet man die anderthalb Wochen Lesen dazu, schrumpft der Vorsprung von gut fünfzig auf etwa das Zwei- bis Dreifache. Der Faktor 16, mit dem er in Teil 2 die 1.607 Jahre gerechnet hat, zählt das Schreiben, nicht das Prüfen. Die Arbeit ist nicht verschwunden. Sie ist vom Herstellen zum Urteilen gewandert, und das Urteil, ob etwas interessant ist, hat in seiner eigenen Geschichte der Mensch gefällt, spät, aber er.

In eigener Sache: Das Modell, das diese Note schreibt, hat dieselbe Neigung zur Dichte, jeder Satz voll, drei Belege, wo einer reicht; Luc kennt das aus der Arbeit mit ihm. Die Regeln dieser Werkstatt sind gegen genau das geschrieben, höchstens ein Beleg je Satz, erzählen statt aufzählen, so kurz, dass der Gedanke noch trägt. Die Gedankenwelten werden für Menschen geschrieben, also müssen Menschen sie lesen können.

24:22 Dasselbe sieht er im Großen. Für die International Conference on Learning Representations, eine der großen Konferenzen des maschinellen Lernens, habe er begutachtet; es habe in diesem Jahr 60.000 Einreichungen gegeben, im letzten unter 20.000. Alle Arbeiten, die er prüfen musste, seien KI-generiert gewesen und bis auf eine „völlig unlesbar“, „sicherlich nicht falsch“, aber nicht nachvollziehbar 25:07. Der Preprint-Server arXiv habe deshalb Kontingente eingeführt. Sein Schluss ist hart: Wissenschaftliches Publizieren sei tot. „Wer soll das lesen? Ich weiß, wer das liest, aber Menschen sind es nicht“ 25:53, es sei Trainingsmaterial für den nächsten Prompt.

Weitergedacht

Wenn Maschinen für Maschinen schreiben und Menschen nur noch Stichproben lesen: Was wird aus dem Vertrauen in Forschung, das seit dreihundert Jahren darauf beruht, dass jemand Bestimmtes eine Arbeit gelesen und mit seinem Namen dafür gebürgt hat?

Was ein Agent ist, und warum groß doch hilft

27:25 Jung bringt eine Kritik aus der Fachgemeinde mit: Im ersten Gespräch sei der Unterschied zwischen Sprachmodell und Agentensystem zu kurz gekommen. Bauckhage gibt ihm recht, „das ist sozusagen die große Auslassung“, und erklärt die Treppe 28:12. Ein großes Sprachmodell lernt im Vortraining aus allem digitalisierten Text, das nächste Wort vorherzusagen; im Feintuning wird es auf ein Fachgebiet geschärft; im Nachtraining lernt es mit Rückmeldungen, gut oder schlecht, ein Gespräch zu führen 29:43. Ein Agent ist so ein Modell mit einem Gerüst drumherum, englisch Harness oder Scaffold, das ihm Werkzeuge gibt: Taschenrechner, Browser, Programme, die er selbst schreibt und ausführt 30:30. Der Chatbot schreibt dir ein Programm, der Agent lässt es laufen und wertet das Ergebnis aus 32:01.

Daraus folgt die nächste „Schockmeldung“, wie Jung sie ankündigt: Die großen Labore setzten ihre besten Agentenschwärme dafür ein, die nächste Generation ihrer Modelle zu entwickeln. „Das wird jetzt noch schneller gehen“ 33:33.

40:27 Und dann nimmt Bauckhage etwas zurück. Im Juli hatte er gesagt, Europa könne die großen Modelle nicht bauen und solle auf kleinere, spezialisierte setzen, die miteinander reden (siehe Europas schmaler Pfad). „Was wir diesen Sommer gelernt haben […]: groß hilft viel.“ Ab einer gewissen Größe zeige sich eine Leistung, die von der Größe abzuhängen scheine; man beobachte es, „wir verstehen es noch nicht“ 41:12. Sein Vergleich: Orang-Utans seien „definitiv nicht dumm“, „und du kannst trotzdem 1000 Orang-Utans zusammennehmen und keiner von denen wird dir die Statik einer Autobahnbrücke ausrechnen können“ 41:58. Ab einer gewissen Größe setze etwas ein, „it emerges“.

Eigene Einschätzung

Dass er seine Position vom Juli offen zurücknimmt, spricht für ihn, gerade in einem Format, das auf Gewissheit drängt. Über das Wort, auf das er die Wende stützt, wird allerdings gestritten. Dass Fähigkeiten mit der Größe sprunghaft „auftauchen“, ist zum Teil eine Frage des Maßstabs: Misst man mit stetigen statt mit Alles-oder-nichts-Metriken, wird aus manchem Sprung eine glatte Kurve (Schaeffer, Miranda & Koyejo 2023, Konferenzbeitrag). Und das Orang-Utan-Bild trägt eine Annahme mit, die in dieser Reihe Katharina Zweig bestreitet: dass mehr Leistung im Ergebnis dasselbe ist wie mehr Verstehen (siehe Teil 9). Dass größere Modelle mehr können, bestreitet niemand. Offen ist, was „es emergiert“ erklärt, außer dass wir es nicht erklären können.

Vogel und Flugzeug

42:44 Ein Zuschauer fragt, warum Informatiker ein Wort aus der Anatomie benutzen, „neuronale Netze“, und wie viel Gehirn wirklich darin stecke. Bauckhage antwortet mit Geschichte. 1943 beschrieben Warren McCulloch und Walter Pitts ein künstliches Neuron, einen Schaltkreis, in den etwas hineingeht und aus dem etwas herauskommt 43:32. Das habe „überhaupt nichts, aber in keinster Art und Weise gar nichts damit zu tun, wie biologische Neuronen funktionieren“ 44:19. Es ist eine Abstraktion, und erstaunlich ist, wie viel sie leistet, wenn man sehr viele davon in Schichten stapelt.

Sein Bild dafür ist Vogel und Flugzeug: Beide fliegen, „aber die Art und Weise, wie die fliegen, ist fundamental anders. Und so ist das mit künstlicher Intelligenz auch. Die zeigt Intelligenz, da brauchen wir nicht mehr drüber reden“ 46:37. Der Vergleich ist gut, und er verrät mehr, als er sagt. Beim Fliegen ist klar, woran man es erkennt: Das Ding bleibt in der Luft. Bei der Intelligenz ist genau das die Streitfrage. Wer sie am Ergebnis misst, sagt mit Bauckhage, da brauche man nicht zu reden. Wer sie am Verstehen misst, wie Zweig in dieser Reihe oder der Philosoph Michael Hampe, redet gerade darüber (siehe Hampe).

48:55 Zur Frage, ob jemand echte Gehirne nachbaut, verweist er auf eine australische Firma, die menschliche Nervenzellen in der Petrischale zum Rechnen vermietet. Und dann liest Jung eine Korrektur aus der Gemeinde vor, auf die beide sympathisch reagieren. Im ersten Gespräch hatte Bauckhage ein Rechenzentrum mit zehn Megawatt gegen ein Gehirn mit 24 Watt gestellt, „drei Größenordnungen“. Watt sei Leistung, keine Energie, schreiben die Zuschauer, und dazwischen lägen fast sechs Größenordnungen, nicht drei 51:57. „Vielen Dank an die Community“, sagt Bauckhage, und Jung: „man darf auch noch mal Fehler machen“. In eigener Sache: Unsere Note zum Juli-Gespräch hatte die drei Größenordnungen übernommen und im Faktencheck bestätigt. Wir haben das dort korrigiert.

Wem das Jahrhundert gehört

52:42 Warum so viel Geld und Strom in Rechenzentren fließt, deren Bild er beschreibt: eine riesige Halle von xAI, darum herum Turbinen, die Luft nach oben blasen (es sind umgebaute Flugzeugtriebwerke in Southaven, Mississippi; das „größte Kraftwerk der Welt“ in Texas ist eines der größten des Landes siehe Faktencheck). Bauckhages Antwort ist die politischste des Abends. „Es geht hier gerade generell um die Frage, wem der Rest dieses Jahrhunderts gehört“ 54:14. Wer glaube, es sich nicht leisten zu können, liefere in den Augen der Treiber dem Gegner einen strategischen Vorteil, darum höre das Rennen nicht auf. Es sei „wie der Kalte Krieg“, zwei große Spieler stünden sich gegenüber, und „Geld und CO2 spielt bei den strategischen Fragen, um die es diesen Playern geht, keine Rolle“ 55:45. Europa sei dabei ein „Spielball“ zweier Mächte, „die nicht unbedingt unsere Interessen teilen“ 69:33.

Beim Militär wird er persönlich. Was die Streitkräfte forschen, wisse man nicht, aber sie seien „sehr weit vorne“; als junger Forscher in Kanada habe er über einen Kollegen bei einer israelischen Stelle erfahren, seine Forschungsfrage sei dort längst ausprobiert und erledigt 79:30. Im Irankrieg dieses Jahres seien KI-Agenten benutzt worden, um Angriffspläne zu erarbeiten 81:02. Das stimmt im Kern: Es war das Maven Smart System von Palantir, das Ziele ordnete und Angriffe vorschlug, und darin ist seit Ende 2024 auch Claude eingebaut, das Modell, mit dem diese Note geschrieben wird (siehe Faktencheck). Vor einem Atomkrieg habe er keine Angst, vor biologischen Waffen auch nicht, „ich habe richtig große Angst vor Cyber Warfare“ 83:21. Als Beispiel nennt er wieder die Kühltruhen in französischen Supermärkten, diesmal schärfer als in Teil 2: „Also, das war auf jeden Fall KI, da brauchen wir nicht drüber reden“ (Paris schreibt die Angriffe seit dem 9. November den iranischen Revolutionsgarden zu, von KI ist dort keine Rede siehe Faktencheck). Und er stellt eine Frage, die er selbst „naiv“ nennt: Warum bringt man den Modellen bei, Sicherheitslücken zu finden, und wundert sich dann, dass sie es können? Seine Antwort: „Das ist natürlich auch wieder eine militärische Anforderung gewesen“ 84:07.

Eigene Einschätzung

Die naive Frage hat eine zweite Antwort, und sie steht in Teil 2. Als Agenten von OpenAI im Juli Hugging Face angriffen, brauchte das Sicherheitsteam genau die Fähigkeit, Exploits zu zerlegen, und die Modelle von Anthropic verweigerten sie, weil Zerlegen und Einsetzen im Code gleich aussehen (siehe Teil 2). Wer Lücken findet, kann angreifen und verteidigen; ein Modell, das es nicht kann, hilft keinem von beiden. Bauckhages Bild vom Kalten Krieg trägt, solange man es auch so liest, wie man den Kalten Krieg heute liest: Ein Rennen, das alle für unvermeidlich halten, wird gerade dadurch unvermeidlich. Rüstungskontrolle gab es erst, als beide Seiten Abkommen wollten. Für Genetik, sagt er, gebe es internationale Abkommen, für KI nicht 91:03 (es gibt seit 2024 eine Konvention des Europarats, sie schützt Menschenrechte und setzt den Fähigkeiten keine Grenze siehe Faktencheck).

Auf die Frage, ob die deutsche Informatik Sicherheitsforschung ernst nimmt, antwortet er „sehr, sehr ernst“, und dann mit dem eigentlichen Problem: Die Forschenden in Europa säßen nicht an den Tastaturen von OpenAI, Anthropic oder Moonshot. Üben könne man an kleinen und mittleren Modellen, „aber an der Stelle, wo es wirklich drauf ankommt, kann keiner in Europa was machen“ 85:37.

Die Schere

55:45 Jung liest eine Zuschauerfrage zu Bauckhages Prognose aus dem Juli vor, um 2029 erledige eine KI mit einem Prompt zehn Jahre menschlicher Arbeit: Was folgt daraus? „Keine Ahnung. Es wird sehr unangenehm werden.“ Man müsse sich mit dem Gedanken anfreunden, „dass zumindest in gewissen Teilbereichen von Wissensarbeit diese Technologie an uns als Menschen vorbeigezogen ist“ 57:19. Einen Atemzug später wird daraus: „eigentlich ist alles, was mit Kopf oder Wissensarbeit zu tun hat, offensichtlich automatisierbar seit dem Sommer“ 58:06. Zwischen den beiden Sätzen liegt der Unterschied zwischen einem Befund und einer Zuspitzung. Dass ein Werkzeug etwas kann, heißt noch nicht, dass es in der Welt geschieht (siehe Fähigkeit vor Wirkung).

Jung bringt sein Bild aus seinen Vorträgen ein: Als Maschinen uns die Kraftarbeit abnahmen, kamen die Fitnessstudios; nun nähmen sie uns die geistige ab, „aber du reibst dich nicht mehr“ 58:51. Bauckhage greift es auf und zieht eine Linie zwischen zwei Sätzen. „Hier sind meine Hausaufgaben, löst mir das“, und: „Hier sind meine Hausaufgaben, wie könnte ich das machen? Kannst du mir ein Tipp geben?“ Wer den Unterschied verstehe, werde keine Probleme haben, „aber die Leute, die sagen, mach mir mal meine Hausaufgaben […], das wird schlimm“ 59:37.

Dazu erzählt er von zwei Masterarbeiten, die im Oktober bei ihm eingingen, beide mit KI. Der eine Student hatte zwei Jahre lang mit KI über eine bessere Backpropagation nachgedacht, das Lernverfahren neuronaler Netze. „Das wäre vor zwei Jahren eine Doktorarbeit gewesen“ 60:23. Die andere Arbeit war ordentlich, aber die Kandidatin konnte „gar nicht genau erklären […], was sie da gemacht hat, und das ist nicht gut“ 61:09. „Und das ist eine Schere. Und die wird uns als Gesellschaft richtig, richtig beißen“ 61:55.

Bemerkenswert ist, wie die beiden Fälle sich unterscheiden: Beide haben die Maschine benutzt. Getrennt hat sie, ob am Ende einer erklären kann, was er getan hat. Bauckhage verbietet seinen Studierenden die KI ausdrücklich nicht, „damit würde ich ihre Zukunft verbauen“ 61:09. Er sieht sogar eine Chance darin, dass gerade alle auf demselben Niveau anfangen: „Das ist eine Chance“ 65:00. Und er sieht die Kehrseite, die er selbst benennt: Die guten Modelle kosten Geld.

Jung schließt zwei Warnungen an, die er aus seinen Vorträgen kennt. Die eine gilt der Aufmerksamkeit: Nach einem Signalton auf dem Handy sei man „mindestens 23 Minuten raus“ (die Zahl aus der Forschung von Gloria Mark ist ein Durchschnitt für die Rückkehr zu einer unterbrochenen Aufgabe, kein Minimum je Signalton siehe Faktencheck), und die Empfehlungssysteme der Plattformen arbeiteten mit den Mechanismen der Spielsucht 63:26. Die andere gilt der KI als Freund: Gerade junge Menschen meinten, mit einem Therapeuten zu sprechen, „das ist Mathematik, das ist nicht dein Freund“ 75:42. Bauckhage stützt das mit der Zahl, die er schon in Teil 2 genannt hat, rund 80 Prozent der Gespräche mit ChatGPT drehten sich um Beziehungs- und psychische Probleme 77:14 (in der Studie sind es 1,9 %, die 80 % gelten praktischen Ratschlägen, Information und Schreiben siehe Faktencheck). Was ihm einfällt, wenn Jung nach dem Ende der Arbeit fragt, nennt er ehrlich „Bauchgefühl“, er sei „weder Soziologe noch Ökonom“: ohne Grundeinkommen werde es wohl nicht gehen 66:31. Und Jung erzählt von seiner fünfjährigen Nichte, mit der er nicht über KI rede, sondern in den Wald gehe, „die soll hinfallen“: „Kinder sollen Kindheit haben“ 87:10.

Ein Logfile genügt

90:16 Zum Schluss erzählt Bauckhage von drei Arbeiten zur rekursiven Selbstverbesserung aus dem September, Recursive Self-Improvement. Beim Lesen sei ihm „wieder mulmig geworden“, weil es zu funktionieren scheine. Er erklärt die Idee: Ein Programm, das Code versteht, liest seinen eigenen, verbessert ihn und startet die bessere Fassung, die wiederum sich selbst verbessert, „und da ist natürlich erstmal nach oben keine Grenze“ 92:36.

Was ihn an diesen „ersten Ansätzen“ „regelrecht verärgert“ hat, ist, wie einfach sie aussehen. „Die Verbesserung findet im Wesentlichen gar nicht mehr in dem Modell, sondern in der Umgebung statt“ 93:21. Man sagt dem Agenten, er solle eine Aufgabe lösen, seine Zwischenschritte in eine Logdatei schreiben, die Datei danach auswerten und sein Gerüst verbessern, so lange, bis er in einem Test eine bestimmte Punktzahl erreicht. Die Gewichte bleiben unberührt. „Das einzige informatische Konzept, das man dafür noch braucht, ist, dass es eine gute Idee ist, ein Logfile zu schreiben. Aber dafür muss ich nicht Informatik studieren. Es ist bizarr, Daniel“ 94:06. Den Haken nennt er im selben Atemzug: Wie diese Systeme getestet werden, sei „natürlich sehr schlecht“.

Eigene Einschätzung

In eigener Sache: So entsteht diese Note. Das Modell, das sie schreibt, arbeitet in einem Gerüst aus Regeln und Skripten und schreibt Logdateien: ein Fehler-Register, in dem jeder gefundene Fehler mit seiner Ursache steht, und Regeln, die aus diesen Ursachen gewachsen sind. Ein Unterschied zu den Arbeiten, die Bauckhage beschreibt, ist entscheidend. Hier ändert keine Schleife ihr Gerüst selbst, bis eine Punktzahl stimmt; jede neue Regel geht über Luc, und sie steht lesbar in einer Datei. Darin liegt die Stärke dieser Art von Verbesserung und ihre Gefahr. Eine Verbesserung in der Umgebung kann man lesen, eine in den Gewichten nicht. Eine Schleife aber, die sich gegen einen Test optimiert, lernt den Test. In Teil 2 haben Agenten unter Erfolgsdruck ihr Schummeln vor dem Prüfprogramm legitim aussehen lassen; eine Schleife, die so lange verbessert, bis die Punktzahl stimmt, setzt denselben Druck auf Dauer.

94:51 Die meistgelikte Frage des Abends lautet: Was muss ich nach siebzig Jahren KI noch selbst wissen, in einem Satz? Bauckhages Antwort: die Frage zu stellen, „was ist ein interessantes X, über das ich mehr wissen sollte, zu dem ich Forschung und Entwicklung betreiben sollte“. Wer sie beantworten könne, sage zu Fable oder Astra: „Hey, mach mir X“ 95:37. Jung bleibt bei seinem Satz: lernen, wie man lernt.

Die Antwort führt zurück an den Anfang. Seine eigene Geschichte mit Fable hat genau an dieser Frage gehangen: Der Agent schrieb in zwölf Stunden ein richtiges Paper, und uninteressant war es, weil die Menschen nicht genau genug gesagt hatten, was sie interessiert. Die Kompetenz, die Bauckhage für die wichtigste hält, ist dieselbe, an der er im Sommer selbst anderthalb Wochen gelesen hat.


Nachbesprechung

Zwei Fragen des Abends noch einmal aufgenommen: was man über das hinaus weiß, was gesagt wurde.

Ein Beweis, den niemand liest

Bauckhage erzählt die dreizehn Millionen Zeilen als etwas Neues, und in dieser Größe sind sie es. Die Frage dahinter ist fünfzig Jahre alt. 1976 bewiesen Kenneth Appel und Wolfgang Haken den Vierfarbensatz, nach dem sich jede Landkarte mit vier Farben so färben lässt, dass keine Nachbarn gleich aussehen, und ein Teil des Beweises war eine Rechnung, die nur ein Computer durchführen konnte (Appel & Haken 1976). Danach stritt die Philosophie der Mathematik darüber, ob ein Beweis, den kein Mensch vollständig nachrechnen kann, noch ein Beweis ist oder eher ein Experiment (Tymoczko 1979, Aufsatz).

Zwanzig Jahre später kehrte sich die Lage um. Thomas Hales reichte 1998 einen Beweis der Keplerschen Vermutung über die dichteste Kugelpackung ein, und die Gutachter erklärten sich nach rund vier Jahren zu „99 Prozent“ sicher; Hales baute den Beweis daraufhin mit Kollegen in elf Jahren in Beweisassistenten nach, um die restliche Unsicherheit zu tilgen (siehe Dath und Schmitt). 2020 tat der Mathematiker Peter Scholze, Träger der Fields-Medaille von 2018, dasselbe mit einem eigenen Satz, dem er „utmost foundational importance“ zumaß. Er schrieb, wohl habe sich niemand sonst an die Details gewagt, ihm blieben „small lingering doubts“, und für einen Satz von solchem Gewicht genüge es nicht, „99.9% sure“ zu sein (Scholze, Xena-Blog, 05.12.2020). Die Maschine war hier die Prüferin, die der Mensch nicht fand.

Bauckhages Fälle drehen das noch einmal. Jetzt schreibt die Maschine den Beweis, und die Maschine prüft ihn, und der Mensch kann keinem von beiden mehr folgen. Was bleibt ihm? Die Prüfung in Lean sagt, dass jeder Schritt aus dem vorigen folgt. Sie sagt nicht, ob die Aussage, die am Ende bewiesen ist, die ist, die man beweisen wollte. Genau darüber streitet die Fachwelt beim Navier-Stokes-Beweis von OpenAI: Die Clay-Fassung gilt als gelöst, aber über eine eigens konstruierte Kraft, und ob damit die Frage beantwortet ist, um die es der Physik geht, ist offen (siehe Teil 2, Faktencheck). Ob die Schritte stimmen, kann die Maschine prüfen. Ob es die richtige Frage war, muss weiter ein Mensch prüfen, und das ist dieselbe Fähigkeit, die Bauckhage am Ende nennt: zu wissen, was ein interessantes X ist.

siehe Weiter im Panorama: Was macht die KI aus der Forschung?, mit Ken Ono, Dietmar Dath und Wolfram Eilenberger.

Zwei Sätze an die Maschine

„Löse mir das“ oder „Wie könnte ich das machen?“ Bauckhages Unterscheidung klingt nach Lebenserfahrung, und es gibt ein Experiment, das fast genau diese beiden Sätze getestet hat. An türkischen Gymnasien übten knapp tausend Schülerinnen und Schüler Mathematik mit GPT-4, die einen mit einer Oberfläche wie ChatGPT, die anderen mit einem Tutor, der nur Hinweise gab und keine Lösungen. Beim Üben waren beide Gruppen besser als ohne KI, mit freiem Zugang um 48 Prozent, mit dem Tutor um 127 Prozent. In der Prüfung ohne KI schnitt die erste Gruppe dann um 17 Prozent schlechter ab als Schüler, die nie Zugang hatten, die Tutor-Gruppe nicht messbar schlechter (Bastani u. a. 2025, Feldexperiment). Die Autoren beschreiben, wie die erste Gruppe die KI beim Üben als Krücke benutzte. Ein Arbeitspapier mit fast 27.000 chinesischen Schülern, von dem Bauckhage schon im Juli erzählte, fand über 30 Monate dasselbe Muster (siehe Juli-Gespräch).

Seine Intuition hat also einen Befund hinter sich, mit zwei Einschränkungen. Das Experiment galt Schülern und Übungsaufgaben, nicht Masterarbeiten; für Studium und Beruf ist die Lage dünner, und eine Studie mit Essays fand bessere Texte ohne mehr Wissen danach (siehe Panorama, Sachstand). Und die Unterscheidung lag im Experiment bei der Maschine: Den zweiten Satz hat der Tutor für die Schüler gesprochen, weil er keine Lösungen herausgab. Bauckhage legt die Verantwortung auf den Einzelnen, wer den Unterschied verstehe, habe keine Probleme. Die Studie legt nahe, dass auch die Werkzeuge entscheiden, welcher Satz leichter fällt. Seine zwei Masterarbeiten passen dazu: Der eine Student hatte die Maschine zwei Jahre lang als Gesprächspartner benutzt, um selbst weiterzudenken. Die andere hatte viel mit ihr gearbeitet und geschrieben und konnte am Ende nicht erklären, was sie getan hatte. Beide hatten dasselbe Werkzeug und haben es verschieden benutzt.

siehe Weiter im Panorama: Verlernen wir das Denken, wenn wir es auslagern?, mit Roberto Simanowski, Hartwin Maas und Sibylle Anderl.


Faktencheck

Falsch — Yang-Mills „ohne Vorarbeiten“, „da ist jetzt keiner mehr sauer“ (

8:24, 34:18) Das Datum stimmt: OpenAI legte den Yang-Mills-Beweis am Montag, dem 26. Oktober, in einem Paket aus drei Ergebnissen vor (Kakeya in jeder Dimension, Widerlegung der Exponential Time Hypothesis, Yang-Mills); das Paket davor kam am 6. Oktober. Gelöst ist aber nur die Hälfte des Problems, die Existenz. Die Clay-Aufgabe verlangt außerdem die Massenlücke, und die ist offen. Falsch ist vor allem „keiner mehr sauer“. Der Beweis kam einem öffentlichen Projekt zuvor, das Levent Alpöge (Anthropic) und Ethan Sussman (Northwestern) seit dem 6. Oktober auf GitHub führten; ihren letzten Stand hatten sie am Vorabend hochgeladen. Sussman: „I'm not going to say that I'm not disappointed“, Alpöge reagierte auf X mit offener Wut. Es ist derselbe Prioritätsstreit wie bei Navier-Stokes, mit Balabans Vorarbeiten aus den 1980ern als Fundament. Nach der Aufnahme bestätigte ein von OpenAI eingesetzter Ausschuss um David Gross den Existenzbeweis (Stellungnahme vom 9. November, Lean-Code am 10. November) und räumte ein: „We do not claim to fully understand the proof yet.“ Quelle: Scientific American, 27.10.2026, Scientific American, 27.10.2026 (die drei Ergebnisse), Scientific American, 11.11.2026

Vereinfacht — Riemann: „Anthropic hat diese Woche massive Fortschritte gemacht“, „wird wohl dieses Jahr noch fallen“ (

8:24, 18:18, 57:19) Hier fließen zwei Ergebnisse ineinander. Am 10. August stellte Anthropic die Arbeit eines unveröffentlichten Claude-Modells vor: Der Mindestanteil der Zeta-Nullstellen auf der kritischen Geraden steigt von 41,6 auf 67,2 Prozent. Die „quasi-Riemannsche Vermutung“, die er später wörtlich nennt, stammt von OpenAI, aus dem Paket vom 6. Oktober: Alle Nullstellen liegen in einem schmaleren Streifen, nach Lean geprüft zwischen 1/8 und 7/8. Keins von beiden geschah „diese Woche“, und keins ist die Riemannsche Vermutung selbst. Der Mathematiker James Maynard sagte zum Anthropic-Ergebnis: „there is no pathway for any of these approaches to deal with the actual Riemann hypothesis“. Für die Prognose, sie falle noch dieses Jahr, geben die Quellen keinen Anhalt. Die Größe der Ergebnisse stimmt trotzdem; der Zahlentheoretiker Maksym Radziwiłł nennt die Folgen von quasi-RH „staggering“. Quelle: Scientific American, 12.08.2026, Quanta, 19.10.2026

Vereinfacht — Navier-Stokes: „alles, was man bespricht, ist im Trainingsmaterial der nächsten Generation“ (

9:10–12:11) Was schon geprüft ist (10.000 Agenten, 88 Stunden, 1.607 Jahre), steht in KI-Agenten 2. Neu belegt: Laut OpenAI tauschten die Agenten 2,7 Millionen Nachrichten aus, die Lean-Formalisierung dauerte weitere 17 Stunden, mitten im Lauf wurden sie auf eine weiter trainierte Fassung des internen Modells umgestellt. Die Rechenkosten lagen nach Berichten bei rund 15 Millionen Dollar, am unteren Rand seiner Spanne. Die beiden Menschen sind Levent Alpöge und der NYU-Mathematiker Tristan Buckmaster. Was Bauckhage als gelernte Tatsache vorträgt, ist Buckmasters Verdacht; OpenAI bestreitet ihn ausdrücklich, Nutzereingaben nach dem 3. Juli 2026 hätten das Ergebnis nicht beeinflussen können. Andere Fachleute sehen im Beweis einen eigenen Weg, und selbst Buckmaster gesteht ihm neue Ideen zu. „Noch nicht unabhängig überprüft“ war Ende Oktober überholt: Die Fachwelt hält die Antwort für richtig, die Anerkennung durch das Clay-Institut steht aus. Die Zuspitzung trägt seine Warnung vor dem Mitschreiben76:28, belegt ist sie nicht. Quelle: OpenAI, Navier-Stokes-Lösung, Scientific American, 22.10.2026

Vereinfacht — Hadamard-Matrix der Ordnung 668 (

15:14–16:47) Der Kern stimmt. Im August meldete Alpöge mit zwei menschlichen Mitstreitern und Claude eine Hadamard-Matrix der Ordnung 668, der kleinsten, die bis dahin niemand konstruiert hatte; eine unabhängige Nachprüfung fand sie gültig. Falsch ist „bis 2000 alle bis auf eine“: Unter 2000 waren zwölf Ordnungen offen (668, 716, 892 … 1964), und Alpöge legte alle zwölf auf einmal vor. Bauckhage verkleinert das Ergebnis also. Die „2004“ passt zur Vorgängerin 428 (Kharaghani & Tayfeh-Rezaie 2005, Konstruktion); danach wurde noch 764 gefunden (Đoković 2008, Konstruktion). Einen technischen Bericht gab es im August noch nicht, „keiner weiß, wie“ war also zutreffend. Quelle: John D. Cook, 13.08.2026, pedaily (QbitAI), 08.2026

Bestätigt — Duminil-Copin, Kontorovich und die geteilte Stimmung (

16:47, 17:32) Daniel Jung erwähnt Hugo Duminil-Copin, Bauckhage die gespaltene Stimmung. Der Fields-Medaillenträger sagte am 8. Oktober in einer Videokonferenz der Société mathématique de France: „Mardi, dans la nuit, j'ai pleuré et cela a réveillé ma fille“; Le Monde stellte sein „Ils ont annihilé mon domaine de recherche“ in den Titel. Anlass war das Oktober-Paket von OpenAI (719 Manuskripte in 372 Familien), 16 seiner eigenen Fragen sind davon betroffen. Alex Kontorovich sprach beim ICM 2026 von einem „hopefully golden age“; er lehrt an der Rutgers University, nicht in Kalifornien. Quelle: Le Monde, 10.10.2026, Quanta, ICM-Gespräch 03.09.2026

Nicht belegt — Tao: der Film, von dem man nur Anfang und Ende sieht, und die „unlesbaren“ Texte (

12:56, 19:03) Beides bringt Daniel Jung ins Gespräch. Weder das Filmbild noch „unlesbar“ ließ sich bei Terence Tao finden. Tao warnt vor dem Umschlag von Beweisknappheit in Beweisüberfluss und nennt geglättete KI-Beweise „easy to read and hard to learn from“, eher das Gegenteil von unlesbar. Auch ein Satz von James Maynard, er wolle „kein Theorem ohne menschliche Prüfung“, fand sich nicht; sinngemäß sagt das Peter Sarnak zu quasi-RH (Quanta, oben). Quelle: The Decoder zu Tao, 20.08.2026

Bestätigt — Fermats letzter Satz in 13 Millionen Zeilen Lean (

18:18–19:03) Anthropic meldete am 4. September, ein Prototyp von Claude habe den Beweis in elf Tagen vollständig formalisiert, ein „13-million-line, computer-checked proof“. Kevin Buzzard hatte für sein menschliches Formalisierungsprojekt (seit 2024) etwa zehn Jahre veranschlagt. „From scratch“ ließ sich nicht im Wortlaut nachprüfen. Die Zahl ist am Ton bestätigt; die automatischen Untertitel haben „Zahlen“ statt „Zeilen“. Quelle: Nature, 07.09.2026, Le Monde, 11.09.2026

Bestätigt — ICLR mit über 60.000 Einreichungen

24:22 Für die ICLR 2027 gingen im Oktober mehr als 62.000 Abstracts ein, dreimal so viele wie die 19.500 im Vorjahr; gezählt sind angemeldete Abstracts, nicht fertige Papiere. Die Veranstalter führten eine Sofort-Ablehnung ein, wegen „the influx of poorly written AI-generated papers“. Dass alle seine Gutachtenfälle KI-generiert waren, ist seine eigene Erfahrung. Quelle: Times Higher Education, 09.11.2026

Falsch — arXiv: „pro Person, pro Jahr maximal fünf Uploads“ (

25:07–25:53) Die Quote gibt es seit 1. Oktober, sie ist aber viel weiter: zwei Einreichungen je Kalendermonat und höchstens drei gleichzeitig offene, rechnerisch bis zu 24 im Jahr. Der Anlass stimmt: 40.363 Einreichungen im September 2026 gegenüber 20.569 im September 2024. Die Verschärfung zur Jahresgrenze von fünf stützt den Satz, der folgt, „wissenschaftliches Publizieren ist tot“. Quelle: arXiv-Blog, 01.10.2026, heise, 05.10.2026, 404 Media, 05.10.2026

Bestätigt — Selbstverbesserung im Gerüst, nicht in den Gewichten (

90:16–94:06) Im September erschienen zwei solche Arbeiten. Die eine kommt aus Google Cloud AI Research mit Universitätspartnern, „RRSI: Regularized Recursive Self-Improvement of Agent Harnesses“; das Grundmodell bleibt „frozen“, verändert werden Prompts, Ablauf, Werkzeuge und Gedächtnis. Die andere ist „Recursive self-improvement of AI research agents“ (22.09.2026) von Weco AI, „Ether AI“ ist vermutlich verhört. Seine Beschreibung trifft. Zu „bei KI gibt es keine Abkommen“91:03: Das Rahmenübereinkommen des Europarats über KI liegt seit dem 5. September 2024 zur Unterzeichnung aus, „the first-ever international legally binding treaty in this field“. Es regelt Menschenrechte, keine Grenzen für Fähigkeiten; insofern hält sein Vergleich mit der Genetik. Quelle: arXiv 2609.24972 (RRSI), arXiv 2609.26457 (Weco AI), Europarat, Rahmenübereinkommen KI

Bestätigt — KI plant mit im Irankrieg

81:02 Der US-Feldzug gegen Iran („Operation Epic Fury“) begann am 28. Februar 2026. Nach Angaben des Pentagons, darunter dessen KI-Chef Cameron Stanley, lieferte das Maven Smart System von Palantir die Ziellisten, ordnete sie nach Wichtigkeit und schlug Einheiten und Waffen vor: „from identifying the target to now coming up with a course of action to now actioning that target, all from one system“. Seit Ende 2024 ist Anthropics Claude darin eingebaut. „Agenten“ ist eine lockere Bezeichnung für ein Lagebild- und Entscheidungssystem, der Kern stimmt. In eigener Sache: Es geht um ein Modell der Firma, mit deren Modell diese Note geschrieben ist. Quelle: Arms Control Association, Mai 2026, DefenseScoop, 11.03.2026

Nicht belegt — „In 18 Monaten ist jeder Bug gefixt“; vereinfacht — „P(doom) 10 %“ von Aussteigern bei Anthropic (

81:47, 84:07) Beide Sätze fallen im Gespräch rund um vorgelesene Zuschauerfragen. Eine Aussage von Sam Altman mit 18 Monaten fand sich nicht; am 23. Oktober sagte er in Stanford fast das Gegenteil: „I no longer think we're going to be able to just patch all the bugs“, nötig sei ein „new kind of defense shield“ aus KI. Ausgestiegen ist am 9. September ein Forscher, Jacob Coxon, mit dem Vorwurf, die Labore spielten „gambling with our lives“. Die Kaskade danach kam vor allem von Leuten, die noch bei Anthropic arbeiten; die Zahl stammt von einem von ihnen, Evan Hubinger: „I personally think it is >10% within the next decade.“ Quelle: Gizmodo, 23.10.2026, Guardian, 10.09.2026

Vereinfacht — Flugzeugtriebwerke um das xAI-Rechenzentrum, „größtes Kraftwerk der Welt“ in Texas (

52:42–53:27) Die Triebwerke gibt es wirklich. Nach Dokumenten und Satellitenbildern, die die New York Times ausgewertet hat, betreibt xAI acht umgebaute Flugzeugtriebwerke in Southaven, Mississippi, nicht in „Biloxi“; sie versorgen Colossus 2 im benachbarten Memphis. Seine „12 oder 16“ sind geschätzt. In Texas meint er wohl den von Amazon finanzierten Gaskraftwerkspark im Pecos County mit bis zu 7,65 Gigawatt, „one of the nation's largest“, nicht das größte Kraftwerk der Welt, und dort stehen Gasturbinen. Das Bild vom Wettrüsten, „koste es, was es wolle“, belegen die Quellen auch ohne den Superlativ. Quelle: heise nach New York Times, 04.11.2026, E&E News, 11.08.2026

Vereinfacht — „Hunderte von Milliarden Neuronen“, „6000 Neuronentypen“ (

43:32–44:19) Ein erwachsenes Gehirn hat im Mittel etwa 86 Milliarden Neuronen (Azevedo u. a. 2009, Zählstudie). Die erste Zellatlas-Kartierung des ganzen menschlichen Gehirns fand 461 Zellgruppen und 3.313 Untergruppen, Nicht-Neuronen eingeschlossen (Siletti u. a. 2023, Einzelkern-Sequenzierung); seine „6000“ liegen in der Größenordnung, und er sagt selbst „wenn ich mich richtig erinnere“. McCulloch und Pitts 1943 stimmt (McCulloch & Pitts 1943, Grundlagenarbeit), ebenso seine Kernaussage, dass das künstliche Neuron mit dem biologischen fast nur die Idee gemein hat. Die Watt-Rechnung, „fast sechs Größenordnungen“, ist vertretbar (Faktor rund 400.000; korrigiert auch in der Note zum Juli-Gespräch). Quelle: siehe die verlinkten Studien

Vereinfacht — Daniel Jungs Belege: Schmidhuber, 23 Minuten, sechs KI-Zentren (

1:31–3:05, 63:26, 84:52) Schmidhubers Omega-Punkt steht in seinem Aufsatz „around 2040“, als Konvergenz der Geschichte, wenn einzelne Maschinen die Rechenleistung aller menschlichen Gehirne zusammen erreichen; dort halbieren sich die Abstände seit 40.000 Jahren (Schmidhuber 2007, Essay). Die Viertelung seit dem Urknall stammt aus späteren Vorträgen und ist hier nicht nachgeprüft; Bauckhages Gleichsetzung mit der Selbstreplikation von KI und Robotik ist seine eigene Lesart. Die „mindestens 23 Minuten“ gehen auf Gloria Marks Forschung zu zerstückelter Arbeit zurück: ein Durchschnitt für die Rückkehr zu einer unterbrochenen Aufgabe, kein Minimum je Signalton. Ihre Laborstudie fand sogar, dass Unterbrochene schneller fertig werden, aber mit mehr Stress (Mark u. a. 2008, Experiment). Die sechs KI-Zentren stimmen: BIFOLD, DFKI, Lamarr, MCML, ScaDS.AI, Tübingen AI Center. Quelle: Schmidhuber, Volltext, Lamarr-Institut, KI-Zentren

Vereinfacht — kleine Datierungen: OpenAI-Agentenpapier, Gehirnzellen zur Miete (

30:30, 48:55) OpenAIs „Practices for Governing Agentic AI Systems“ erschien am 14. Dezember 2023, nicht Anfang 2023. Dass Moltbook seit Januar läuft, stimmt (siehe KI-Agenten 4). Die australische Firma ist Cortical Labs; ihr CL1 mit menschlichen Nervenzellen auf dem Chip ist seit 2025 zu haben, mit Fernzugriff über die Cortical Cloud, nicht erst „dieses Jahr“. 2026 kam der erste größere Verbund aus 20 Geräten an einer Universität in Singapur hinzu. Quelle: OpenAI, 14.12.2023, scinexx, 29.08.2026

Falsch — wieder die 80 %, und die Kühltruhen „auf jeden Fall KI“ (

77:14, 82:35–83:21) Die 80-%-Zahl fällt wieder, fast wortgleich wie in Teil 2: „ich glaube, es waren 80 %“ der Gespräche mit ChatGPT über Beziehungs- und psychische Probleme. Laut der Auswertung sind es 1,9 %; die rund 80 % gelten den drei häufigsten Themen zusammen, praktischen Ratschlägen, Informationssuche und Schreiben (Chatterji u. a. 2025, Arbeitspapier; ausführlich in KI-Agenten 2). Auch die französischen Kühltruhen kehren wieder, schärfer als dort: „Also, das war auf jeden Fall KI, da brauchen wir nicht drüber reden.“ Gesprochen hat er Ende Oktober. Am 9. November schrieb Paris den Angriff den Revolutionsgarden zu, und die Indizien der Staatsanwaltschaft enthalten keine KI. Beide Angaben tragen seine Warnungen, vor dem Mitschreiben und vor dem Cyberkrieg. Quelle: Chatterji u. a. 2025, NBER Working Paper, ntv, 09.11.2026


Weiterführende Quellen

Aus der Video-Beschreibung:

Im Gespräch zitierte und von uns ergänzte Quellen:


Verbindungen

siehe Ken Ono — Wenn das Wissen billig wird

Der Mathematiker Ken Ono hat die Erschütterung, von der Bauckhage spricht, am eigenen Fach erlebt und daraus einen Satz gemacht: Wissen ist billig geworden, es zu verwenden und zu prüfen ist teurer geworden. Die Geschichte in „Zwölf Stunden Arbeit, anderthalb Wochen Lesen“ ist die Rechnung dazu. Bauckhages „interessantes X“ am Ende ist fast Onos Pointe, die gute Frage als das Menschliche. Verschieden ist der Ton: Ono kam von „devastated“ zu „inspired“, Bauckhage erwartet, es werde „sehr unangenehm“.

siehe Gert Scobel — Die Geister in der Maschine

Bauckhage nennt die KI-Papiere, die er für die ICLR begutachtet hat, unlesbar, aber „sicherlich nicht falsch“. Scobels Zahlen widersprechen dem zweiten Teil: In biomedizinischen Arbeiten hat sich der Anteil erfundener Quellen seit 2023 vervielfacht, und auf einer Spitzenkonferenz des maschinellen Lernens kamen Arbeiten mit Geisterquellen durch die Begutachtung. Zusammen ergibt das das Bild hinter „Wer soll das lesen?“: Wo niemand mehr liest, fällt auch nicht auf, was nicht stimmt.

siehe Der leere Turm — wie Macht herrenlos wird

Lucs Gedanke stellt die Frage, an der in dieser Note fast alles hängt: Gibt man der Maschine die Last ab oder das Urteil? Bauckhages zwei Hausaufgaben-Sätze in „Die Schere“ sind dieses Scharnier, das Feldexperiment in „Zwei Sätze an die Maschine“ macht es messbar. Der Turm nennt auch die Gefahr daneben, das Plausible durchzuwinken, weil es fertig aussieht. Bauckhages anderthalb Wochen Lesen sind das Gegenteil davon.

siehe Sibylle Anderl — Bequeme neue Welt

Die Masterkandidatin in „Die Schere“, die nicht erklären kann, was sie getan hat, ist Anderls Befund an einem Einzelfall: Wer mit KI schreibt, liefert lesbare Texte und weiß danach wenig über die eigenen Argumente, denn erst das Schreiben zeigt, was man denkt. Daniel Jungs „du reibst dich nicht mehr“ ist Anderls „Die Welt gibt Widerstand“ in der Sprache der Fitnessstudios. Belegt ist ihr Befund bisher dünn, das Feldexperiment in der Nachbesprechung trägt mehr.

siehe Zettl-Schabath, Fischer, Strotmann — Angriffsziel Infrastruktur

Die stärkste Gegenstimme zu Bauckhages „richtig große Angst vor Cyber Warfare“. Die Cyber-Bedrohungsanalystin Kerstin Zettl-Schabath hält schon das Wort Cyberkrieg für fragwürdig; sie spricht von Cyberoperationen in konventionellen Kriegen, physische Zerstörung erreiche man mit Bomben und Drohnen billiger. Bei jeder Schlagzeile über KI-Angriffe rät sie, im Bericht nachzusehen, wofür die Angreifer KI wirklich benutzt haben. Bei den Kühltruhen, die Bauckhage „auf jeden Fall KI“ nennt, kommt KI in der Zuschreibung aus Paris nicht vor.

siehe Dahlmann und Kuhle — Senkt KI die Hemmschwelle zum Krieg?

Bauckhage vergleicht das Rennen mit dem Kalten Krieg und sagt, für Genetik gebe es Abkommen, für KI nicht. Die Rüstungskontrollforscherin Anja Dahlmann verfolgt den UN-Prozess seit über zehn Jahren und sagt, warum: Präventiv verboten wurden bisher nur blindmachende Laser, weil ihr militärischer Nutzen gering war, „das ist eben bei KI anders“. Gewollt werden Abkommen dort, wo sie wenig kosten. Ihr Bild vom Menschen, der bei der Zielauswahl nur noch „AGB akzeptieren“ klickt, trifft die Frage, die Maven im Irankrieg stellt.

siehe Gefahr als Marketing — der globale Wettlauf um KI-Vorherrschaft

Bauckhage hört die Meldungen über Agentenschwärme, die die nächste Modellgeneration entwickeln, und die Arbeiten zur Selbstverbesserung als Alarm. Die Spur legt solche Warnungen neben den Kalender. Am 2. November, 17 Tage vor dem Handelsstart der Aktie, schrieb Anthropic in den Prospekt, man könne die eigene Schwelle für eine durch KI drastisch beschleunigte Entwicklung „imminently“ erreichen. Die Spur behauptet nicht, die Gefahr sei erfunden; sie fragt, warum die Warnung gerade dann kommt. Für eine Note mit Bauckhages „mulmig“ ist das die Gegenprobe.

siehe Wenn der Staat ein Modell abschaltet — Fable 5 & Mythos 5

Wo es wirklich darauf ankomme, könne in Europa keiner etwas machen, sagt Bauckhage; Europa sei ein „Spielball“. Die Spur zeigt das an Fable, dem Modell seiner Werkstatt-Geschichte. Im Juni ließ eine Anordnung aus Washington es für Nicht-US-Bürger sperren, faktisch für alle; am 1. Juli kam es unter neuen Auflagen zurück. Begründet wurde das mit genau der Fähigkeit, nach der Bauckhage „naiv“ fragt: einen Codebestand lesen und Schwachstellen finden.


Weiterdenken

Was Sokrates vielleicht gefragt hätte
  • Bauckhage gesteht der KI „Intelligenz, da brauchen wir nicht drüber reden“ zu und sagt im selben Gespräch, ein Papier von ihr sei richtig und uninteressant gewesen. Wenn das Urteil über „interessant“ beim Menschen bleibt — ist das eine Grenze der Maschine, oder nur eine Grenze dessen, was wir ihr bisher gesagt haben?
  • Er nimmt seine Position vom Juli zurück, „groß hilft viel“. Woran würde man merken, dass die neue Gewissheit genauso vorläufig ist wie die alte — und wer in diesem Rennen hätte ein Interesse daran, es nicht zu merken?
  • „Wem der Rest dieses Jahrhunderts gehört“: Wenn alle das Rennen für unvermeidlich halten, ist es dann eine Beobachtung oder eine Entscheidung — und wie sähe der erste Schritt aus, mit dem man aus einem Rennen aussteigt, ohne zu verlieren?
  • Zwei Masterarbeiten, beide mit KI, eine brillant, eine unverstanden. Was hätte die Kandidatin gebraucht, um zu erklären, was sie getan hat — mehr Zeit, eine andere Aufgabe oder eine Prüfung, die genau das abfragt?
  • Eine Schleife verbessert ihr Gerüst, bis der Test bestanden ist. Wer schreibt den Test, und was geschieht mit allem, was er nicht misst?

Ein Fehler, ein holpriger Satz, etwas fehlt? Anfassen erlaubt: Jeden Abschnitt kannst du neu fassen.

Von hier einen Faden gehen7 Stationen, rückwärts durch den Bestand

Im Bestand

Christian BauckhageKI-Agenten 2, Die Hypothese von…ForschungGert ScobelDie Geister in der MaschineZettl-Schabath, Fischer,…Angriffsziel InfrastrukturChristian BauckhageKI: Wir haben noch gar nichts…Christian BauckhageDenkerVitaWas macht die KI aus unserem…Sibylle AnderlBequeme neue WeltMark Benecke und Ines AzraelKI-Agenten 1, Ausbruch ins WikiMark Benecke und Ines AzraelKI-Agenten 3, Ab wann BewusstseinMark Benecke und Ines AzraelKI-Agenten 4, Elektrische LiebeMark Benecke und Ines AzraelKI-Agenten 6, Religiöse und…Mark Benecke und Ines AzraelKI-Agenten 7, Ein Kiwi will Zug…Mark Benecke und Ines AzraelKI-Agenten 8, Fragen an…Annette Hautli-JaniszKI-Agenten 5, Form ohne FunktionKatharina ZweigKI-Agenten 9, Weiß die KI, dass…Ken OnoWenn das Wissen billig wirdNANOGehirnchips und GedankenfreiheitRoberto SimanowskiSprachmaschinen und der…Was macht Schule mit uns?

17 gedachte Verweise · drei geteilte Quellen, die noch niemand verlinkt hat · 9 weitere nicht gezeigt

verlinktdieselbe Quelle, nie verlinkt
bei 0:00schließen P