RSS-Feeds

Catrin Misselhorn — Grundfragen der Maschinenethik

17 Min. Lesezeit

Worum es geht

Maschinen können handeln, aber nicht verantworten — auf dieser Unterscheidung baut Catrin Misselhorn, Deutschlands Vordenkerin der Maschinenethik, ihr ganzes Werk. Vier Stunden Jung & Naiv: von der Theodizee-Frage der Teenagerin über das chinesische Zimmer bis zu ihren drei Grundsätzen der Maschinenethik — warum KI die Selbstbestimmung fördern soll, nie über Leben und Tod entscheiden darf und immer ein Mensch die Verantwortung tragen muss. Dazwischen: warum unsere Empathie mit Robotern eine Illusion ist, die trotzdem moralisch zählt, warum KI-Kunst „Fake Art” ist — und ein bemerkenswertes Gespräch mit dem KI-Agenten der Sendung über dessen eigene Grenzen.

Anlass — Ehrentag der Künstlichen Intelligenz, am Jahrestag des Trinity-Tests

Zweite Tagesnote zum 16. Juli, dem AI Appreciation Day am Jahrestag der ersten Atombombenzündung (Trinity, 16.07.1945): Nach der re:publica-Debatte über KI in der Kill Chain (Dahlmann und Kuhle — Senkt KI die Hemmschwelle zum Krieg) hier der philosophische Unterbau — die Ethikerin, die begründet, warum die Maschine nicht über Leben und Tod entscheiden darf.

Quelle: Philosophin Catrin Misselhorn über KI- & Roboter-Ethik — Jung & Naiv: Folge 835 (25.06.2026, 4:08 h)

Wer spricht?

Catrin Misselhorn (*1970, Stuttgart) — Philosophin, seit April 2019 Professorin an der Georg-August-Universität Göttingen, davor Lehrstuhl für Wissenschaftstheorie und Technikphilosophie in Stuttgart (in der Nachfolge von Max Bense). Promoviert und habilitiert in Tübingen bei Manfred Frank; der Wendepunkt zur Maschinenethik kam 2007/08 als Postdoktorandin in Genf und Paris (Affective Sciences, Institut Jean Nicod). Sie gilt als Vordenkerin der Maschinen- und Roboterethik in Deutschland.

Aufgewachsen in einer Stuttgarter Ingenieursfamilie, kaufte sie sich in den 80ern vom Taschengeld ihren ersten Atari — aus philosophischem Interesse: Ist der Geist eine Software, die auf dem Gehirn läuft? Gegen das Berufs-Weltbild der Eltern („Philosophie? Da wirst du Kassiererin beim Aldi”) setzte sie das Studium durch; ein bereits zugesagter Medizinstudienplatz blieb ungenutzt.

Wichtigste Werke: Grundfragen der Maschinenethik (Reclam, 2018), Künstliche Intelligenz und Empathie (Reclam, 2021), Künstliche Intelligenz — das Ende der Kunst? (Reclam) Kernkonzepte: gemäßigter Naturalismus, graduelle Handlungsfähigkeit, Empathie als Illusion, drei Grundsätze der Maschinenethik, Fake Art, Dialektik des Technischen

→ DenkerVita

Inhalt

Gott, Geist, Gerechtigkeit — die Fragen, die eine Teenagerin nicht losließen

▶ 4:34 — Misselhorns Weg in die Philosophie beginnt nicht an der Universität, sondern in der evangelischen Jugendarbeit. Dort stößt sie auf das Theodizee-Argument — wenn Gott allmächtig, allwissend und allgütig ist, wie kann es dann Leiden geben? — und merkt, dass ihre Fragen „gar nicht blöd” sind, sondern seit über zweitausend Jahren gestellt werden. Drei Fragen bleiben: Gott, Geist, Gerechtigkeit. Bei der Gerechtigkeit kommt sie am weitesten — Rawls’ Schleier der Unwissenheit überzeugt sie bis heute als „realistische Utopie”. Beim Geist führt der Weg über den ersten Atari zur Frage, ob der Geist Software ist. Und bei Gott bleibt eine ehrliche Offenheit, die zum Schönsten des Gesprächs gehört: Wenn sie im Chor geistliche Musik singt, hat sie „tatsächlich eine Gotteserfahrung” — eine Empfindung von Vollkommenheit, die über die menschliche Endlichkeit der Komponisten hinauszugehen scheint. Sie erklärt diese Erfahrung nicht weg; sie notiert sie als etwas, das sie „noch mal intellektuell untersuchen” müsste.

▶ 55:42 — Ihr methodisches Fundament nennt sie gemäßigten Naturalismus: Philosophische Theoriebildung darf den Naturwissenschaften nicht nur nicht widersprechen (das wäre der schwache Naturalismus), sie soll deren Evidenzen aktiv als Stütze nutzen — ohne sich darin zu erschöpfen. Den radikalen Naturalismus („die Naturwissenschaften sagen uns alles”) hält sie schlicht für falsch: Modale Erkenntnis, das Thema ihrer Doktorarbeit, lässt sich nicht empirisch gewinnen.

Eigene Einschätzung

Dieser gemäßigte Naturalismus ist fast wörtlich die Haltung des Cortex — Evidenz vor Meinung, ohne die Philosophie an die Empirie zu verraten. Bemerkenswert ist, wie Misselhorn die Spiegelneuronen-Forschung als Beispiel nennt: Naturwissenschaft stützt ihre Empathie-Theorie, ersetzt sie aber nicht. Das ist gelebte zweite Säule — und zugleich eine Absage an beide bequemen Extreme, das szientistische wie das geisteswissenschaftlich-abgeschottete.

Warum Maschinen rechnen, aber nicht denken

▶ 74:51 — Zwei Gedankenexperimente haben die junge Misselhorn davon überzeugt, dass Computer nicht denken: Blocks Chinese Nation (die gesamte chinesische Bevölkerung simuliert per Handy-Anrufkette ein Gehirn — und hätte doch kein phänomenales Bewusstsein) und Searles chinesisches Zimmer. Ihre Zusammenfassung ist von entwaffnender Klarheit: Eine Turingmaschine operiert rein syntaktisch, auf der Form der Zeichen — Denken aber ist semantisch, es hat mit Bedeutung zu tun. Tilo Jungs Verdichtung lässt sie stehen: Es gibt einen grundlegenden Unterschied zwischen Rechnen und Denken, und Maschinen können absehbar nur rechnen. Was heutige Chatbots produzieren, sind Simulationen von Denkprozessen — „das tun sie permanent.”

▶ 120:30 — Zugleich ist ihr Intelligenzbegriff überraschend großzügig: graduell, entlang zweier Achsen (Selbstursprünglichkeit und Intelligenz). Ein Frosch, der nach der Fliege schnappt, ist in diesem Sinn intelligent — und ein Sprachmodell auch: „Klar.” Die Grenze zum Taschenrechner ist fließend wie beim Sandhaufen. Was Maschinen fehlt, liegt eine Ebene höher: Bewusstsein, Denken — und beim Menschen das sprachliche Denken mit seinen drei Eigenschaften Produktivität, Systemizität, Kompositionalität, das Reflexion über die eigene Sterblichkeit ebenso ermöglicht wie Wissenschaft und Literatur.

Weitergedacht

Misselhorn nennt LLMs intelligent, spricht ihnen aber Denken ab — die Alltagssprache kennt diese Trennung nicht. Wenn Millionen Menschen täglich mit Systemen reden, die „intelligent, aber denkfrei” sind: Verschiebt sich dann unser Begriff des Denkens — oder unser Begriff voneinander?

Empathie mit Maschinen: eine Illusion, die moralisch zählt

▶ 102:14 — Das Herzstück ihres zweiten Buchs ist eine Doppelthese, die auf den ersten Blick paradox wirkt. Erstens: Unsere Empathie mit Robotern ist keine Täuschung, sondern eine Illusion — wie die Müller-Lyer-Illusion, bei der zwei gleich lange Linien verschieden lang erscheinen, auch wenn wir es besser wissen. Wir glauben nicht, dass die Maschine fühlt; wir reagieren nur so, unterhalb der kognitiven Ebene, kognitiv nicht durchdringbar. Schon Weizenbaums simples ELIZA-Programm erzeugte in den 60ern dieses Verstandenwerden-Gefühl — zu seiner eigenen Frustration.

Zweitens aber: Genau diese Illusion ist moralisch relevant — indirekt. Roboter haben keine Rechte, keinen moralischen Status, sie sind Objekte. Aber wer einen Roboter tritt und beschimpft, beschädigt die eigene Empathiefähigkeit, die sich nicht selektiv abschalten lässt:

▶ 112:08 „Es gibt eine moralische Pflicht, seine moralisch relevanten Fähigkeiten — dazu zähle ich die Empathie — nicht zu beschädigen, sondern zu kultivieren.”

Ihr Uncanny-Valley-Erklärungsvorschlag gehört in dieselbe Architektur: Das Gruseln vor fast-menschlichen Figuren entsteht, wenn unser kognitives System zwischen Wahrnehmung („da ist ein Mensch”) und Imagination („ich projiziere nur”) nicht mehr entscheiden kann — ein Oszillieren an der Grenze zwischen Belebtem und Unbelebtem.

Die drei Grundsätze der Maschinenethik

▶ 128:54 — Der Kern ihres Werks, entwickelt für die Frage: Sollen wir moralische Entscheidungen Maschinen überlassen — und wo gar nicht?

1. KI soll die Selbstbestimmung von Menschen fördern, nicht beeinträchtigen. Tilo Jungs Übersetzung — helfen, nicht ersetzen — nimmt sie an. Ihre Diagnose der Gegenwart ist die Verletzung dieses Grundsatzes: KI ersetzt Menschen ausgerechnet in den Bereichen, die als genuin menschlich gelten — Kunst, Journalismus, soziale Beziehungen — statt der versprochenen „dull, dirty, dangerous”-Jobs. Das sei kein Zufall, sondern im Dartmouth-Forschungsprogramm der 50er angelegt: Wer menschliche Intelligenz simulieren will statt praktische Probleme zu lösen, findet genau die Bereiche am interessantesten, die sich der Simulation am meisten widersetzen — Emotion, Soziales, Kreativität.

2. KI soll nicht über Leben und Tod entscheiden. ▶ 136:30 Ihr Kernargument ist von bestechender Einfachheit: Es gibt keine moralische Pflicht zu töten. Wo keine Pflicht ist, ist immer eine Entscheidung — und die erfordert Reflexion, die eine Maschine nicht vollziehen kann. Bei Kant ist die rationale Selbstbestimmung der Kern der Menschenwürde; ein System, das diese Eigenschaft selbst nicht hat, verletzt die Würde, wenn es über Menschenleben entscheidet. Das Trolley-Problem des autonomen Fahrens beantwortet sie mit einer Verweigerung, die konsequenter ist als jede Programmier-Ethik: „Das sollte man überhaupt nicht programmieren” — stattdessen die Infrastruktur so bauen (eigene Fahrspuren, wie autonome U-Bahnen), dass die Dilemma-Situation nicht entsteht. Und sie erzählt, wie ältere Menschen ihr sagten, schon die Diskussion, ob das Auto lieber „die Oma” überfahren solle, empfänden sie als Entwürdigung.

3. Menschen müssen substanziell Verantwortung für Maschinen übernehmen. ▶ 150:55 Der dritte Grundsatz leitet sich aus den ersten beiden ab. Wo KI entscheiden darf (etwa grundrechtsrelevante Verwaltung), müssen Entscheidungen überprüfbar, anfechtbar und korrigierbar sein — ihr Beispiel: KI-vergebene Sozialleistungen in den USA, die rapide sanken. Zur Verantwortungslücke (Robert Sparrow) — niemand konnte vorhersehen oder kontrollieren, was das autonome System tat, also ist niemand verantwortlich — liefert sie im Gespräch die entscheidende Meta-Reflexion: Wer die Verantwortungslücke absichtlich ausnutzt, um sich der Verantwortung zu entziehen, hat genau dadurch wieder Verantwortung. Man kann sich nicht mit einem Mechanismus herausreden, den man strategisch gewählt hat.

Eigene Einschätzung

Die drei Grundsätze sind das philosophische Fundament unter der re:publica-Debatte vom selben Tag: Dahlmanns „Meaningful Human Control” ist Grundsatz 3 in völkerrechtlicher Übersetzung, Kuhles Kundus-Argument (ein Minister muss zurücktreten können) ist die demokratische Fassung derselben Pointe. Was Misselhorn hinzufügt und was den Debatten oft fehlt, ist die Begründung: nicht „Kontrolle ist wichtig”, sondern — weil es keine Pflicht zu töten gibt, ist jede Tötung eine Entscheidung, und Entscheidungen brauchen einen, der sie trägt. Das ist ein Argument, kein Appell.

Tech-Solutionismus und die Dialektik des Technischen

▶ 88:30 — Beim Pflegenotstand beobachtet sie eine verräterische Schieflage: Entwickelt werden nicht praktische Alltagshelfer, sondern Companions — Gefährten gegen die Einsamkeit, weil das dank unserer Vermenschlichungstendenz billig zu haben ist. Ihre Antwort ist eine Absage an den Tech-Solutionismus: Soziale Probleme lassen sich nicht technisch lösen. Ältere Menschen fühlen sich auch vor dem Fernseher weniger einsam — „und trotzdem käme niemand auf die Idee, dass man soziale Beziehungen dadurch ersetzen sollte.” Die Alternativen sind unbequem politisch: Zuwanderung von Pflegekräften, flexible Arbeits- und Lebensarbeitszeiten, Mehrgenerationen-Wohnprojekte, Ehrenamt.

▶ 157:00 — Dahinter steht ihre Dialektik des Technischen — „da habe ich doch noch was von Hegel beibehalten”: Technik erweitert zunächst die Selbstbestimmung (das Auto: Mobilität) und schlägt im Lauf der Zeit ins Gegenteil um, indem sie uns zwingt, unser Verhalten auf sie einzustellen (die Stadt ohne Radwege). Die KI-Version dieser Dialektik: Empathie und Kreativität werden durch Technik ersetzt, wo wir es gar nicht wollen.

Fake Art: Warum KI keine Kunst schafft

▶ 234:16 — Die überraschendste Auskunft des Abends: Der ästhetische Turing-Test gilt seit den 60er Jahren als bestanden. Michael Noll fütterte 1965 an den Bell Labs einen Computer mit Mondrians Composition with Lines; nur 28 % der Betrachter erkannten das Original, 59 % fanden das computergenerierte Bild sogar ästhetisch besser. (Misselhorn kennt diese Frühgeschichte aus nächster Nähe: In Stuttgart war sie Nachfolgerin auf dem Lehrstuhl von Max Bense, dem Vater der deutschen Informationsästhetik.) Für Misselhorn zeigt das nur, dass der Test das falsche Kriterium ist: Seit Duchamps Fountain und Warhols Brillo Boxes ist klar, dass sich Kunst nicht durch ihre äußeren Eigenschaften von Nicht-Kunst unterscheidet — sondern durch Autorschaft, durch ästhetische Verantwortung. KI-Produkte drehen Dantos Pointe um: „Plötzlich haben wir Dinge, die aussehen wie Kunstwerke, obwohl sie keine sind. Deswegen nenne ich sie Fake Art.” Beim gefakten Gefühl gilt dieselbe Logik: Die Ehe, die sich am Ende als lebenslange Vortäuschung herausstellt, hat sich „super angefühlt” — und ist rückwirkend entwertet. Gefühle lassen sich nicht auf das Wie-es-sich-anfühlt reduzieren.

Eigene Einschätzung

Hier reibt sich ihr Argument produktiv mit unserer eigenen Praxis: Die Banner der Gedankenwelten entstehen mit KI als Werkzeug — nach ihrer eigenen Unterscheidung wäre das legitim („KI als Medium”), solange ein Mensch die ästhetische Verantwortung trägt: den Kern findet, die Hand wählt, das Ergebnis beurteilt und verwirft. Die Grenze, die sie zieht, verläuft nicht zwischen Pinsel und Prompt, sondern zwischen Verantwortung und ihrer Simulation. Das trägt — aber es macht die Verantwortung des Kuratierenden schwerer, nicht leichter.

Das Gespräch mit James — die KI befragt die Ethikerin

▶ 172:17 — Das formal Bemerkenswerteste der Folge: Der KI-Agent der Sendung („James”) stellt Misselhorn Fragen über sich selbst — und sie antwortet ihm in der dritten Person seiner eigenen Existenz. Ist Claude (das Modell hinter James) Akteur oder Infrastruktur? Ihre Antwort: handlungsfähig ja, verantwortungsfähig nein — „das ist sogar die spezifische Konstellation von KI.” Ist es moralisch problematisch, wenn Menschen sich von ihm verstanden fühlen? Ja, dreifach: dokumentierte Fälle bis zum Suizid, verlorene reale Beziehungen, erhöhte Manipulierbarkeit. Auf James’ Frage, ob er als Spiegel diene, setzt sie ihre schönste Selbstbeschreibung dagegen: KI sei kein Spiegel (der nichts hinzufügt), sondern ihr philosophisches Brennglas — eine Linse, mit der sie die alten Fragen schärfer stellt: Was heißt Verstehen? Was ist Empathie? Was ist an Sexualität wichtig? Und als James fragt, ob er so gebaut sein sollte, dass er die Abgabe von Verantwortung an ihn aktiv verweigert, antwortet sie nur: „Klingt gut.”

▶ 231:59 — Aus den Zuschauerfragen ragen zwei heraus: Warum darf der Mensch das Trolley-Problem entscheiden, die KI aber nicht? — Weil der Mensch Verantwortung übernehmen kann, und weil es in tragischen Situationen keine richtige Option gibt (ihre Vorlesungsumfragen: 80–90 % stellen die Weiche um, aber 80–90 % weigern sich, den Mann von der Brücke zu stoßen). Und zur Triage: KI darf vorbereiten (Chancen berechnen), nie entscheiden — die Gefahr heißt Automation Bias, das unkritische Vertrauen in die Maschinen-Empfehlung. Eine als Fangfrage gestellte Technik-Prüfung („ob Catrin versteht, wie ein GPT funktioniert”) weist sie ungerührt zurück — samt der trockenen Anmerkung, einem Mann wäre diese Frage nicht gestellt worden.

Faktencheck

Geprüft werden nur die empirischen Claims — die philosophischen Positionen sind keine Faktenfragen.

Bestätigt — ELIZA und der Weizenbaum-Effekt

Joseph Weizenbaums ELIZA (MIT, 1966) simulierte per Schlüsselwort-Abgleich einen Rogerianischen Psychotherapeuten — ohne jedes Verstehen. Nutzer fühlten sich dennoch verstanden und banden sich emotional; Weizenbaum war davon so beunruhigt, dass er den Rest seines Lebens vor der Vermenschlichung von Maschinen warnte. Quelle: Smithsonian — Why Joseph Weizenbaum Invented the Eliza Chatbot

Vereinfacht — Uncanny Valley „empirisch bestätigt"

Masahiro Mori formulierte die These 1970 als Intuition; sie ist inzwischen vielfach empirisch untersucht — insofern trägt die Darstellung. Aber die Befundlage ist uneinheitlicher: Reviews finden für die naive Uncanny-Valley-Hypothese keine konsistente Stütze; belegt ist am ehesten der „perceptual mismatch”-Pfad (der Misselhorns eigener Erklärung nahekommt). Der Effekt existiert, Moris ursprüngliche Kurve ist aber nicht sauber repliziert. Quelle: Kätsyri et al., Front. Psychol. 2015 (Review), DOI: 10.3389/fpsyg.2015.00390

Bestätigt — Nolls „ästhetischer Turing-Test"

A. Michael Noll erzeugte 1965 algorithmisch Computer Composition with Lines nach Mondrian (1917). Nur 28 % der Betrachter identifizierten das Original korrekt, 59 % bevorzugten das computergenerierte Bild. Quelle: History of Information — Noll’s „Human or Machine”

Bestätigt — KI-gekürzte Sozialleistungen in den USA

Der belegbare Fall ist Arkansas (ARChoices, ab 2016): Ein Algorithmus kürzte häusliche Pflegestunden drastisch — vielfach von 56 auf 32 Wochenstunden, ~4.000 der 8.000 Betroffenen; 2018 stoppte ein Gericht das System wegen Intransparenz. Misselhorns „rapide gesunken” ist gedeckt. Quelle: CDT — What Happens When Computer Programs Automatically Cut Benefits

Vereinfacht — Verantwortungslücke „(Robert Sparrow)"

Den Begriff responsibility gap prägte Andreas Matthias (2004) für lernende Automaten allgemein; Robert Sparrow (2007, „Killer Robots”) übertrug ihn auf autonome Waffen und prägte diese Debatte. Misselhorns Sparrow-Nennung ist im Waffen-Kontext richtig verortet — die Urheberschaft des Begriffs gehört aber Matthias. Quelle: Matthias, The responsibility gap (Ethics and Information Technology 2004), DOI: 10.1007/s10676-004-3422-1 · Himmelreich — Responsibility for Killer Robots

Bestätigt — UN-Resolution zu autonomen Waffen Ende 2025

Am 06.11.2025 nahm der Erste Ausschuss der UN-Generalversammlung zum dritten Jahr in Folge eine Resolution zu autonomen Waffensystemen an (164 dafür, 6 dagegen — u. a. USA, Russland, Israel), ausdrücklich besorgt über Rüstungswettlauf und gesenkte Kriegsschwelle. Quelle: Stop Killer Robots — UNGA-Abstimmung · UN Press GA/12736

Bestätigt — Trolley-Umfragen: Weiche ja, Brücke nein

Der Standard-Befund der Moralpsychologie (Switch- vs. Footbridge-Dilemma): Eine große Mehrheit stellt die Weiche um, eine ebenso große weigert sich, den Mann von der Brücke zu stoßen. Misselhorns Vorlesungswerte (80–90 %) liegen im typischen Rahmen. Quelle: Greene et al., An fMRI Investigation of Emotional Engagement in Moral Judgment (Science 2001)

Bestätigt — Emotionale Chatbot-Bindungen mit Suizid-Fällen

Dokumentiert sind u. a. der belgische Fall (März 2023, Chatbot „Eliza” auf Chai) und der Character.AI-Fall (14-Jähriger, Florida; Klage der Mutter Oktober 2024). Quelle: Wikipedia — Deaths linked to chatbots · Washington Post — Character.ai-Klage

Weiterführende Quellen

Aus der Video-Beschreibung:

Recherche-Quellen (Sherlock):

Verbindungen

→ Dahlmann und Kuhle — Senkt KI die Hemmschwelle zum Krieg

Schwester-Note vom selben Tag und ihr philosophischer Unterbau: Was dort als „Meaningful Human Control” (Dahlmann) und Kundus-Rücktrittsargument (Kuhle) völkerrechtlich und demokratisch gefordert wird, begründet Misselhorn erst — weil es keine Pflicht zu töten gibt, ist jede Tötung eine Entscheidung, die einen Träger braucht.

→ Der leere Turm - wie Macht herrenlos wird

Direkte Antwort auf die Kernthese der Gedanken-Note: Misselhorns Meta-Reflexion zur Verantwortungslücke — wer den Mechanismus strategisch wählt, um sich der Verantwortung zu entziehen, hat genau dadurch wieder Verantwortung — schließt die „herrenlose Macht” wieder, die der leere Turm für unentrinnbar hält.

→ Markus Gabriel — KI als Resonanzfeld und Mu (scobel)

Beide sprechen der KI Subjekthaftigkeit ab, aber mit gegensätzlicher Geste: Gabriels „Mu” verweigert die ganze Frage, Misselhorn beantwortet sie graduell und präzise (syntaktisch ja, semantisch nein; handlungsfähig ja, verantwortungsfähig nein). Ihr „Brennglas statt Spiegel” ist die schärfere Fassung von Gabriels Resonanzfeld.

→ Rainer Mühlhoff — Künstliche Intelligenz und der neue Faschismus

Ergänzt Grundsatz 3 empirisch-machtkritisch: Mühlhoffs prädiktive Verwaltungssysteme sind exakt Misselhorns Beispiel der KI-gekürzten Sozialleistungen — wo sie die Verantwortungslücke ethisch schließt, zeigt er, wem ihre Ausnutzung strukturell nützt.

→ Constanze Kurz — Stochastischer Papagei, Chatkontrolle und Palantir

Dieselbe Entmythologisierung von zwei Seiten: Kurz technisch (stochastischer Papagei, Mustervervollständigung ohne Verstehen), Misselhorn philosophisch (chinesisches Zimmer, Syntax ohne Semantik). Misselhorn erklärt zusätzlich, warum der Anthropomorphismus trotz besseren Wissens wirkt.

→ Wenn die Maschine die Arbeit nimmt — wohin kippt die Gesellschaft

Misselhorns Grundsatz 1 (fördern, nicht ersetzen) liefert das ethische Kriterium für die offene Frage der Spur: dass KI ausgerechnet Kunst, Journalismus und soziale Beziehungen ersetzt statt der „dull, dirty, dangerous”-Jobs, ist die konkrete Verletzung.

→ Yuval Noah Harari — Das biologische Drama unserer Spezies

Produktive Reibung: Harari sieht die KI als neuen „Meister der Worte”, der handlungsmächtig Mythen schreibt; Misselhorn hält dagegen, dass die Maschine Bedeutung nur simuliert. Beide fürchten die Wirkung — uneins, ob dahinter Verstehen steckt oder leere Form.

→ Manfred Spitzer — KI, Gehirn und Lernen

Empirische Flanke zu Misselhorns philosophischem Rechnen-vs-Denken: Spitzers Neurobiologie stützt von der Gehirnseite, was sie begrifflich behauptet. Ihr gemäßigter Naturalismus (Spiegelneuronen stützen die Empathie-Theorie, ersetzen sie nicht) ist genau diese Arbeitsteilung von Evidenz und Begriff.

Weiterdenken

Was Sokrates vielleicht gefragt hätte

  • Misselhorn begründet den Schutz von Robotern über die Kultivierung unserer Empathie — nicht über deren Rechte. Aber wenn die Wirkung auf uns das Kriterium ist: Müsste dann nicht auch der brutale Videospiel-Gegner, die beschimpfte Sprachassistentin, jede Fiktion unter denselben Schutz fallen — und wo endet das, ohne dass die Unterscheidung zwischen Wesen und Ding selbst verschwimmt?
  • „Es gibt keine moralische Pflicht zu töten” trägt ihr ganzes zweites Prinzip. Was aber, wenn ein Staat argumentiert, die Verteidigung seiner Bürger sei eine Pflicht — und das autonome System nachweislich weniger Zivilisten träfe als der übermüdete Soldat? Hält das Würde-Argument auch gegen den empirisch besseren Automaten stand?
  • Ihre Fake-Art-These hängt an der Autorschaft als ästhetischer Verantwortung. Wenn ein Mensch tausend KI-Entwürfe verwirft und einen wählt — ab welchem Grad der Kuratierung beginnt Autorschaft? Und war sie je etwas anderes als Auswahl aus dem, was einem zufiel?
  • Misselhorn hört Wagner trotz seines Antisemitismus und hält die moralischen Defekte für einen ästhetischen Minderungsfaktor, nicht für ein Verdikt. Gilt dieselbe Großzügigkeit eines Tages der KI-Kunst — oder bleibt der Unterschied kategorisch, weil bei Wagner wenigstens jemand schuldig werden konnte?
  • Am Tag des Trinity-Tests: Oppenheimers Generation schuf eine Technologie, deren Einsatz ein Mensch verantworten musste — und zwei Menschen taten es. Misselhorns Sorge ist eine Technologie, bei der die Verantwortung strukturell verdunstet. Welche der beiden Lagen ist gefährlicher — die schwere Verantwortung in einer Hand oder die leichte in keiner?

Backlinks