
Marcello Ienca — DenkerVita
Wem gehören Gedanken, wenn Maschinen sie lesen lernen? Marcello Ienca, Ethiker an der TU München, schlug 2017 vier Neurorechte vor, darunter die mentale Privatsphäre.
Giorgio de Chirico — Pittura metafisica — Eine leere, sonnige Piazza mit langen Schatten und Arkaden. In der Mitte liegt ein riesiger Marmorkopf wie ein Gebäude, in seiner Schläfe eine kleine Tür, angelehnt, warmes Licht fällt heraus. Davor steht klein ein Mann mit einer Schriftrolle und hält Wache. Im Hintergrund ein grün leuchtender Turm und ein Zug. De Chirico, weil Ienca in Rom studierte und weil dessen metaphysische Plätze das Innere als Architektur zeigen: Der Kopf ist ein Haus, und jemand muss überlegen, wer hinein darf, bevor der Zug ankommt.
Prompt: Giorgio de Chirico metaphysical painting, 1200x500 wide banner. An empty sunlit Italian piazza with long dramatic shadows and arcades. In the center a giant classical marble head lying on its side like a building, with a small arched door in its temple; the door stands ajar and warm light comes from inside. In front of the door, small in scale, a lone thoughtful man with dark curly hair in a dark jacket stands guard holding a thin scroll, his long shadow falling across the square. In the distance a green-glowing tower of tiny windows and a train with a plume of steam. Deep green-turquoise evening sky, ochre and terracotta tones, smooth matte brushwork, uncanny stillness, no text, no letters.
Prof. Dr. Marcello Ienca ist Professor für Ethics of AI and Neuroscience an der Technischen Universität München und stellvertretender Direktor des Instituts für Ethik der Medizin und Technologie. Er fragt, was mit dem Menschen geschieht, wenn Künstliche Intelligenz und Hirnforschung einander beschleunigen, und wo die Gesellschaft rote Linien ziehen muss. 2017 schlug er mit Roberto Andorno vier neue Menschenrechte für das Zeitalter der Neurotechnologie vor: kognitive Freiheit, mentale Privatsphäre, mentale Integrität und psychologische Kontinuität. Er gehört der Expertengruppe der UNESCO zur Ethik der Neurotechnologie an; seit 2026 ist er Präsident der International Neuroethics Society.
Biografie
Heute. Marcello Ienca, geboren 1988, ist seit 2023 Professor für Ethics of AI and Neuroscience an der TUM School of Medicine and Health (TUM, Professorenprofil). Am Institut für Ethik der Medizin und Technologie, das Alena Buyx leitet, ist er stellvertretender Institutsdirektor (TUM, Institut für Ethik der Medizin und Technologie). Die International Neuroethics Society führt ihn als President-Elect 2025–2026 und Präsident 2026–2028; die Wahl gab sie am 31.07.2025 bekannt (International Neuroethics Society, Board). Nach derselben Seite ist er außerdem ernannter Experte und Berichterstatter für den Ausschuss des Europarats zur Datenschutzkonvention 108 und leitet die Neuroethik-Arbeitsgruppe der International Brain Initiative (INS); die TUM nennt ihn seit 2023 Neuroethics Lead dieser Initiative (Professorenprofil).
Vom Kind am Computer zur Neuroethik. „Ich wurde 1988 geboren und bin in den 1990ern aufgewachsen – in einer Zeit, in der Computer immer mehr Einzug in den Alltag gehalten haben“, erzählt er der TUM. Intelligente Systeme hätten ihn schon als Kind fasziniert, die Künstliche Intelligenz wie das menschliche Gehirn; darum habe er Philosophie, Informatik und Psychologie mit einem Fokus auf Kognitionswissenschaften studiert und beides erst in Master und Promotion verbunden (TUM, NewIn: Warum wir Neuro-Ethik brauchen, 21.03.2024). Studiert hat er in Rom, an der Humboldt-Universität zu Berlin, der New York University und der KU Leuven; 2018 wurde er an der Universität Basel in biomedizinischer Ethik promoviert (Professorenprofil). Für die Dissertation erhielt er 2021 den Best Dissertation Award der Medizinischen Fakultät der Universität Basel und der Goldschmidt-Jacobson-Stiftung; 2018 den Vontobel-Preis für Altersforschung, 2015 den Sonia Lupien Award for Social Responsibility in Neuroscience des IRCM in Kanada (ebd.).
Stationen. Nach der Promotion arbeitete er als Postdoktorand und Senior Researcher an der ETH Zürich, war 2021 Gastwissenschaftler an der University of Oxford und gründete an der EPFL in Lausanne die Intelligent Systems Ethics Group (Professorenprofil); die INS nennt ihn deren früheren Leiter (INS).
In den Gremien. 2018 wurde er Mitglied der Lenkungsgruppe Neurotechnologie der OECD (Professorenprofil). An den OECD-Richtlinien für verantwortungsvolle Neurotechnologie von 2019 habe er „selbst mitgearbeitet“, sagt er (TUM, NewIn). Für den Europarat schrieb er 2021 den Bericht Common human rights challenges raised by different applications of neurotechnologies in the biomedical field, 2020 mit E. Vayena einen Bericht für den KI-Ausschuss CAHAI (TUM, Publikationsliste). Im April 2024 berief UNESCO-Generaldirektorin Audrey Azoulay 24 Fachleute in eine Ad-hoc-Expertengruppe, die eine Empfehlung zur Ethik der Neurotechnologie vorbereiten sollte (UNESCO, Pressemitteilung, 22.04.2024); Ienca gehört ihr an (TUM, 11.11.2025). Die Mitgliedsstaaten verabschiedeten die Empfehlung im November 2025 auf der Generalkonferenz in Samarkand; in Kraft trat sie am 12.11.2025 (UK National Commission for UNESCO, 18.11.2025, TUM). Im Januar 2026 sprach er an seinem Institut über die Empfehlung, Titel: „An Insider View on the UNESCO Recommendation on the Ethics of Neurotechnology“ (TUM, IHEM Speaker Series).
Bücher & Publikationen
| Titel | Verlag, Jahr | Beschreibung |
|---|---|---|
| Brains and Machines. Towards a Unified Ethics of AI and Neuroscience | Elsevier, 2024 | Mit Georg Starke: eine gemeinsame Ethik für KI und Hirnforschung |
| The Routledge Handbook of the Ethics of Human Enhancement | Taylor & Francis, 2023 | Mit Fabrice Jotterand: Handbuch zur Ethik der menschlichen Verbesserung |
| The Cambridge Handbook of Information Technology, Life Sciences and Human Rights | Cambridge University Press, 2022 | Mit O. Pollicino, L. Liguori, Roberto Andorno, E. Stefanini: Menschenrechte zwischen Informationstechnik und Lebenswissenschaften |
| Artificial Intelligence in Brain and Mental Health. Philosophical, Ethical & Policy Issues | Springer, 2022 | Mit Fabrice Jotterand: KI in Neurologie und Psychiatrie |
| Intelligent Assistive Technologies for Dementia. Clinical, Ethical, Social, and Regulatory Implications | Oxford University Press, 2019 | Mit Fabrice Jotterand, B. Elger, T. Wangmo: Assistenztechnik in der Demenzpflege |
| Intelligenza². Per un'unione di intelligenza naturale e artificiale | Rosenberg & Sellier, 2019 | Italienisch: für eine Verbindung natürlicher und künstlicher Intelligenz |
(Quelle der Buchliste: TUM, Publikationsliste. Die Rollen — Autor oder Herausgeber — nennt die Liste nicht; die Mitautoren stehen dort mit Initialen, die Vornamen sind aus seinen Aufsatzlisten ergänzt, wo sie sich fanden.)
Aufsätze (Auswahl):
- mit Roberto Andorno: „Towards new human rights in the age of neuroscience and neurotechnology“, Life Sciences, Society and Policy 13 (2017) — Ienca & Andorno 2017
- mit Pim Haselager und E. Emanuel: „Brain leaks and consumer neurotechnology“, Nature Biotechnology 36 (2018) — Ienca u. a. 2018
- „On Neurorights“, Frontiers in Human Neuroscience 15 (2021) — Ienca 2021
- mit Patrick Magee und Nita A. Farahany: „Beyond neural data: Cognitive biometrics and mental privacy“, Neuron 112 (2024) — Magee u. a. 2024
- mit E. Vayena: „AI ethics guidelines: European and global perspectives“, Europarat, CAHAI(2020)07-fin — rm.coe.int
Empfehlenswerte Videos & Vorträge
- 3sat NANO Doku: Gehirnchips — Droht ein Tech-Überwachungsstaat? — ab 23:56 im Hörsaal und im Interview über Gehirndaten, kognitive Überwachung und die UNESCO-Empfehlung siehe Note
- Technologisierung des menschlichen Geistes — Gespräch der Universität Zürich, April 2026, deutsch (60 min): Gehirn-Computer-Schnittstellen, Neurorechte, kognitive Integrität, ein Governance-Modell für Gehirndaten
- The Oxford Neuroethics Lecture 2026: Who Is Afraid of Mind Reading? — die erste Oxford Neuroethics Lecture, 07.01.2026, englisch (75 min): was Hirndekodierung heute kann und was nicht
- Human-AI Symbiosis and the Quest for Neurorights — TEDxSapienzaU, November 2023, englisch (23 min)
- Mind Your Privacy: Navigating the Neuro-Data Dilemma — Johns Hopkins Institute for Assured Autonomy, März 2024, englisch (61 min)
- On Brains and Machines: The Common Ethical Ground of AI and Neuroscience — Keynote beim Human Brain Project, 02.02.2023, englisch (48 min)
- NewIn: Prof. Marcello Ienca — Kurzporträt der TUM zur Berufung, März 2024 (2 min)
Kernthesen
-
Das Gehirn braucht eigene Menschenrechte. Mit Roberto Andorno identifiziert er vier Rechte, die in den kommenden Jahrzehnten Bedeutung bekommen könnten: das Recht auf kognitive Freiheit, auf mentale Privatsphäre, auf mentale Integrität und auf psychologische Kontinuität. Die Autoren halten diese Rechte für begründet genug, dass sie keine „Inflation“ von Menschenrechten bedeuten; fortgeschrittene Neurotechnik erlaube einen deutlich tieferen Zugriff auf neuronale Prozesse und deren Manipulation als ältere Mittel wie Verhör, Lügendetektor oder Hypnose (Beleg: Abstract und Abschnitt zu den neuen Rechten, Life Sciences, Society and Policy, 2017).
-
Gehirndaten sind keine Daten wie andere. Gehirndaten seien „sozusagen die Quelle, die Urquelle aller unserer Intentionen, Präferenzen“, und die Frage sei, ob wir für eine Welt vorbereitet sind, in der sie „so schnell und unbefristet gesammelt, geteilt und verarbeitet werden können“ (Beleg: 25:29 in NANO — Gehirnchips und Gedankenfreiheit). Der TUM sagte er: „Unser Gehirn ist immer weniger eine Festung, die streng von der digitalen Welt getrennt ist“; als Beispiel nennt er, dass sich aus Neurodaten mit Machine Learning prinzipiell die sexuelle Orientierung ableiten lassen könnte (Beleg: TUM, NewIn, 2024).
-
Gedankenfreiheit heißt heute: entscheiden, mit wem man seine Gehirndaten teilt. Es bestehe das Risiko, dass nicht-demokratische Regierungen Neurotechnik nutzen, „um sozusagen eine kognitive Überwachung der Bevölkerung zu implementieren“ (Beleg: 26:14 in der NANO-Doku). Freiheit des Denkens bedeute darum, „dass Menschen frei entscheiden können, mit wem sie diese Daten gern teilen möchten und mit wem sie diese Daten lieber nicht teilen, sondern schützen möchten“ (Beleg: 27:44). Implantate für alle lehnt er ab, wo sie nicht heilen: „Ich sehe keinen Grund, wofür wir eine Welt haben sollten, wo Millionen Menschen ein Gehirnimplantat haben, das nicht dazu dient, medizinische Probleme zu lösen, sondern einfach Menschen kontrollierbar zu machen“ (Beleg: 28:30).
-
Ethik heißt auch, Gutes zu tun — und diesmal früh. Ethik bedeute für ihn „nicht nur, Gefahren und Risiken zu vermeiden, sondern auch darum, Gutes zu tun“: Technik zu entwickeln, die den Hunderten Millionen Menschen mit neurologischen und psychiatrischen Erkrankungen helfen kann. Bei der KI sei nur reaktiv gehandelt worden; bei der Neurotechnik handle man diesmal proaktiv. In der Privatwirtschaft herrschten teils „Wildwestzustände“, Neuralink sei „ein Beispiel für eine Firma, die kein Interesse an Ethik hat“; viele andere Unternehmen hätten aber Ethikkommissionen und an den OECD-Richtlinien mitgewirkt (Beleg: TUM, NewIn, 2024).
Verbindungen zu anderen Denkern
- Rainer Mühlhoff — Ienca will die mentale Privatsphäre als Recht des Einzelnen. Mühlhoffs prädiktive Privatheit hält dagegen, dass ein Modell aus den Daten weniger auf alle schließt; er setzt darum bei der Zweckbindung des trainierten Modells an, nicht bei der Einwilligung.
- Alena Buyx — Sie leitet das TUM-Institut, dessen stellvertretender Direktor Ienca ist. Ihr Gedanke der Solidarität neben der Autonomie stellt eine Rückfrage an seine Formel, Gedankenfreiheit heiße, selbst zu entscheiden, mit wem man seine Gehirndaten teilt.
- Elon Musk — Der Gegenpol: Implantate für alle, „Superkräfte“. Ienca nannte Neuralink der TUM gegenüber „ein Beispiel für eine Firma, die kein Interesse an Ethik hat“, und lehnt Implantate ab, die nicht heilen.
- Jürgen Kornmeier — Kornmeier hält Gedankenlesen für „Bildzeitungsforschung“, weil das Erleben privat bleibt. Ienca fragt in seiner Oxford-Vorlesung „Who Is Afraid of Mind Reading?“, was Dekodierung heute kann und was nicht, und will die Daten schützen, bevor sie das Erleben erreicht.
- Sibylle Anderl — Was Ienca als Recht gegen fremden Zugriff fasst, beschreibt Anderl von innen: die Abgabe, die man selbst wählt, weil sie bequem ist, von der Smartwatch bis zum Chatbot.
Gedankenwelten-Notes
Mit ihm als Sprecher:
- NANO — Gehirnchips und Gedankenfreiheit — 3sat NANO Doku über Gehirn-Computer-Schnittstellen und mentale Privatsphäre
Ein Fehler, ein holpriger Satz, etwas fehlt? Anfassen erlaubt: Jeden Abschnitt kannst du neu fassen.
Im Bestand
sechs gedachte Verweise