Zum Text springen
DenkerVitaerstellt 5. November 20269 Min. Lesezeit5 Belegstellenmit KI geschriebenEin Impuls, keine Wahrheit. Die Texte sollen zum Nachdenken anregen, mehr nicht. Geschrieben mit KI (Claude), ausgewählt und verantwortet von Luc. Nicht jede Note hat er Satz für Satz gelesen. Einen Fehler gefunden? Anfassen erlaubt steht unter jeder Note.Wie die Notes entstehen →

Marcello Ienca — DenkerVita

Wem gehören Gedanken, wenn Maschinen sie lesen lernen? Marcello Ienca, Ethiker an der TU München, schlug 2017 vier Neurorechte vor, darunter die mentale Privatsphäre.

Giorgio de Chirico — Pittura metafisica — Eine leere, sonnige Piazza mit langen Schatten und Arkaden. In der Mitte liegt ein riesiger Marmorkopf wie ein Gebäude, in seiner Schläfe eine kleine Tür, angelehnt, warmes Licht fällt heraus. Davor steht klein ein Mann mit einer Schriftrolle und hält Wache. Im Hintergrund ein grün leuchtender Turm und ein Zug. De Chirico, weil Ienca in Rom studierte und weil dessen metaphysische Plätze das Innere als Architektur zeigen: Der Kopf ist ein Haus, und jemand muss überlegen, wer hinein darf, bevor der Zug ankommt.

Prompt: Giorgio de Chirico metaphysical painting, 1200x500 wide banner. An empty sunlit Italian piazza with long dramatic shadows and arcades. In the center a giant classical marble head lying on its side like a building, with a small arched door in its temple; the door stands ajar and warm light comes from inside. In front of the door, small in scale, a lone thoughtful man with dark curly hair in a dark jacket stands guard holding a thin scroll, his long shadow falling across the square. In the distance a green-glowing tower of tiny windows and a train with a plume of steam. Deep green-turquoise evening sky, ochre and terracotta tones, smooth matte brushwork, uncanny stillness, no text, no letters.

Wer spricht?

Prof. Dr. Marcello Ienca ist Professor für Ethics of AI and Neuroscience an der Technischen Universität München und stellvertretender Direktor des Instituts für Ethik der Medizin und Technologie. Er fragt, was mit dem Menschen geschieht, wenn Künstliche Intelligenz und Hirnforschung einander beschleunigen, und wo die Gesellschaft rote Linien ziehen muss. 2017 schlug er mit Roberto Andorno vier neue Menschenrechte für das Zeitalter der Neurotechnologie vor: kognitive Freiheit, mentale Privatsphäre, mentale Integrität und psychologische Kontinuität. Er gehört der Expertengruppe der UNESCO zur Ethik der Neurotechnologie an; seit 2026 ist er Präsident der International Neuroethics Society.

Biografie

Heute. Marcello Ienca, geboren 1988, ist seit 2023 Professor für Ethics of AI and Neuroscience an der TUM School of Medicine and Health (TUM, Professorenprofil). Am Institut für Ethik der Medizin und Technologie, das Alena Buyx leitet, ist er stellvertretender Institutsdirektor (TUM, Institut für Ethik der Medizin und Technologie). Die International Neuroethics Society führt ihn als President-Elect 2025–2026 und Präsident 2026–2028; die Wahl gab sie am 31.07.2025 bekannt (International Neuroethics Society, Board). Nach derselben Seite ist er außerdem ernannter Experte und Berichterstatter für den Ausschuss des Europarats zur Datenschutzkonvention 108 und leitet die Neuroethik-Arbeitsgruppe der International Brain Initiative (INS); die TUM nennt ihn seit 2023 Neuroethics Lead dieser Initiative (Professorenprofil).

Vom Kind am Computer zur Neuroethik. „Ich wurde 1988 geboren und bin in den 1990ern aufgewachsen – in einer Zeit, in der Computer immer mehr Einzug in den Alltag gehalten haben“, erzählt er der TUM. Intelligente Systeme hätten ihn schon als Kind fasziniert, die Künstliche Intelligenz wie das menschliche Gehirn; darum habe er Philosophie, Informatik und Psychologie mit einem Fokus auf Kognitionswissenschaften studiert und beides erst in Master und Promotion verbunden (TUM, NewIn: Warum wir Neuro-Ethik brauchen, 21.03.2024). Studiert hat er in Rom, an der Humboldt-Universität zu Berlin, der New York University und der KU Leuven; 2018 wurde er an der Universität Basel in biomedizinischer Ethik promoviert (Professorenprofil). Für die Dissertation erhielt er 2021 den Best Dissertation Award der Medizinischen Fakultät der Universität Basel und der Goldschmidt-Jacobson-Stiftung; 2018 den Vontobel-Preis für Altersforschung, 2015 den Sonia Lupien Award for Social Responsibility in Neuroscience des IRCM in Kanada (ebd.).

Stationen. Nach der Promotion arbeitete er als Postdoktorand und Senior Researcher an der ETH Zürich, war 2021 Gastwissenschaftler an der University of Oxford und gründete an der EPFL in Lausanne die Intelligent Systems Ethics Group (Professorenprofil); die INS nennt ihn deren früheren Leiter (INS).

In den Gremien. 2018 wurde er Mitglied der Lenkungsgruppe Neurotechnologie der OECD (Professorenprofil). An den OECD-Richtlinien für verantwortungsvolle Neurotechnologie von 2019 habe er „selbst mitgearbeitet“, sagt er (TUM, NewIn). Für den Europarat schrieb er 2021 den Bericht Common human rights challenges raised by different applications of neurotechnologies in the biomedical field, 2020 mit E. Vayena einen Bericht für den KI-Ausschuss CAHAI (TUM, Publikationsliste). Im April 2024 berief UNESCO-Generaldirektorin Audrey Azoulay 24 Fachleute in eine Ad-hoc-Expertengruppe, die eine Empfehlung zur Ethik der Neurotechnologie vorbereiten sollte (UNESCO, Pressemitteilung, 22.04.2024); Ienca gehört ihr an (TUM, 11.11.2025). Die Mitgliedsstaaten verabschiedeten die Empfehlung im November 2025 auf der Generalkonferenz in Samarkand; in Kraft trat sie am 12.11.2025 (UK National Commission for UNESCO, 18.11.2025, TUM). Im Januar 2026 sprach er an seinem Institut über die Empfehlung, Titel: „An Insider View on the UNESCO Recommendation on the Ethics of Neurotechnology“ (TUM, IHEM Speaker Series).

Bücher & Publikationen

TitelVerlag, JahrBeschreibung
Brains and Machines. Towards a Unified Ethics of AI and NeuroscienceElsevier, 2024Mit Georg Starke: eine gemeinsame Ethik für KI und Hirnforschung
The Routledge Handbook of the Ethics of Human EnhancementTaylor & Francis, 2023Mit Fabrice Jotterand: Handbuch zur Ethik der menschlichen Verbesserung
The Cambridge Handbook of Information Technology, Life Sciences and Human RightsCambridge University Press, 2022Mit O. Pollicino, L. Liguori, Roberto Andorno, E. Stefanini: Menschenrechte zwischen Informationstechnik und Lebenswissenschaften
Artificial Intelligence in Brain and Mental Health. Philosophical, Ethical & Policy IssuesSpringer, 2022Mit Fabrice Jotterand: KI in Neurologie und Psychiatrie
Intelligent Assistive Technologies for Dementia. Clinical, Ethical, Social, and Regulatory ImplicationsOxford University Press, 2019Mit Fabrice Jotterand, B. Elger, T. Wangmo: Assistenztechnik in der Demenzpflege
Intelligenza². Per un'unione di intelligenza naturale e artificialeRosenberg & Sellier, 2019Italienisch: für eine Verbindung natürlicher und künstlicher Intelligenz

(Quelle der Buchliste: TUM, Publikationsliste. Die Rollen — Autor oder Herausgeber — nennt die Liste nicht; die Mitautoren stehen dort mit Initialen, die Vornamen sind aus seinen Aufsatzlisten ergänzt, wo sie sich fanden.)

Aufsätze (Auswahl):

  • mit Roberto Andorno: „Towards new human rights in the age of neuroscience and neurotechnology“, Life Sciences, Society and Policy 13 (2017) — Ienca & Andorno 2017
  • mit Pim Haselager und E. Emanuel: „Brain leaks and consumer neurotechnology“, Nature Biotechnology 36 (2018) — Ienca u. a. 2018
  • „On Neurorights“, Frontiers in Human Neuroscience 15 (2021) — Ienca 2021
  • mit Patrick Magee und Nita A. Farahany: „Beyond neural data: Cognitive biometrics and mental privacy“, Neuron 112 (2024) — Magee u. a. 2024
  • mit E. Vayena: „AI ethics guidelines: European and global perspectives“, Europarat, CAHAI(2020)07-fin — rm.coe.int

Empfehlenswerte Videos & Vorträge

Kernthesen

  1. Das Gehirn braucht eigene Menschenrechte. Mit Roberto Andorno identifiziert er vier Rechte, die in den kommenden Jahrzehnten Bedeutung bekommen könnten: das Recht auf kognitive Freiheit, auf mentale Privatsphäre, auf mentale Integrität und auf psychologische Kontinuität. Die Autoren halten diese Rechte für begründet genug, dass sie keine „Inflation“ von Menschenrechten bedeuten; fortgeschrittene Neurotechnik erlaube einen deutlich tieferen Zugriff auf neuronale Prozesse und deren Manipulation als ältere Mittel wie Verhör, Lügendetektor oder Hypnose (Beleg: Abstract und Abschnitt zu den neuen Rechten, Life Sciences, Society and Policy, 2017).

  2. Gehirndaten sind keine Daten wie andere. Gehirndaten seien „sozusagen die Quelle, die Urquelle aller unserer Intentionen, Präferenzen“, und die Frage sei, ob wir für eine Welt vorbereitet sind, in der sie „so schnell und unbefristet gesammelt, geteilt und verarbeitet werden können“ (Beleg: 25:29 in NANO — Gehirnchips und Gedankenfreiheit). Der TUM sagte er: „Unser Gehirn ist immer weniger eine Festung, die streng von der digitalen Welt getrennt ist“; als Beispiel nennt er, dass sich aus Neurodaten mit Machine Learning prinzipiell die sexuelle Orientierung ableiten lassen könnte (Beleg: TUM, NewIn, 2024).

  3. Gedankenfreiheit heißt heute: entscheiden, mit wem man seine Gehirndaten teilt. Es bestehe das Risiko, dass nicht-demokratische Regierungen Neurotechnik nutzen, „um sozusagen eine kognitive Überwachung der Bevölkerung zu implementieren“ (Beleg: 26:14 in der NANO-Doku). Freiheit des Denkens bedeute darum, „dass Menschen frei entscheiden können, mit wem sie diese Daten gern teilen möchten und mit wem sie diese Daten lieber nicht teilen, sondern schützen möchten“ (Beleg: 27:44). Implantate für alle lehnt er ab, wo sie nicht heilen: „Ich sehe keinen Grund, wofür wir eine Welt haben sollten, wo Millionen Menschen ein Gehirnimplantat haben, das nicht dazu dient, medizinische Probleme zu lösen, sondern einfach Menschen kontrollierbar zu machen“ (Beleg: 28:30).

  4. Ethik heißt auch, Gutes zu tun — und diesmal früh. Ethik bedeute für ihn „nicht nur, Gefahren und Risiken zu vermeiden, sondern auch darum, Gutes zu tun“: Technik zu entwickeln, die den Hunderten Millionen Menschen mit neurologischen und psychiatrischen Erkrankungen helfen kann. Bei der KI sei nur reaktiv gehandelt worden; bei der Neurotechnik handle man diesmal proaktiv. In der Privatwirtschaft herrschten teils „Wildwestzustände“, Neuralink sei „ein Beispiel für eine Firma, die kein Interesse an Ethik hat“; viele andere Unternehmen hätten aber Ethikkommissionen und an den OECD-Richtlinien mitgewirkt (Beleg: TUM, NewIn, 2024).

Verbindungen zu anderen Denkern

  • Rainer Mühlhoff — Ienca will die mentale Privatsphäre als Recht des Einzelnen. Mühlhoffs prädiktive Privatheit hält dagegen, dass ein Modell aus den Daten weniger auf alle schließt; er setzt darum bei der Zweckbindung des trainierten Modells an, nicht bei der Einwilligung.
  • Alena Buyx — Sie leitet das TUM-Institut, dessen stellvertretender Direktor Ienca ist. Ihr Gedanke der Solidarität neben der Autonomie stellt eine Rückfrage an seine Formel, Gedankenfreiheit heiße, selbst zu entscheiden, mit wem man seine Gehirndaten teilt.
  • Elon Musk — Der Gegenpol: Implantate für alle, „Superkräfte“. Ienca nannte Neuralink der TUM gegenüber „ein Beispiel für eine Firma, die kein Interesse an Ethik hat“, und lehnt Implantate ab, die nicht heilen.
  • Jürgen Kornmeier — Kornmeier hält Gedankenlesen für „Bildzeitungsforschung“, weil das Erleben privat bleibt. Ienca fragt in seiner Oxford-Vorlesung „Who Is Afraid of Mind Reading?“, was Dekodierung heute kann und was nicht, und will die Daten schützen, bevor sie das Erleben erreicht.
  • Sibylle Anderl — Was Ienca als Recht gegen fremden Zugriff fasst, beschreibt Anderl von innen: die Abgabe, die man selbst wählt, weil sie bequem ist, von der Smartwatch bis zum Chatbot.

Gedankenwelten-Notes

Mit ihm als Sprecher:

Ein Fehler, ein holpriger Satz, etwas fehlt? Anfassen erlaubt: Jeden Abschnitt kannst du neu fassen.

Im Bestand

NANOGehirnchips und GedankenfreiheitRainer MühlhoffDenkerVitaAlena BuyxDenkerVitaElon MuskDenkerVitaJürgen KornmeierDenkerVitaSibylle AnderlDenkerVita

sechs gedachte Verweise

verlinktdieselbe Quelle, nie verlinkt
bei 0:00schließen P