Künstliche Intelligenz: Roboter-Therapeuten brauchen Regeln

Künstliche Intelligenz kann bei psychischen Problemen und Erkrankungen helfen. Allerdings sind wichtige ethische Fragen bisher nicht geklärt.

Teenager traurig auf Bett mit Handy © iStock
(München – 29.05.2019) In Zukunft werden wir immer häufiger direkt mit Künstlicher Intelligenz (KI) interagieren. Ein Team der Technischen Universität München (TUM) hat jetzt erstmals systematisch untersucht, wie „verkörperte KI" schon heute hilft, psychische Erkrankungen zu behandeln. Von verkörperter KI spricht man, weil bei diesen Anwendungen Menschen mit einem künstlichen Gegenüber interagieren, wodurch ganz neue Dynamiken entstehen. Das Fazit: Wichtige ethische Fragen zu dieser Technologie sind unbeantwortet, es besteht dringender Handlungsbedarf für Regierung, Fachverbände und Forschung.

Künstliche Intelligenz bei psychischen Problemen

Roboter-Puppen, mit denen autistische Kinder lernen, Menschen besser zu verstehen; computergenerierte Avatare, die helfen, mit Halluzinationen umzugehen, virtuelle Chats, die Unterstützung bei Depressionen bieten: Es gibt schon heute zahlreiche Ansätze, die psychische Gesundheit von Menschen mit sogenannter verkörperter Künstlicher Intelligenz zu fördern.

Der Einsatz von KI in der Psychotherapie ist nicht neu. Erste Chatbots erzeugten schon in den 60er Jahren die Illusion eines therapeutischen Gesprächs. Mehr als eine Spielerei war das allerdings nicht. Durch moderne Algorithmen und gestiegene Rechnerkapazitäten ist heute viel mehr möglich. „Die Algorithmen hinter diesen Anwendungen sind mit riesigen Datenmengen trainiert worden und können echte therapeutische Aussagen treffen", sagt Prof. Alena Buyx, Professorin für Ethik der Medizin und Gesundheitstechnologien der Technischen Universität München. Das Team der TUM hat erstmals einen systematischen Überblick über Anwendungen der verkörperten KI für die psychische Gesundheit erstellt und Chancen und Herausforderungen herausgearbeitet.

Chancen und Risiken

Die neuen Anwendungen haben enormes Potential. Sie können mehr Menschen Zugang zu einer Behandlung bieten, weil sie nicht an bestimmte Zeiten und Orte gebunden sind. Einigen Betroffenen fällt es zudem leichter, mit der KI zu interagieren als mit einem menschlichen Gegenüber. Es gibt aber auch Risiken. „Verkörperte KI kann und darf kein billigerer Ersatz für eine Behandlung durch reale Ärztinnen und Ärzte sein“, sagt Dr. Amelia Fiske von der TUM.

„Obwohl verkörperte KI schon in der Klinik angekommen ist, gibt es bisher kaum Empfehlungen von medizinischen Fachgesellschaften zum Umgang mit diesem Thema. Das wäre jedoch dringend notwendig, um die Vorteile dieser Technologien zu nutzen und gleichzeitig Nachteile zu vermeiden und ‚Wildwuchs‘ einzudämmen. Außerdem sollte das Thema bereits im Medizinstudium behandelt werden“, sagt Peter Henningsen, Dekan der TUM-Medizinfakultät.

Ethische Regeln für Künstliche Intelligenz

Derzeit werden vermehrt Leitlinien für KI erstellt, etwa die gerade von der EU entwickelten Ethics Guidelines for Trustworthy AI. Zusätzlich dazu sind laut Prof. Buyx allerdings dringend fachspezifische Regeln notwendig. „Therapeutische KI-Anwendungen sind Medizinprodukte, für die wir entsprechende Zulassungsverfahren und ethische Handlungsvorgaben brauchen". „Wenn die Programme beispielsweise erkennen können, ob Patienten Suizidgedanken haben, dann müssen sie, genau wie Therapeutinnen und Therapeuten, im Ernstfall klare Warn-Protokolle befolgen."

Darüber hinaus muss verkörperte KI intensiv auf soziale Effekte hin erforscht werden. „Wir haben kaum Informationen dazu, wie sich der Kontakt mit therapeutischer KI auf uns Menschen auswirkt“, sagt Alena Buyx. „Unter Umständen lernt beispielsweise ein Kind mit einer Störung aus dem Autismus-Spektrum durch den Kontakt mit einem Roboter nur, wie man besser mit Robotern umgeht – aber nicht mit Menschen.“
Autoren und Quellen Aktualisiert: 29.05.2019
  • Autor/in: vitanet.de; Kristina Wagenlehner
  • Quellen: Pressemitteilung der Technischen Universität München vom 15. Mai 2019: Roboter-Therapeuten brauchen Regeln. Verkörperte KI bei psychischen Erkrankungen: ethische Fragen durch neue Technologien
  • Originalpublikation: Fiske A, Henningsen P, Buyx A. Your robot therapist will see you now: Ethical implications of embodied artificial intelligence in psychiatry, psychology, and psychotherapy. Journal of Medical Internet Research (2019). DOI: 10.2196/13216.
Suche nach Netzwerk- & Servicepartnern
Zertifizierung