Alena Buyx: KI ist ein vielversprechender Ansatz im gesamten Bereich der psychischen Gesundheit

"Your Robot Therapist Will See You Now: Ethical Implications of Embodied Artificial Intelligence in Psychiatry, Psychology, and Psychotherapy". So lau­tet der Titel einer Arbeit aus dem Jahr 2019, an der die Ethikratsvorsitzende Alena Buyx neben zwei wei­te­ren AutorInnen betei­ligt war. Man liest dort:

»Hintergrund
Die Forschung auf dem Gebiet der ver­kör­per­ten künst­li­chen Intelligenz (KI) hat zuneh­men­de kli­ni­sche Relevanz für the­ra­peu­ti­sche Anwendungen in der psych­ia­tri­schen Versorgung. Mit Innovationen, die von "vir­tu­el­len Psychotherapeuten" über sozia­le Roboter in der Demenzpflege und bei Autismusstörungen bis hin zu Robotern für sexu­el­le Störungen rei­chen, über­neh­men künst­lich intel­li­gen­te vir­tu­el­le und robo­ti­sche Agenten zuneh­mend the­ra­peu­ti­sche Interventionen auf hohem Niveau, die frü­her aus­schließ­lich von hoch­qua­li­fi­zier­tem medi­zi­ni­schem Fachpersonal ange­bo­ten wurden.

Um eine ver­ant­wor­tungs­vol­le kli­ni­sche Umsetzung zu ermög­li­chen, müs­sen die ethi­schen und sozia­len Auswirkungen des zuneh­men­den Einsatzes von ver­kör­per­ter KI in der psy­chi­schen Gesundheit ermit­telt und behan­delt werden…

Ergebnisse
Aus ethi­scher Sicht bestehen wich­ti­ge Vorteile ver­kör­per­ter KI-Anwendungen im Bereich der psy­chi­schen Gesundheit in neu­en Behandlungsmethoden, in der Möglichkeit, schwer erreich­ba­re Bevölkerungsgruppen anzu­spre­chen, in der bes­se­ren Reaktion auf Patienten und in der Zeitersparnis für Ärzte. Zu den über­grei­fen­den ethi­schen Fragen und Bedenken gehö­ren: Schadensvermeidung und ver­schie­de­ne Fragen der Datenethik; feh­len­de Leitlinien für die Entwicklung von KI-Anwendungen, ihre kli­ni­sche Integration und die Ausbildung von Fachkräften im Gesundheitswesen; "Lücken" in den ethi­schen und recht­li­chen Rahmenbedingungen; das Missbrauchspotenzial, ein­schließ­lich des Einsatzes der Technologien zum Ersatz eta­blier­ter Dienste, wodurch bestehen­de gesund­heit­li­che Ungleichheiten mög­li­cher­wei­se noch ver­schärft wer­den. Zu den spe­zi­fi­schen Herausforderungen, die bei der Anwendung von ver­kör­per­ter KI iden­ti­fi­ziert und dis­ku­tiert wer­den, gehö­ren: Fragen der Risikobewertung, Überweisungen und Überwachung; die Notwendigkeit, die Patientenautonomie zu respek­tie­ren und zu schüt­zen; die Rolle der nicht-mensch­li­chen Therapie; Transparenz bei der Verwendung von Algorithmen; und spe­zi­fi­sche Bedenken hin­sicht­lich der lang­fri­sti­gen Auswirkungen die­ser Anwendungen auf das Verständnis von Krankheit und dem mensch­li­chen Zustand.

Schlussfolgerungen
Wir argu­men­tie­ren, dass ver­kör­per­te KI ein viel­ver­spre­chen­der Ansatz im gesam­ten Bereich der psy­chi­schen Gesundheit ist. Allerdings sind wei­te­re Forschungsarbeiten erfor­der­lich, um die umfas­sen­de­ren ethi­schen und gesell­schaft­li­chen Bedenken die­ser Technologien zu erör­tern und die beste Forschung und medi­zi­ni­sche Praxis in der inno­va­ti­ven psy­chi­schen Gesundheitsversorgung aus­zu­han­deln. Abschließend zei­gen wir Bereiche für zukünf­ti­ge Forschung auf und ent­wickeln Empfehlungen für Bereiche mit hoher Priorität, die eine kon­kre­te ethi­sche Anleitung benö­ti­gen…«

Hauptsache, es rech­net sich.


»Verkörperte künst­li­che Intelligenz (eng­lisch embo­di­ed arti­fi­ci­al intel­li­gence) bezeich­net eine jün­ge­re Strömung in der Forschungsdisziplin der künst­li­chen Intelligenz (KI). Der Theorie des Embodiment fol­gend wird ange­nom­men, dass Intelligenz im Kontext phy­si­scher Agenten, die sich in einer rea­len phy­si­schen und sozia­len Welt ver­hal­ten, begrif­fen wer­den muss. Design und Konstruktion von Robotern soll­ten von die­ser Grundüberzeugung gelei­tet sein…«
de​.wiki​pe​dia​.org

Update:

mdr​.de (18.3.19)

16 Antworten auf „Alena Buyx: KI ist ein vielversprechender Ansatz im gesamten Bereich der psychischen Gesundheit“

  1. Mit see­len­lo­sen Apparaten see­li­sche Leiden hei­len wol­len – auf so eine Idee muss man erst­mal kom­men. Der Mensch ist dann nur noch "gesund", wenn sein Verhalten der Logik der KI entspricht. 

    Pervers. Der Mensch hat sich der KI anzu­pas­sen, wird zur see­len­lo­sen Maschine eingedampft. 

    Und wenn es noch irgend­wo klemmt, wird am kaput­ten Gen rum­ge­schnip­pelt, dann läuft der Roboter wieder.

    Und sowas nennt sich dann Ethik. Die Frau hat vom Leben gar nichts begrif­fen. Null.

  2. «Alena Buyx» klingt sowie­so wie ein Bot. –– Sind die Echslinge schon unter uns? Oder: Buyx => Bugs => Insektenfressen (wird, den Kanalstromnachrichten nach, der­zeit von den Powers That Be pro­pa­giert). –– Rätsel der Sandbank…

  3. Guten Abend,

    erst ein­mal: vie­len Dank für die Artikel. Sie waren sehr informativ.

    Zum Inhalt: wenn Fr. Buyx bei dem WHO-Treffen dabei war, kön­nen wir sicher sein, dass Medizinethik in Puncto Gentechnik ganz sicher kein Thema war.

    Und Nein: der tech­ni­sche Imperativ – "Was tech­nisch mög­lich ist, soll auch umge­setzt wer­den." – dem Fr. Buyx anhängt hat nichts mit Ethik zu tun.

    Es ist zwar nur eine rhe­to­ri­sche Frage; ich stel­le sie aber trotz­dem: Wer braucht die­sen Quatsch?
    Mir ist durch­aus bewusst dass es einen Teil der Bevölkerung gibt, der "Hier!" rufen würde.
    Nur: Etwas haben zu wol­len und etwas tat­säch­lich zu brau­chen sind zwei ver­schie­de­ne Paar Schuhe. Insbesondere, da sich psy­chi­sche und phy­si­sche Gesundheit dadurch aus­zeich­nen gewis­se Dinge NICHT zu brau­chen um zu "funk­tio­nie­ren".

    In der Hoffnung zum Nachdenken ange­regt zu haben, wün­sche ich einen schö­nen Abend!

    Freundliche Grüße,
    Daniel Jacob

  4. Umsonst (mit den Worten von Buyx: für lau) betreibt Buyx die Arbeiten sicher nicht. Egal, in wel­cher Position und in wel­chem Zusammenhang. Wer bezahlt, der will eine Gegenleistung erhal­ten. Buyx lie­fert. Ob als staat­lich gespons­or­tes "Mietmaul" im Ethikrat oder für son­sti­ge Studien und Auftragsarbeiten (egal, ob die­se so hei­ßen oder letzt­lich auf­grund des Sponsorentums dies sind). Natürlich will "der Staat" die Ergebnisse haben, die sich die "Sponsoren" wün­schen und die Machtzuwachs bedeu­ten. Und glei­ches gilt für ihre Stellung an der Uni München. Die gewünsch­te und pro­pa­gier­te Eskalation gegen Ungeimpfte spricht Bände über den Charakter von Buyx.

  5. Andererseits, wenn ich die Wahl hät­te, ein Gespräch mit Frau Buyx oder einem Roboter zu füh­ren, wür­de ich den Roboter bevorzugen.

  6. Intelligenz, ob künst­lich oder nicht, ist kein Ersatz für Empathie. Gerade wenn es um die psy­chi­sche Gesundheit geht. Personen wie die Buyxe, die Menschen schein­bar eher als fehl­kon­stru­ier­te Maschinen begrei­fen, wer­den das aller­dings nie kapieren.

  7. Nicht ein­mal der Socialbot von Amazon ver­steht mich, wenn ich ein spe­zi­el­les Problem in Hinblick auf eine Lieferung vor­tra­ge. Erst die Aufforderung mich ein­fa­cher aus­zu­drücken und dann die Ansage jetzt sei ja alles geklärt und ich wer­de aus der Leitung geschmis­sen. Für eine Psychotherapie braucht der Therapeut außer­dem Empathie und die haben Roboter nicht, uns wird sie aller­dings abtrainiert.

  8. Entsetzlich. Was für ein gefühls­kal­tes, men­schen­feind­li­ches, totes Weltbild. Wie kommt es, dass eine sol­che Frau aus­ge­rech­net in die­ser Zeit den Ethikrat vor­sitzt? Wie ein Harbarth das Bundesverfassungsgericht? Kann das alles noch geplant sein? Es wirkt fast wie gött­li­che oder sata­ni­sche Fügung …

  9. "schar­fe Büchs" mein­te mal einer, als sie for­der­te "Wir müs­sen jetzt aus allen Rohren schie­ßen" in Bezug auf die Impfkampagne. (fand ich sehr tref­fend oder ist das fies? sie kann ja nix für den Namen, seis drum)

  10. Für mich ist der Fall jetzt klar:

    Das ist kei­ne Frau, das ist ein Androide.

    Anhand der Kommentare und Äußerungen zu diver­sen Themen in den letz­ten Jahren hal­te ich das für naheliegend.

    Es wür­de auch die Affinität zur KI und die feh­len­de Empathie gegen­über rein orga­ni­schem Leben erklären.

  11. Robbi, Tobbi und das Fliewatüt.
    klick klick.
    Ethik Tik Tik
    Wie sag­te Zuse einst? "Es ist ver­mut­lich wahr­schein­li­cher, dass Menschen wie Computer wer­den als das Computer dem Menschen ähneln. " Sie wer­den es mit jeder nur erdenk­ba­ren Propaganda ver­su­chen. Werde Maschine. Das ist der neue Mensch, der gute, der sozia­le, der klimaneutrale.
    NEIN.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert