"Your Robot Therapist Will See You Now: Ethical Implications of Embodied Artificial Intelligence in Psychiatry, Psychology, and Psychotherapy". So lautet der Titel einer Arbeit aus dem Jahr 2019, an der die Ethikratsvorsitzende Alena Buyx neben zwei weiteren AutorInnen beteiligt war. Man liest dort:
»Hintergrund
Die Forschung auf dem Gebiet der verkörperten künstlichen Intelligenz (KI) hat zunehmende klinische Relevanz für therapeutische Anwendungen in der psychiatrischen Versorgung. Mit Innovationen, die von "virtuellen Psychotherapeuten" über soziale Roboter in der Demenzpflege und bei Autismusstörungen bis hin zu Robotern für sexuelle Störungen reichen, übernehmen künstlich intelligente virtuelle und robotische Agenten zunehmend therapeutische Interventionen auf hohem Niveau, die früher ausschließlich von hochqualifiziertem medizinischem Fachpersonal angeboten wurden.
Um eine verantwortungsvolle klinische Umsetzung zu ermöglichen, müssen die ethischen und sozialen Auswirkungen des zunehmenden Einsatzes von verkörperter KI in der psychischen Gesundheit ermittelt und behandelt werden…
Ergebnisse
Aus ethischer Sicht bestehen wichtige Vorteile verkörperter KI-Anwendungen im Bereich der psychischen Gesundheit in neuen Behandlungsmethoden, in der Möglichkeit, schwer erreichbare Bevölkerungsgruppen anzusprechen, in der besseren Reaktion auf Patienten und in der Zeitersparnis für Ärzte. Zu den übergreifenden ethischen Fragen und Bedenken gehören: Schadensvermeidung und verschiedene Fragen der Datenethik; fehlende Leitlinien für die Entwicklung von KI-Anwendungen, ihre klinische Integration und die Ausbildung von Fachkräften im Gesundheitswesen; "Lücken" in den ethischen und rechtlichen Rahmenbedingungen; das Missbrauchspotenzial, einschließlich des Einsatzes der Technologien zum Ersatz etablierter Dienste, wodurch bestehende gesundheitliche Ungleichheiten möglicherweise noch verschärft werden. Zu den spezifischen Herausforderungen, die bei der Anwendung von verkörperter KI identifiziert und diskutiert werden, gehören: Fragen der Risikobewertung, Überweisungen und Überwachung; die Notwendigkeit, die Patientenautonomie zu respektieren und zu schützen; die Rolle der nicht-menschlichen Therapie; Transparenz bei der Verwendung von Algorithmen; und spezifische Bedenken hinsichtlich der langfristigen Auswirkungen dieser Anwendungen auf das Verständnis von Krankheit und dem menschlichen Zustand.
Schlussfolgerungen
Wir argumentieren, dass verkörperte KI ein vielversprechender Ansatz im gesamten Bereich der psychischen Gesundheit ist. Allerdings sind weitere Forschungsarbeiten erforderlich, um die umfassenderen ethischen und gesellschaftlichen Bedenken dieser Technologien zu erörtern und die beste Forschung und medizinische Praxis in der innovativen psychischen Gesundheitsversorgung auszuhandeln. Abschließend zeigen wir Bereiche für zukünftige Forschung auf und entwickeln Empfehlungen für Bereiche mit hoher Priorität, die eine konkrete ethische Anleitung benötigen…«
Hauptsache, es rechnet sich.
»Verkörperte künstliche Intelligenz (englisch embodied artificial intelligence) bezeichnet eine jüngere Strömung in der Forschungsdisziplin der künstlichen Intelligenz (KI). Der Theorie des Embodiment folgend wird angenommen, dass Intelligenz im Kontext physischer Agenten, die sich in einer realen physischen und sozialen Welt verhalten, begriffen werden muss. Design und Konstruktion von Robotern sollten von dieser Grundüberzeugung geleitet sein…«
de.wikipedia.org
Update:
ELIZA lebt!—Welcome to the future of the 1960s…
https://en.wikipedia.org/wiki/ELIZA
(Sorry for linking the English page. Die deutsche WiPe ist leider vergleichsweise dürftig.)
Mit seelenlosen Apparaten seelische Leiden heilen wollen – auf so eine Idee muss man erstmal kommen. Der Mensch ist dann nur noch "gesund", wenn sein Verhalten der Logik der KI entspricht.
Pervers. Der Mensch hat sich der KI anzupassen, wird zur seelenlosen Maschine eingedampft.
Und wenn es noch irgendwo klemmt, wird am kaputten Gen rumgeschnippelt, dann läuft der Roboter wieder.
Und sowas nennt sich dann Ethik. Die Frau hat vom Leben gar nichts begriffen. Null.
«Alena Buyx» klingt sowieso wie ein Bot. –– Sind die Echslinge schon unter uns? Oder: Buyx => Bugs => Insektenfressen (wird, den Kanalstromnachrichten nach, derzeit von den Powers That Be propagiert). –– Rätsel der Sandbank…
Guten Abend,
erst einmal: vielen Dank für die Artikel. Sie waren sehr informativ.
Zum Inhalt: wenn Fr. Buyx bei dem WHO-Treffen dabei war, können wir sicher sein, dass Medizinethik in Puncto Gentechnik ganz sicher kein Thema war.
Und Nein: der technische Imperativ – "Was technisch möglich ist, soll auch umgesetzt werden." – dem Fr. Buyx anhängt hat nichts mit Ethik zu tun.
Es ist zwar nur eine rhetorische Frage; ich stelle sie aber trotzdem: Wer braucht diesen Quatsch?
Mir ist durchaus bewusst dass es einen Teil der Bevölkerung gibt, der "Hier!" rufen würde.
Nur: Etwas haben zu wollen und etwas tatsächlich zu brauchen sind zwei verschiedene Paar Schuhe. Insbesondere, da sich psychische und physische Gesundheit dadurch auszeichnen gewisse Dinge NICHT zu brauchen um zu "funktionieren".
In der Hoffnung zum Nachdenken angeregt zu haben, wünsche ich einen schönen Abend!
Freundliche Grüße,
Daniel Jacob
Umsonst (mit den Worten von Buyx: für lau) betreibt Buyx die Arbeiten sicher nicht. Egal, in welcher Position und in welchem Zusammenhang. Wer bezahlt, der will eine Gegenleistung erhalten. Buyx liefert. Ob als staatlich gesponsortes "Mietmaul" im Ethikrat oder für sonstige Studien und Auftragsarbeiten (egal, ob diese so heißen oder letztlich aufgrund des Sponsorentums dies sind). Natürlich will "der Staat" die Ergebnisse haben, die sich die "Sponsoren" wünschen und die Machtzuwachs bedeuten. Und gleiches gilt für ihre Stellung an der Uni München. Die gewünschte und propagierte Eskalation gegen Ungeimpfte spricht Bände über den Charakter von Buyx.
Charakter?
Die ist ganz hübsch anzusehen. Das ist aber auch alles.
@Duck: Sollten wir langsam eine Kasse für Chauvisprüche einrichten?
@aa
Oder eine für einen verengten Meinungskorridor ?
War der Kommentar von Duck wirklich so dramatisch ?
Computer sagt nein.
Andererseits, wenn ich die Wahl hätte, ein Gespräch mit Frau Buyx oder einem Roboter zu führen, würde ich den Roboter bevorzugen.
Intelligenz, ob künstlich oder nicht, ist kein Ersatz für Empathie. Gerade wenn es um die psychische Gesundheit geht. Personen wie die Buyxe, die Menschen scheinbar eher als fehlkonstruierte Maschinen begreifen, werden das allerdings nie kapieren.
Nicht einmal der Socialbot von Amazon versteht mich, wenn ich ein spezielles Problem in Hinblick auf eine Lieferung vortrage. Erst die Aufforderung mich einfacher auszudrücken und dann die Ansage jetzt sei ja alles geklärt und ich werde aus der Leitung geschmissen. Für eine Psychotherapie braucht der Therapeut außerdem Empathie und die haben Roboter nicht, uns wird sie allerdings abtrainiert.
Entsetzlich. Was für ein gefühlskaltes, menschenfeindliches, totes Weltbild. Wie kommt es, dass eine solche Frau ausgerechnet in dieser Zeit den Ethikrat vorsitzt? Wie ein Harbarth das Bundesverfassungsgericht? Kann das alles noch geplant sein? Es wirkt fast wie göttliche oder satanische Fügung …
"scharfe Büchs" meinte mal einer, als sie forderte "Wir müssen jetzt aus allen Rohren schießen" in Bezug auf die Impfkampagne. (fand ich sehr treffend oder ist das fies? sie kann ja nix für den Namen, seis drum)
Die Linke geht auch links.
"Ende der Meinungsfreiheit – Auf dem Weg in eine illiberale Gesellschaft?
Sahra Wagenknecht
03.11.2022"
https://www.youtube.com/watch?v=Lwflj8_vmgI&list=PLWMOkEY81QpiC-0fm6ospJHGMX5_a_BYo&index=1
Für mich ist der Fall jetzt klar:
Das ist keine Frau, das ist ein Androide.
Anhand der Kommentare und Äußerungen zu diversen Themen in den letzten Jahren halte ich das für naheliegend.
Es würde auch die Affinität zur KI und die fehlende Empathie gegenüber rein organischem Leben erklären.
Robbi, Tobbi und das Fliewatüt.
klick klick.
Ethik Tik Tik
Wie sagte Zuse einst? "Es ist vermutlich wahrscheinlicher, dass Menschen wie Computer werden als das Computer dem Menschen ähneln. " Sie werden es mit jeder nur erdenkbaren Propaganda versuchen. Werde Maschine. Das ist der neue Mensch, der gute, der soziale, der klimaneutrale.
NEIN.