Forscher untersuchen die Auswirkungen, die „Deathbots“ darauf haben könnten, wie Trauer erlebt wird, sowie die ethischen Implikationen
08.07.2024 Ein Deathbot ist ein Chatbot, der das Gesprächsverhalten – Inhalt, Wortschatz und Stil – einer verstorbenen Person imitiert. Deathbots basieren auf generativen KI-Systemen, die auf einer großen Sammlung menschlicher Informationen beruhen, und nutzen Textnachrichten, Sprachnachrichten, E-Mails und Beiträge in sozialen Medien, um die Sprache oder Schrift einer verstorbenen Person nachzuahmen.
Ein in Topoi erschienener Artikel von Dr. Regina Fabry und Associate Professor Mark Alfano vom Fachbereich Philosophie der Macquarie University untersucht die Auswirkungen, die „Deathbots“ darauf haben könnten, wie Trauer erlebt wird, sowie die ethischen Implikationen.
Die häufigste Form von Deathbots basiert auf Text. Deathbots mit verbalen Eingaben und Audioausgaben werden jedoch immer häufiger eingesetzt. Sie greifen auf „digitale Hinterlassenschaften“ zurück und erzeugen Antworten auf von einem Menschen eingegebene Aufforderungen, die den Gesprächsantworten der inzwischen verstorbenen Person ähneln können.
Die Arbeit von Fabry und Alfano untersucht die möglichen Auswirkungen von Mensch-Deathbot-Interaktionen auf den Trauerprozess.
Um zu verstehen, wie Deathbots funktionieren und wie es zu Fehlfunktionen kommen kann, erforschen Philosophen seit einigen Jahren Berichte über Interaktionen zwischen Mensch und Deathbot. Diese Berichte könnten wichtige Auswirkungen auf die Ausarbeitung künftiger politischer Leitlinien haben.
Ein neuer Weg zur Trauerverarbeitung?
„Aus einer optimistischen Perspektive können Deathbots als technologische Hilfsmittel verstanden werden, die emotionale Erfahrungen von Trauer gestalten und regulieren können“, sagt Fabry.
„Die Forscher vermuten, dass die Interaktion mit einem Deathbot es den Hinterbliebenen ermöglichen könnte, ‚Gewohnheiten der Intimität‘ fortzusetzen, wie z. B. Gespräche zu führen, Emotionen zu regulieren und Zeit miteinander zu verbringen.“
Aber, so warnt sie, Trauererfahrungen sind komplex und variabel. „Wie wir trauern, wie lange wir trauern und welche Ressourcen und Praktiken uns bei der Bewältigung des Verlusts am besten unterstützen können, hängt von einer Reihe von Faktoren ab.
„Dazu gehören die Todesursache (z. B. ein Unfall, eine Langzeiterkrankung oder ein Mord), die Art und Qualität der Beziehung zwischen den Hinterbliebenen und der verstorbenen Person sowie die allgemeinen kulturellen Praktiken und Normen, die den Trauerprozess prägen.“
Darüber hinaus hängt die positive oder negative Auswirkung von Deathbots auf die Trauer auch von der Einstellung der Hinterbliebenen zu den Gesprächsmöglichkeiten und -grenzen von Deathbots ab.
„Ist sich ein Hinterbliebener bewusst, dass er mit einem Deathbot chattet, der irgendwann Fehler machen wird? Oder haben die Hinterbliebenen zumindest zeitweise das Gefühl, dass sie sich buchstäblich mit den Toten unterhalten? Die Beantwortung dieser Fragen erfordert mehr empirische Forschung, schreiben sie.
Nach dem Tod „zombifiziert“ werden?
„Manche Menschen wollen nach ihrem Tod nicht in Form eines Deathbots ‚zombifiziert‘ werden. Andere könnten zu Lebzeiten den Wunsch äußern, dass nach ihrem Tod ein Deathbot erzeugt wird. Sie sammeln und kuratieren vielleicht Daten für diesen Zweck“, sagt Fabry.
„In jedem Fall haben die Hinterbliebenen – und die Technologieunternehmen, die Deathbot-Dienste anbieten – die moralische Verpflichtung, die Wünsche der Verstorbenen zu respektieren.“
Einige Forscher haben darauf hingewiesen, so Fabry, dass die Hinterbliebenen mit einem Autonomieproblem konfrontiert werden und sich bei ihren Versuchen, sich in einer durch den Tod eines geliebten Menschen unwiderruflich veränderten Welt umzuorientieren und zurechtzufinden, zu sehr auf einen Todesbot verlassen könnten.
Trauerbegleiter oder Therapeuten
Es wurde auch darüber diskutiert, ob bei Mensch-Deathbot-Interaktionen eine unwiderruflich verlorene menschliche Beziehung durch eine digital vermittelte Beziehung zu einem KI-System ersetzt werden könnte, was zu Selbsttäuschung oder sogar Wahnvorstellungen führen könnte.
„Um das Auftreten dieses Problems zu verhindern, empfehlen wir die Implementierung von ‚automatischen Leitlinien‘, um zu erkennen, ob eine trauernde Person zu sehr von ihren Interaktionen mit einem Deathbot abhängig wird“, sagt Fabry.
„Außerdem empfehlen wir, dass die Interaktionen mit einem Deathbot von einem Trauerbegleiter oder Therapeuten beaufsichtigt werden sollten.“
© Psylex.de – Quellenangabe: Topoi (2024). DOI: 10.1007/s11245-023-09995-2
Weitere Infos, News dazu
- Trauerstörung
- Konfrontation bei anhaltender Trauer hilfreich
- Was tun bei Trauer und Kummer
- Behandlung von komplizierter Trauer