Technologien, die menschliche Fähigkeiten verbessern, verändern das Risikoverhalten von Nutzerinnen und Nutzern
24.05.2023 Als „Human Augmentation Technologies“ werden Technologien bezeichnet, die menschliche Fähigkeiten verbessern. Dazu zählen zum Beispiel Exoskelette, aber auch Augmented-Reality-Brillen. Eine Studie am Lehrstuhl für Human-Centered Ubiquitous Media der LMU zeigt nun, dass Nutzerinnen und Nutzer hohe Erwartungen an den Effekt dieser Technologien haben. Sobald sie der Ansicht sind, eine KI würde ihre kognitiven Fähigkeiten verbessern, erhöht sich ihre Risikobereitschaft. Und das unabhängig davon, ob die KI sie tatsächlich unterstützt.
„Der Hype um KI-Anwendungen wirkt sich auf die Erwartungen von Nutzerinnen und Nutzern aus. Das kann zu risikoreicherem Verhalten führen“, sagt Steeven Villa, Doktorand am Lehrstuhl für Human-Centered Ubiquitous Media und Erstautor der Studie.
Placebo-Effekte ausschließen
In der Studie wurde den Probandinnen und Probanden mitgeteilt, dass sie bei einem virtuellen Kartenspiel von einer KI-Anwendung unterstützt würden, die ihre kognitiven Fähigkeiten erhöhe. Tatsächlich gab es diese Unterstützung nicht. Dennoch zeigten die Teilnehmenden eine höhere Risikobereitschaft, sobald sie glaubten, von der KI zu profitieren.
Die Studie bestätigt damit zudem den möglichen Placebo-Effekt bei technologischen Anwendungen in ähnlicher Form, wie dieser bei Medikamenten nachweisbar ist. „Wenn Menschen zunehmend mit intelligenten Systemen zusammenarbeiten, ist es wichtig, einen möglichen Placebo-Effekt zu verstehen, um wirklich Systeme bauen zu können, die eine echte Unterstützung bieten“, sagt Albrecht Schmidt, Informatikprofessor an der LMU. Die Forscher empfehlen, vor der Verbreitung neuer KI-Anwendungen deren tatsächlichen Nutzen zu überprüfen und dann mögliche Placebo-Effekte zu berücksichtigen. Zudem raten sie, Nutzerinnen und Nutzer und ihre Erwartungshaltungen stärker in den Entwicklungsprozess mit einzubeziehen.
Publikation: Steeven Villa, Thomas Kosch, Felix Grelka, Albrecht Schmidt, Robin Welsch (2023). The placebo effect of human augmentation: Anticipating cognitive augmentation increases risk-taking behavior. In Computers in Human Behavior, Volume 146. https://doi.org/10.1016/j.chb.2023.107787 – https://www.sciencedirect.com/science/article/pii/S0747563223001383?via%3Dihub
Quellenangabe: Pressemitteilung Ludwig-Maximilians-Universität München
