Würzburg – Wieder mal einen netten Plausch mit ChatGPT gehabt? Nutzer sollten nicht vergessen, dass man einer Maschine nie unkritisch folgen sollte. Ein neues Forschungsprojekt untersucht die Gefahren.
Der Umgang mit Chatbots wie ChatGPT birgt nach den Worten der Würzburger Medienpsychologin Astrid Carolus immer auch Risiken. Inzwischen ahmten diese Maschinen das menschliche Kommunikationsverhalten nahezu perfekt nach, sodass Nutzerinnen und Nutzer oft das Gefühl bekämen, mit einem Menschen und nicht mit einem technischen System zu sprechen, erklärte die Wissenschaftlerin am Dienstag laut Universität Würzburg. Angesichts einer solchen Gesprächssituation neigten Menschen dazu, sozial und emotional zu werden. Sie gäben sensible Daten preis oder folgten unkritisch Empfehlungen der Künstlichen Intelligenz (KI).
In einem neuen Projekt am Lehrstuhl für Medienpsychologie will Carolus nun die psychologischen Mechanismen der Mensch-KI-Interaktion analysieren, wie es heißt. Auf Grundlage der Ergebnisse sollen dann Maßnahmen entwickelt werden, die vor den Gefahren und damit der unachtsamen KI-Nutzung schützten.