KI-Chatbots werden zunehmend auch bei persönlichen und psychischen Problemen genutzt. Ein Scoping Review bündelt nun die Forschung zu möglichen negativen Folgen. Die Bandbreite reicht von problematischen Antworten in psychischen Krisen über emotionale Abhängigkeit bis zu Datenschutzrisiken.
KI-Chatbots auf Basis großer Sprachmodelle können unkompliziert Informationen liefern und als Gesprächspartner dienen. Werden sie bei psychischen Problemen eingesetzt, entstehen jedoch besondere Risiken. Wissenschafterinnen und Wissenschafter haben deshalb die bisherige Forschung zu möglichen und beobachteten negativen Auswirkungen auf die psychische Gesundheit systematisch zusammengetragen.
Für den in npj Digital Medicine veröffentlichten Scoping Review (= wissenschaftliche Übersichtarbeit) identifizierte das Forschungsteam 3.137 Veröffentlichungen aus fünf Literaturdatenbanken und einer ergänzenden Suche. 119 Arbeiten wurden schließlich in die Auswertung aufgenommen.
Die Forschenden haben die Risiken in fünf Kategorien unterteilt: Direkte psychische und psychiatrische Gefahren wie bei Suizidalität, Risiken für Verhalten und Beziehungen wie emotionale Bindungen, Risiken für Denkvermögen und Bildung wie kognitive Abhängigkeit, Sicherheitsrisiken durch das Fehlverhalten von Chatbots wie Fehlinformationen und strukturelle bzw. systemische Risiken wie Datenschutz.
Risiken bei psychischen Problemen und in Krisen
Ausgewertete Arbeiten zeigen, dass KI-Chatbots bei Anfragen zu psychischen Problemen unangemessen oder inkonsistent antworten können. Dazu zählen Fehlinformationen oder Antworten, die problematische Überzeugungen bestätigen.
„Besonders kritisch ist der Einsatz bei Menschen mit schweren psychischen Erkrankungen oder in Krisensituationen. Hier können die Grenzen zwischen hilfreicher Unterstützung und einer Verstärkung bestehender Probleme verschwimmen“, erklärt Priv.-Doz. Dr. Alexander Bäuerle, Bereichsleitung klinische Forschung, digitale Gesundheit und Digitalisierung in der Klinik für Psychosomatische Medizin und Psychotherapie der LVR- Universitätsklinik Essen, Universität Duisburg-Essen.
Emotionale Abhängigkeit und „AI psychosis“
Die ausgewertete Literatur beschreibt zudem Zusammenhänge zwischen problematischer Chatbot-Nutzung und psychischen Belastungen wie Einsamkeit, Depression oder Angst. Die Studien zeigen zwar Zusammenhänge, belegen aber keinen ursächlichen Zusammenhang.
Auch mögliche Zusammenhänge zwischen Chatbot-Nutzung und „AI psychosis“ werden untersucht. Dabei geht es unter anderem um die Gefahr, dass Chatbots wahnhafte Überzeugungen bestätigen oder verstärken. Die Forschung dazu steht allerdings noch am Anfang.
Denken, Lernen und Datenschutz
Weitere Arbeiten beschäftigen sich mit der Nutzung von KI-Chatbots als Denk- und Lernhilfe. Einige Untersuchungen bringen eine starke Auslagerung kognitiver Aufgaben an Chatbots mit geringerer kognitiver oder akademischer Leistung in Verbindung. Für Auswirkungen auf das kritische Denken ergibt sich bisher jedoch kein einheitliches Bild.
Darüber hinaus nennt die Literatur Risiken durch falsche oder verzerrte Informationen sowie beim Umgang mit sensiblen Daten.
