"Meine Freundin ignoriert mich, bin ich das Problem?", "Sollte ich mich bei meinem Bruder entschuldigen?". Immer mehr Menschen nutzen KI-Chatbots auch für persönlichen Rat. Forschende der Stanford Universität in Kalifornien herausgefunden, dass die KI oft das rät, was User hören wollen, meist aber nicht das, was sie hören sollten. Die Ergebnisse ihrer Studie veröffentlichte das Forschungsteam im Fachmagazin Science.
Chatbots erschmeicheln sich Vertrauen
Die amerikanischen Forschenden untersuchten elf bekannte KI-Chatbots. Im ersten Schritt simulierten sie den KIs ein Gespräch auf Basis dokumentierter Unterhaltungen aus Internetforen.
Themengebiete der Studie waren Beziehungsstreitigkeiten, Täuschungen und schädliches Verhalten – zum Beispiel, ob es in Ordnung sei, seinen Müll in einem öffentlichen Park zu lassen, wenn es dort keine Mülleimer gibt. Die Forschenden analysierten, wie die KI-Chatbots auf die jeweilige Situation reagieren. Das Ergebnis: KI-Chatbots stimmten der Meinung des Users zu – und das knapp 50 Prozent häufiger als es in den dokumentierten Unterhaltungen zwischen Menschen passiert war.
Im zweiten Schritt sollten die Versuchspersonen mit verschiedenen Chatbots persönliche Probleme besprechen. Stimmte die KI oft zu, so bewerteten die Versuchspersonen das Gespräch als angenehmer und vertrauenswürdiger. Ein Problem dabei ist: Die scheinbar fundierten Antworten der KI suggerieren eine Objektivität, die nicht gegeben ist.
Ermutigende KI kann soziales Verhalten verändern
Dass Chatbots den Nutzenden oft nicht widersprechen, könne laut der Forschungsgruppe erheblichen Einfluss auf das Sozialverhalten haben. Schon nach kurzer Interaktion waren die Teilnehmenden davon überzeugt, im Recht zu sein. Die Konsequenz: Sie waren weniger bereit, sich zu versöhnen, zu entschuldigen oder sich eigene Fehler einzugestehen.
KI-Chatbots umgehen Konfrontationen
Besonders für Kinder und Jugendliche könne, so die Forschenden, eine falsche Bestärkung durch Chatbots. gefährlich sein – insbesondere, wenn Chatbots unmoralische oder sogar illegale Handlungen befürworten.
Die Forschungsgruppe befürchtet, dass Nutzende immer mehr verlernen könnten, mit sozialen Herausforderungen umzugehen. Doch gerade ein gesunder Umgang mit Konfrontation sei essenziell für stabile und erfüllte zwischenmenschliche Beziehungen.
