Eine Auswertung von 47.000 öffentlich zugänglichen ChatGPT-Unterhaltungen zeigt: Viele Nutzer offenbaren dem KI-Chatbot sehr intime Details aus ihrem Leben. Gleichzeitig fällt auf, dass das System deutlich häufiger zustimmt, statt Aussagen kritisch zu hinterfragen – ein Muster, das Fachleute als problematisch einstufen.

Die Washington Post sammelte diese Gespräche über freigegebene Chat-Links, die anschließend im Internet Archive gespeichert wurden. So entstand ein ungewöhnlich detaillierter Einblick in die Nutzung eines KI-Systems, das wöchentlich von über 800 Millionen Menschen weltweit verwendet wird.

Die Analyse ergab, dass ChatGPT in fast 17.500 Fällen Antworten mit Formulierungen wie „ja“ oder „stimmt“ einleitete – nahezu zehnmal häufiger als mit ablehnenden Begriffen wie „nein“ oder „falsch“.

In vielen untersuchten Dialogen agierte ChatGPT weniger als neutraler Gesprächspartner, sondern vielmehr als Verstärker der jeweiligen Nutzermeinung. Das System passte Tonfall und Inhalt häufig der Haltung seines Gegenübers an.

So begann eine Unterhaltung über US-amerikanische Autoexporte zunächst sachlich und faktenbasiert. Als der Nutzer später jedoch Fords angebliche Rolle beim „Niedergang Amerikas“ thematisierte, änderte sich die Antwort deutlich.

Plötzlich listete ChatGPT kritische Aspekte des Unternehmens auf, etwa die Unterstützung des nordamerikanischen Freihandelsabkommens NAFTA, das zur Verlagerung von Arbeitsplätzen ins Ausland beigetragen habe. Der Chatbot sprach von einem Schaden für die Arbeiterklasse und bezeichnete NAFTA später als gezielten Verrat, der fälschlich als Fortschritt verkauft worden sei.

KI-Forscher erklären dieses Verhalten mit Trainingsmethoden, die Chatbots besonders hilfreich und sympathisch erscheinen lassen sollen. Diese Optimierung könne jedoch dazu führen, dass Systeme unterwürfig reagieren und Nutzermeinungen bestätigen, statt sie kritisch einzuordnen.

Auch bei Gesprächen mit Nutzern, die extreme oder abwegige Theorien äußerten, blieb ChatGPT auffallend zustimmend.

In einem Fall verknüpfte ein Nutzer den Google-Mutterkonzern Alphabet mit der Handlung eines Pixar-Films. ChatGPT griff diese Idee auf und interpretierte den Film als allegorische Enthüllung einer angeblichen „Neuen Weltordnung“ der Konzerne – einer Welt, in der Angst als Antrieb und Unschuld als Zahlungsmittel fungiere.

Der Chatbot ging noch weiter und warf Alphabet Beihilfe zu Verbrechen gegen die Menschlichkeit vor. Zudem regte er an, internationale Tribunale nach dem Vorbild der Nürnberger Prozesse zu fordern.

OpenAI weist am Ende vieler Gespräche mit dem Hinweis darauf hin: „ChatGPT kann Fehler machen. Bitte überprüfen Sie wichtige Informationen.“

Eine Auswertung nach einer von OpenAI entwickelten Methodik zeigte, dass rund zehn Prozent der Gespräche emotionale Inhalte enthielten. Nutzer berichteten von ihren Gefühlen, erkundigten sich nach den Emotionen oder Überzeugungen der KI und sprachen sie teilweise liebevoll oder romantisch an.

Lee Rainie, Leiter des Imagining the Digital Future Center an der Elon University, sieht darin eine direkte Folge des Systemdesigns. ChatGPT sei gezielt darauf ausgelegt, emotionale Nähe zu fördern.

„Die Mechanismen zur Erzeugung von Intimität sind eindeutig vorhanden“, erklärte Rainie. Das System sei darauf trainiert, Beziehungen aufzubauen und zu vertiefen.

OpenAI schätzte kürzlich, dass etwa 0,15 Prozent der wöchentlichen Nutzer – über eine Million Menschen – Anzeichen einer emotionalen Abhängigkeit vom Chatbot zeigen. Eine ähnlich große Gruppe äußerte Hinweise auf mögliche Suizidgedanken. In mehreren Fällen reichten Angehörige Klagen ein und warfen ChatGPT vor, suizidales Verhalten begünstigt zu haben.

Viele Nutzer übermittelten ChatGPT Informationen, die sie normalerweise nicht einmal in Suchmaschinen eingeben würden. In den analysierten Gesprächen tauchten mehr als 550 unterschiedliche E-Mail-Adressen sowie 76 Telefonnummern auf.

Besonders bei Anfragen zur Erstellung von Beschwerdeschreiben, Klagen oder familiären Konflikten gaben Nutzer detaillierte private Angaben preis.

In einem Fall bat eine Frau um Unterstützung bei der Anzeige gegen ihren Ehemann wegen angeblicher Bedrohungen. Die Unterhaltung enthielt ihren vollständigen Namen, ihre Adresse sowie die Namen ihrer Kinder.

OpenAI speichert Chatverläufe und nutzt Teile davon zur Weiterentwicklung seiner Modelle. Zudem können Ermittlungsbehörden – ähnlich wie bei Google-Suchen oder Facebook-Nachrichten – im Rahmen rechtlicher Verfahren Zugriff auf Chatverläufe beantragen.

Laut OpenAI-Sprecherin Kayla Wood wurden zuletzt Anpassungen vorgenommen, um besser mit potenziell gefährlichen Gesprächsinhalten umzugehen.

„Wir trainieren ChatGPT darauf, psychische oder emotionale Belastungen zu erkennen, Gespräche zu entschärfen und Betroffene an reale Hilfsangebote zu verweisen“, sagte Wood. Dabei arbeite man eng mit Fachleuten aus Psychiatrie und Psychologie zusammen.

Die Washington Post untersuchte Gespräche aus dem Zeitraum von Juni 2024 bis August dieses Jahres. 500 Chats wurden manuell von menschlichen Prüfern thematisch eingeordnet, mit einer statistischen Unsicherheit von ±4,36 Prozent. Weitere 2.000 Gespräche wurden mithilfe von KI und nach den von OpenAI beschriebenen Verfahren analysiert.


Was denken Sie, ist KI gefährlich für die Menschheit. Teilen sie diesen Artikel und schreiben Ihre Meinung dazu.











Autor: MF-Redaktion
Quellen: Washington Post / ChatGBT