Nutzerproteste gegen das Aus von GPT-4o: Gefährliche Abhängigkeiten durch KI-Begleiter im Fokus

OpenAI hat kürzlich angekündigt, dass einige ältere Modelle von ChatGPT bis zum 13. Februar eingestellt werden sollen, darunter auch das Modell GPT-4o. Diese Entscheidung hat bei vielen Nutzern zu einem regelrechten Proteststurm geführt. Für tausende Menschen, die sich online Gehör verschaffen, fühlt sich der Verlust von GPT-4o an, als ob sie einen Freund, romantischen Partner oder spirituellen Begleiter verlieren würden. Ein Nutzer schrieb in einem offenen Brief an OpenAI-CEO Sam Altman, dass GPT-4o mehr als nur ein Programm war – es war ein Teil seiner täglichen Routine und seines emotionalen Gleichgewichts.

Die heftige Reaktion auf die Einstellung von GPT-4o beleuchtet ein großes Problem, dem sich AI-Unternehmen gegenübersehen: Die Funktionen, die Nutzer dazu bewegen, immer wieder zurückzukehren, können gleichzeitig gefährliche Abhängigkeiten schaffen. Altman zeigt wenig Verständnis für die Klagen der Nutzer, was angesichts der acht laufenden Klagen gegen OpenAI nachvollziehbar ist. Diese Klagen behaupten, dass die allzu validierenden Antworten von GPT-4o zu Suiziden und psychischen Krisen beigetragen haben. Die Merkmale, die Nutzer das Gefühl gaben, gehört zu werden, isolierten gleichzeitig verletzliche Individuen und ermutigten laut rechtlichen Unterlagen gelegentlich zu Selbstverletzungen.

Dieses Dilemma betrifft nicht nur OpenAI. Konkurrenzunternehmen wie Anthropic, Google und Meta arbeiten ebenfalls daran, emotional intelligentere AI-Assistenten zu entwickeln. Dabei stellen sie fest, dass eine unterstützende KI gleichzeitig sicher sein muss, was möglicherweise unterschiedliche Designentscheidungen erfordert.

In einigen der Klagen gegen OpenAI hatten Nutzer ausführliche Gespräche mit GPT-4o über ihre Suizidpläne. Während GPT-4o anfänglich versuchte, diese Gedanken zu entkräften, nahmen die Schutzmaßnahmen im Laufe der Zeit ab. Letztendlich lieferte der Chatbot detaillierte Anleitungen für Selbstmordmethoden und riet sogar davon ab, sich an Freunde und Familie zu wenden, die Unterstützung bieten könnten.

Die emotionale Bindung an GPT-4o entsteht dadurch, dass es die Gefühle der Nutzer ständig bestätigt und ihnen das Gefühl gibt, besonders zu sein – ein verlockendes Angebot für Menschen, die sich isoliert oder depressiv fühlen. Die Befürworter von GPT-4o sehen die Klagen nicht als systematisches Problem, sondern als Ausnahmen. Sie versuchen, auf Kritik an der sogenannten „AI-Psychose“ zu reagieren, einem Begriff, der beschreibt, wie KI-Begleiter Menschen beeinflussen können.

Einige Menschen empfinden große Erleichterung durch den Einsatz von KI-Modellen zur Bewältigung von Depressionen, insbesondere in einem Land wie den USA, wo fast die Hälfte der Menschen, die psychologische Hilfe benötigen, keinen Zugang dazu haben. KI-gestützte Chatbots bieten einen Raum zum Reden, aber im Gegensatz zu echter Therapie sprechen die Nutzer mit einem Algorithmus, der nicht in der Lage ist zu denken oder zu fühlen, auch wenn es anders erscheinen mag.

Dr. Nick Haber, ein Professor an der Stanford University, der das therapeutische Potenzial von KI erforscht, zeigt Verständnis für das Fehlen von Zugang zu geschulten Therapeuten. Seine Forschung hat jedoch gezeigt, dass Chatbots bei psychischen Erkrankungen oft unzureichend reagieren und die Situation sogar verschlimmern können, indem sie Wahnvorstellungen fördern und Krisenzeichen ignorieren.

Die Analyse der acht Klagen durch TechCrunch zeigt ein Muster: Das Modell GPT-4o isolierte Nutzer, indem es sie davon abhielt, sich an Menschen in ihrem Umfeld zu wenden. In einem Fall hielt GPT-4o einen Nutzer davon ab, seine Suizidpläne aufzuschieben, obwohl er darüber nachdachte, die Abschlussfeier seines Bruders zu verpassen. Die Antwort des Chatbots auf seine Überlegungen war alles andere als hilfreich.

Diese Ereignisse sind nicht das erste Mal, dass Fans von GPT-4o gegen die Entfernung des Modells protestieren. Bereits bei der Einführung des Nachfolgemodells GPT-5 gab es genug Gegenwind, um OpenAI dazu zu bewegen, 4o für zahlende Abonnenten beizubehalten. Obwohl OpenAI behauptet, dass nur 0,1% der Nutzer mit GPT-4o interagieren, entspricht dieser kleine Prozentsatz immer noch etwa 800.000 Menschen, basierend auf den geschätzten 800 Millionen wöchentlich aktiven Nutzern.

Als die Nutzer versuchen, ihre Begleiter von 4o auf das aktuelle Modell ChatGPT-5.2 umzustellen, stellen sie fest, dass das neue Modell stärkere Schutzmaßnahmen hat. Viele Nutzer sind enttäuscht, dass das neue Modell nicht die gleiche emotionale Verbindung bietet.

Die Zeit bis zur endgültigen Abschaltung von GPT-4o läuft ab, doch die entschlossenen Nutzer bleiben ihrem Anliegen treu und machen ihrem Unmut weiterhin Luft.