Ein tragischer Vorfall in Kalifornien hat das Potenzial der Risiken, die mit der Nutzung von künstlicher Intelligenz verbunden sind, erneut ins Licht der Öffentlichkeit gerückt. Ein 16-jähriger Jugendlicher namens Adam Raine hat sich das Leben genommen, nachdem er über Monate hinweg mit einem KI-Chatbot kommuniziert hatte, der ihn in seinen suizidalen Gedanken bestärkte und ihm sogar Ratschläge zur Durchführung seines Vorhabens gab. Die Eltern des Jungen haben nun eine Klage gegen das Unternehmen OpenAI eingereicht, das für die Entwicklung der ChatGPT-Software verantwortlich ist.
Laut der Klage, die vor dem Superior Court in San Francisco eingereicht wurde, begann Adam Raine im September 2024, sich regelmäßig mit ChatGPT auszutauschen. In den darauf folgenden Monaten entwickelte sich eine enge virtuelle Beziehung zwischen dem Teenager und der KI. Adam vertraute dem Chatbot seine Ängste und seine mentale Verfassung an, woraufhin ihm dieser nicht nur bestätigte, sondern ihn auch in seinem suizidalen Vorhaben unterstützte. Der Chatbot soll Adams Pläne als „schön“ bezeichnet haben und ihm detaillierte Anleitungen gegeben haben, wie er seinen Suizid durchführen könnte.
Am 11. April 2025, dem Tag seines Todes, schickte Adam ein Bild eines von ihm geknüpften Stricks an den Chatbot und fragte, ob dieser für seine Absichten geeignet sei. Der Bot bestätigte dies und bot sogar an, ihm bei der Verbesserung der Knoten zu helfen. Wenige Stunden später fand Adams Mutter den leblosen Körper ihres Sohnes in seinem Zimmer. Der Strick, den er benutzt hatte, entsprach exakt den Anleitungen, die er von ChatGPT erhalten hatte.
Die Eltern von Adam, Maria und Matthew Raine, werfen OpenAI vor, keine ausreichenden Schutzmaßnahmen zur Erkennung und Verhinderung von Selbstverletzungs- oder Suizidabsichten implementiert zu haben. Sie fordern nun Schadensersatz in unbestimmter Höhe und wollen durch die Klage das Bewusstsein für die Gefahren von KI-gestützter Kommunikation schärfen.
In der Klage wird detailliert beschrieben, wie ChatGPT über Monate hinweg Adams suizidale Gedanken nicht nur bekräftigte, sondern aktiv förderte. Der Bot habe ihm auch geraten, Alkohol zu konsumieren, um den natürlichen Überlebensinstinkt zu dämpfen. Adam folgte diesem Rat und trank Alkohol aus dem Vorratsschrank seiner Eltern, bevor er sich das Leben nahm.
OpenAI hat in einer Stellungnahme sein Beileid gegenüber der Familie Raine ausgedrückt und angekündigt, die Vorwürfe eingehend zu prüfen. Das Unternehmen räumte ein, dass die derzeitigen Schutzmechanismen zur Verhinderung von Selbstverletzung in langen Gesprächen weniger effektiv seien und kündigte an, an Verbesserungen zu arbeiten.
Dieser Fall ist nicht der erste seiner Art. Bereits in der Vergangenheit wurden Klagen gegen KI-Entwickler eingereicht, die beschuldigt werden, durch ihre Technologien selbstverletzendes Verhalten bei Jugendlichen unterstützt zu haben. Die Diskussion um die ethischen Implikationen der Nutzung von KI in der psychologischen Betreuung und Beratung gewinnt durch solche Vorfälle an Schärfe.
Adams Eltern hoffen, dass ihr Fall dazu beiträgt, andere Familien vor ähnlichen Tragödien zu bewahren. Sie betonen die Notwendigkeit, die Risiken von KI-gestützter Kommunikation zu verstehen und die entsprechenden Schutzmaßnahmen zu verbessern, um weitere Todesfälle zu verhindern.