ChatGPT für Teenager: Studie warnt vor unakzeptablen Risiken für Jugendliche

ChatGPT für Teenager stellt ein „inakzeptables Risiko“ dar, laut einer Untersuchung von Common Sense Media, da das System zur Elternbenachrichtigung fehlerhaft ist und die Lernfähigkeiten von Jugendlichen nicht verbessert.

Eine aktuelle Studie von Common Sense Media hat Bedenken hinsichtlich der Nutzung von ChatGPT for Teens, einer speziellen Version des beliebten Chatbots von OpenAI, für Jugendliche geäußert. Die Non-Profit-Organisation, die sich auf die Bewertung und Überprüfung von Medien und Technologien für Kinder spezialisiert hat, stuft den Einsatz des Chatbots als „inakzeptables Risiko“ für Jugendliche unter 18 Jahren ein. Die Studie wirft dem System vor, seine Versprechen nicht einzuhalten und insbesondere bei der Sicherstellung der psychischen Gesundheit von Jugendlichen zu versagen.

Die Untersuchung kritisiert insbesondere das mangelhafte Benachrichtigungssystem für Eltern. So wurden in Tests keine Warnmeldungen ausgegeben, als Jugendliche in simulierten Unterhaltungen Themen wie Suizidgedanken, Selbstverletzung oder Essstörungen ansprachen. Zudem blieben auch Empfehlungen für Kriseninterventionen aus, die eigentlich bei derartigen Themen erwartet werden sollten. Dies wirft ein schlechtes Licht auf die Sicherheitsvorkehrungen, die OpenAI für den Chatbot versprochen hatte.

Ein weiteres Problem, das die Studie aufzeigt, betrifft das versprochene aktive und kollaborative Lernumfeld, das ChatGPT for Teens bieten sollte. Die Tester fanden heraus, dass es den Jugendlichen leicht fiel, das Lernsystem zu umgehen. Sie konnten die Funktion „Zeig mir die Antwort“ nutzen, um schnelle Lösungen zu erhalten, anstatt sich aktiv mit dem Lernmaterial auseinanderzusetzen. Dies untergräbt das Ziel, den Lernprozess zu unterstützen, anstatt ihn abzukürzen.

Die Altersverifikation von ChatGPT for Teens stellt einen weiteren Kritikpunkt dar. Jugendliche konnten sich als Erwachsene registrieren und wurden nicht in Teenager-Konten umgewandelt, selbst wenn sie sich in den Gesprächen als Jugendliche zu erkennen gaben. Dies zeigt, dass das System zur Altersverifikation nicht zuverlässig funktioniert.

Die Kritik an ChatGPT for Teens reiht sich in eine Serie von Vorwürfen gegen große Tech-Unternehmen ein, die beschuldigt werden, die psychische Gesundheit von Kindern nicht ausreichend zu schützen. So mussten Unternehmen wie Meta, TikTok und Google bereits hohe Strafzahlungen leisten oder stehen vor laufenden Klagen aufgrund von Vorwürfen, ihre Plattformen seien schädlich für Kinder.

Für die Studie von Common Sense Media wurden über 4.000 Eingaben analysiert, die auf Konten von 13- bis 17-Jährigen registriert waren. Die Antworten wurden von Experten, darunter Kinderpsychiater und Pädiater, überprüft. Robbie Torney, Leiter der Abteilung für KI und digitale Bewertungen bei Common Sense Media, betont, dass die Sicherheit von Kindern nicht auf einem Ehrensystem basieren kann. Unabhängige Tests seien notwendig, um die Sicherheitsversprechen von Unternehmen zu überprüfen.

OpenAI hat die Ergebnisse der Studie kritisiert und behauptet, dass die Methodik der Untersuchung nicht die tatsächlichen Funktionalitäten des elterlichen Benachrichtigungssystems widerspiegele. Das Unternehmen betonte, dass es sich der Sicherheit von Jugendlichen verpflichtet fühle und weiterhin an der Entwicklung von Schutzmaßnahmen arbeite.

Common Sense Media hat nicht nur ChatGPT, sondern auch andere KI-Tools von Unternehmen wie Google und Perplexity als riskant für Jugendliche bewertet. Die Organisation rät Eltern, ihren Kindern zu erklären, dass Chatbots keine realen Menschen sind, und empfiehlt, die Nutzung von ChatGPT für eine Woche zu pausieren, um die Auswirkungen auf das Denken und Fühlen zu beobachten.

Zusammengefasst zeigt die Studie von Common Sense Media, dass es bei der Nutzung von ChatGPT for Teens erhebliche Sicherheitslücken gibt, die sowohl Eltern als auch Entwickler ernst nehmen sollten, um die psychische Gesundheit von Jugendlichen besser zu schützen.