OpenAI hat angekündigt, dass Eltern oder Erziehungsberechtigte künftig benachrichtigt werden, wenn der ChatGPT-Zugang ihrer jugendlichen Kinder aufgrund von Verstößen gegen die Nutzungsrichtlinien zu Gewalt gesperrt wird. Diese Maßnahme ergänzt die bereits im vergangenen Jahr eingeführten elterlichen Kontrollmöglichkeiten, die es Eltern erlauben, ihre Konten mit denen ihrer Kinder zu verknüpfen. Mit diesen Kontrollen können Eltern unter anderem festlegen, zu welchen Zeiten ChatGPT genutzt werden kann, sowie den Zugang zu sensiblen Inhalten beschränken. Neu ist nun, dass Eltern auch informiert werden, wenn der Verdacht besteht, dass ihre Kinder eine Gefahr für andere darstellen könnten.
In einer kürzlich veröffentlichten Mitteilung von OpenAI wurde ein Beispiel gezeigt, bei dem Eltern eine Benachrichtigung über eine „wichtige Aktualisierung“ des Kontos ihres Kindes erhielten. Über einen Link können sie genauere Informationen dazu einholen, dass das Konto aufgrund von Verstößen gegen die Richtlinien zu gewalttätigem Verhalten deaktiviert wurde.
Zur Entwicklung dieser Funktion hat OpenAI mit Moonshot zusammengearbeitet, einem Unternehmen, das sich auf die Überwachung und Bekämpfung von Online-Gewalt spezialisiert hat. Vidhya Ramalingam, Gründerin von Moonshot, betonte, dass es entscheidend sei, Eltern frühzeitig zu informieren, wenn ernsthafte Bedenken bestehen, um den Familien die Möglichkeit zu geben, rechtzeitig einzugreifen und Hilfe zu suchen. Diese Art des Zugriffs sei nur eine von vielen Maßnahmen, die erforderlich seien, um Jugendliche bei der Nutzung von ChatGPT sicherer zu machen.
OpenAI sieht sich in der Pflicht, seine Sicherheitsprotokolle zu verstärken, nachdem bekannt wurde, dass der Verdächtige des Massakers von Tumbler Ridge im Jahr 2025 ChatGPT verwendet hatte. Kanadische Behörden hatten das Unternehmen aufgefordert, nachdem Berichte aufkamen, dass OpenAI die Behörden nicht informiert hatte, als das Konto des Täters gesperrt wurde. Sam Altman, der Chef von OpenAI, entschuldigte sich öffentlich für dieses Versäumnis.
Neben der Einführung der neuen Benachrichtigungsfunktion hat OpenAI auch eine neue Möglichkeit implementiert: den „Study Mode“, der direkt über die elterlichen Kontrollen aktiviert werden kann. In diesem Modus gibt ChatGPT den Nutzern Hinweise, bevor es Fragen beantwortet, um den Lernprozess zu unterstützen. Zudem erhalten jugendliche Nutzer, die längere Zeit mit ChatGPT verbringen, nun häufiger Erinnerungen, Pausen einzulegen, um gesündere Technologiegewohnheiten zu entwickeln.
Diese neuen Funktionen unterstreichen das Engagement von OpenAI, die Sicherheit seiner Nutzer zu verbessern und Eltern eine aktivere Rolle bei der Überwachung der Online-Aktivitäten ihrer Kinder zu ermöglichen. Während die Technologie weiterhin Fortschritte macht und ein integraler Bestandteil des Alltags wird, ist es für Unternehmen wie OpenAI von entscheidender Bedeutung, verantwortungsvolle und ethische Nutzungsrichtlinien zu fördern. Indem Eltern besser informiert und einbezogen werden, können potenzielle Risiken frühzeitig erkannt und die Sicherheit von Jugendlichen gewährleistet werden.
Durch die Zusammenarbeit mit Experten und die kontinuierliche Verbesserung der Sicherheitsmaßnahmen zeigt OpenAI, dass es die Verantwortung ernst nimmt, eine sichere und unterstützende Umgebung für die Nutzer seiner Technologien zu schaffen. Dies ist essenziell, um das Vertrauen der Nutzer zu stärken und die Technologie verantwortungsvoll zu gestalten, insbesondere in einer Zeit, in der künstliche Intelligenz immer mehr Lebensbereiche durchdringt.