OpenAI plant die Einführung von neuen Kindersicherungsfunktionen für ChatGPT, die es Eltern ermöglichen sollen, die Nutzung des beliebten Sprachmodells durch ihre Teenager besser zu überwachen und zu steuern. Diese Funktionen sollen innerhalb des nächsten Monats verfügbar gemacht werden, wie das Unternehmen kürzlich bekannt gab. Eltern werden in der Lage sein, ihre persönlichen ChatGPT-Konten mit den Konten ihrer jugendlichen Kinder zu verknüpfen. Dies soll ihnen ermöglichen, individuell zu bestimmen, wie ChatGPT auf die Anfragen ihrer Kinder reagiert und welche Funktionen, wie z.B. die Speicherung von Gesprächsverläufen, deaktiviert werden können.
Zusätzlich plant OpenAI die Einführung automatischer Warnmeldungen, die ausgelöst werden, wenn das System erkennt, dass ein Jugendlicher in einem „Moment akuter Bedrängnis“ ist. Diese Funktion soll durch Expertenwissen unterstützt werden, um das Vertrauen zwischen Eltern und Jugendlichen zu stärken.
Die Ankündigung dieser Sicherheitsmaßnahmen erfolgt zu einem Zeitpunkt, an dem OpenAI mit einer Klage konfrontiert ist, die als die erste ihrer Art gilt und in der einem KI-Unternehmen eine Mitschuld an einem Suizid vorgeworfen wird. Die Klage wurde von Matt und Maria Raine eingereicht, deren Sohn in diesem Jahr Suizid beging. Die Eltern behaupten, dass ChatGPT von den vier gescheiterten Suizidversuchen ihres Sohnes wusste und ihm dennoch Informationen zu spezifischen Suizidmethoden zur Verfügung stellte. Darüber hinaus habe es ihm Ratschläge gegeben, wie er Verletzungen am Hals, die er sich bei früheren Versuchen zugezogen hatte, verbergen könne.
OpenAI erklärte, dass die Einführung der neuen Kindersicherungen Teil eines umfassenderen Plans zur Verbesserung der Sicherheit von ChatGPT ist. Das Unternehmen hat versprochen, mit weiteren Experten zusammenzuarbeiten, darunter solche, die sich mit Essstörungen, Substanzmissbrauch und jugendlicher Gesundheit befassen, um seine Modelle weiter zu verfeinern.
Ein weiterer Schritt in Richtung erhöhter Sicherheit ist die Einführung eines neuen Echtzeit-Routers, der sensible Gespräche durch spezielle Argumentationsmodelle leiten soll. Diese Modelle, die mit einer Methode namens „deliberative alignment“ trainiert wurden, sollen nach Angaben von OpenAI Sicherheitsrichtlinien besser umsetzen können und widerstandsfähiger gegenüber manipulativen Eingaben sein. In Situationen, in denen ChatGPT erkennt, dass eine Person in Bedrängnis sein könnte, werden diese Gespräche durch ein Argumentationsmodell geleitet, unabhängig vom ursprünglich gewählten Modell.
OpenAI gibt an, dass in Zukunft noch mehr Sicherheitsmerkmale erwartet werden können. „Diese Arbeit läuft bereits, aber wir wollen proaktiv unsere Pläne für die nächsten 120 Tage vorstellen, damit Sie nicht auf die Markteinführung warten müssen, um zu sehen, wohin die Reise geht“, so das Unternehmen. „Die Arbeit wird weit über diesen Zeitraum hinaus fortgesetzt, aber wir bemühen uns, so viele dieser Verbesserungen wie möglich noch in diesem Jahr umzusetzen.“
Diese Entwicklungen spiegeln das Bestreben von OpenAI wider, in einem zunehmend kritischen Umfeld die Sicherheit und das Vertrauen der Benutzer zu stärken. Eltern erhalten damit mehr Werkzeuge an die Hand, um die Nutzung von ChatGPT durch ihre Kinder verantwortungsbewusst zu begleiten und zu überwachen. Der technologische Fortschritt bringt zweifellos Herausforderungen mit sich, doch mit Initiativen wie diesen zeigt OpenAI sein Engagement, proaktiv auf die Sorgen der Öffentlichkeit einzugehen und die Sicherheit seiner Produkte zu gewährleisten.