OpenAI hat eine neue Sicherheitsfunktion für ChatGPT angekündigt, die es erwachsenen Nutzern ermöglicht, einen Notfallkontakt für psychische Gesundheit und Sicherheitsbedenken zu benennen. Diese Funktion, bekannt als „Vertrauenswürdiger Kontakt“, erlaubt es Freunden, Familienmitgliedern oder Betreuern, benachrichtigt zu werden, wenn OpenAI erkennt, dass jemand möglicherweise Themen wie Selbstverletzung oder Suizid mit dem Chatbot besprochen hat.
In ihrer Ankündigung erklärte OpenAI: „Der Vertrauenswürdige Kontakt basiert auf einem einfachen, von Experten validierten Prinzip: Wenn jemand in einer Krise ist, kann die Verbindung mit jemandem, den er kennt und dem er vertraut, einen bedeutenden Unterschied machen.“ Diese Funktion bietet eine zusätzliche Unterstützungsebene neben den bereits in ChatGPT verfügbaren lokalisierten Helplines.
Die Aktivierung der Funktion ist optional. Jeder erwachsene Nutzer von ChatGPT kann sie aktivieren, indem er Kontaktinformationen für einen ebenfalls volljährigen Erwachsenen (18+ weltweit oder 19+ in Südkorea) in den Einstellungen seines ChatGPT-Kontos hinzufügt. Der Vertrauenswürdige Kontakt muss die Einladung innerhalb einer Woche nach Erhalt der Anfrage annehmen. Nutzer können ihren gewählten Kontakt jederzeit in den Einstellungen ändern oder entfernen, und der Vertrauenswürdige Kontakt kann sich ebenfalls jederzeit selbst entfernen.
OpenAI betont, dass die Benachrichtigungen „absichtlich begrenzt“ sind und keine Chat-Details oder Transkripte mit dem Vertrauenswürdigen Kontakt geteilt werden. Wenn die automatisierten Systeme von OpenAI feststellen, dass ein Nutzer darüber spricht, sich selbst zu schaden, wird ChatGPT den Nutzer ermutigen, sich an seinen Vertrauenswürdigen Kontakt zu wenden, und ihn darüber informieren, dass dieser möglicherweise benachrichtigt wird. Ein „kleines Team speziell geschulter Personen“ wird dann die Situation überprüfen, und ChatGPT wird eine kurze E-Mail, SMS oder eine In-App-Benachrichtigung an den Vertrauenswürdigen Kontakt senden, wenn das Gespräch als ernstzunehmende Sicherheitsbedrohung eingestuft wird.
Diese Funktion baut auf der Notfallkontaktoption auf, die zusammen mit den elterlichen Kontrollmöglichkeiten von ChatGPT im September eingeführt wurde, nachdem sich ein 16-Jähriger das Leben genommen hatte, nachdem er monatelang seine Sorgen mit ChatGPT geteilt hatte. Auch Meta hat eine ähnliche Funktion eingeführt, die Eltern benachrichtigt, wenn ihre Kinder wiederholt nach Themen wie Selbstverletzung auf Instagram suchen.
Mit der Einführung des Vertrauenswürdigen Kontakts macht OpenAI einen weiteren Schritt in Richtung der Unterstützung der psychischen Gesundheit seiner Nutzer. In der heutigen digitalen Welt, in der immer mehr Menschen KI-gestützte Plattformen nutzen, um Unterstützung und Beratung zu suchen, sind solche Sicherheitsfunktionen von entscheidender Bedeutung. Sie bieten eine zusätzliche Sicherheitsebene und können möglicherweise Leben retten, indem sie sicherstellen, dass Nutzer in Krisensituationen den nötigen menschlichen Kontakt erhalten.
Die Initiative von OpenAI zeigt das wachsende Bewusstsein für die Verantwortung von Technologieunternehmen, nicht nur innovative Produkte zu entwickeln, sondern auch deren Auswirkungen auf das Wohlbefinden der Nutzer zu berücksichtigen. Während die Technologie sich weiterentwickelt, wird es entscheidend sein, dass Unternehmen wie OpenAI weiterhin proaktiv handeln, um die Sicherheit und das Wohlergehen ihrer Nutzer zu gewährleisten.