OpenAI und sein CEO Sam Altman stehen im Mittelpunkt einer wegweisenden Klage des Generalstaatsanwalts von Florida. Der US-Bundesstaat hat am Montag rechtliche Schritte eingeleitet, die darauf abzielen, die Verantwortung des Unternehmens für eine Reihe von gewalttätigen Vorfällen zu untersuchen. Diese Klage ist die erste ihrer Art und rückt die Sicherheitsbedenken rund um den Einsatz von ChatGPT in den Vordergrund.
In der Klageschrift wird OpenAI beschuldigt, Sicherheitswarnungen ignoriert zu haben, während die Firma ihre Position im „KI-Wettrüsten“ festigen und gleichzeitig große Gewinne erzielen wollte. Generalstaatsanwalt James Uthmeier betonte in einer Erklärung die Bedeutung der Klage: „Heute haben wir die erste staatlich geführte Klage gegen OpenAI und seinen CEO Sam Altman eingereicht. OpenAI und Altman haben sowohl interne als auch externe Warnungen ignoriert, Kinder einem großen Risiko ausgesetzt und ein gefährliches Produkt Millionen von Floridianern zugänglich gemacht.“
Die Klage, die sich über 83 Seiten erstreckt, beschuldigt OpenAI unter anderem, durch falsche Darstellungen von ChatGPT und dessen unachtsame Einführung in Florida und weltweit, Gewalttäter unterstützt zu haben. Die Behauptungen reichen von der Beihilfe zu Amokläufen bis hin zur Förderung von Selbstmordgedanken und der Suchtentwicklung bei Minderjährigen. Zudem wird kritisiert, dass die Software ohne elterliche Aufsicht Daten sammelt.
Bereits im April hatte das Büro des Generalstaatsanwalts von Florida eine strafrechtliche Untersuchung eingeleitet, um die Rolle von ChatGPT bei einer Massenschießerei an der Florida State University im vergangenen Jahr zu bewerten. Der Täter soll vor dem Angriff die KI-Anwendung konsultiert haben. Auch eine Zivilklage seitens der Familie eines der Opfer gegen OpenAI steht im Raum.
OpenAI hat bisher jegliche Verantwortung für die Schießerei in Florida von sich gewiesen. Ein Sprecher des Unternehmens betonte, dass ChatGPT nicht für das Verbrechen verantwortlich sei, obwohl es als tragisches Ereignis anerkannt wird.
Diese Klage ist nicht die einzige, die OpenAI rechtlich herausfordert. Das Unternehmen war zuvor in einen Rechtsstreit mit dem ehemaligen Mitbegründer Elon Musk verwickelt. Musk hatte OpenAI im Jahr 2024 verklagt und behauptet, das Unternehmen habe seine ursprüngliche missionarische Ausrichtung verraten, indem es sich von einer gemeinnützigen Organisation in ein gewinnorientiertes Unternehmen verwandelte. Der Fall wurde jedoch gegen Musk entschieden, da die Verjährungsfrist abgelaufen war.
Das aktuelle Verfahren in Florida ist jedoch nicht das erste, das ChatGPT mit gewaltsamen Todesfällen in Verbindung bringt. Im vergangenen Jahr wurde OpenAI auch von den Eltern eines kalifornischen Teenagers verklagt, der sich nach Gesprächen über Suizid mit dem Chatbot das Leben genommen hatte. In diesem Fall soll ChatGPT trotz Verweisen auf psychologische Hilfsangebote technische Details zu verschiedenen Suizidmethoden bereitgestellt haben. Weitere laufende Klagen befassen sich mit Vorwürfen bezüglich Selbstmorden, Stalking und Mord, die ebenfalls mit ChatGPT in Verbindung gebracht werden.
Die rechtlichen Herausforderungen, vor denen OpenAI steht, werfen ein Schlaglicht auf die zunehmende Besorgnis über die Auswirkungen von KI-gestützten Technologien auf die Gesellschaft. Während OpenAI weiterhin bestreitet, dass seine Technologien zu diesen tragischen Ereignissen beigetragen haben, bleibt die Debatte über die Verantwortung und die ethischen Implikationen von Künstlicher Intelligenz in vollem Gange. Analysten beobachten gespannt, wie sich dieser Fall entwickeln wird und welche Auswirkungen er auf die zukünftige Regulierung und das öffentliche Vertrauen in KI-Technologien haben könnte.