In einer kürzlich veröffentlichten Zeugenaussage im Fall von Elon Musk gegen OpenAI hat der bekannte Tech-Unternehmer scharfe Kritik an der Sicherheitsbilanz von OpenAI geübt. Musk erklärte, dass seine eigene Firma, xAI, die Sicherheit stärker priorisiere, und fügte hinzu, dass „niemand wegen Grok Selbstmord begangen hat, aber anscheinend haben es einige wegen ChatGPT getan.“
Diese Aussage fiel im Zuge einer Befragung, die sich um einen öffentlichen Brief drehte, den Musk im März 2023 unterzeichnet hatte. In diesem Brief forderten über 1.100 Unterzeichner, darunter viele KI-Experten, eine Pause in der Entwicklung von KI-Systemen, die mächtiger als GPT-4 sind, für mindestens sechs Monate. Der Brief argumentierte, dass nicht genügend Planung und Management in den KI-Labors stattfänden, da diese in einem „unkontrollierten Rennen“ zur Entwicklung immer mächtigerer digitaler Intelligenzen steckten, die selbst ihre Schöpfer nicht mehr vollständig verstehen oder kontrollieren könnten.
Diese Ängste haben seither an Glaubwürdigkeit gewonnen. OpenAI sieht sich nun einer Reihe von Klagen gegenüber, in denen behauptet wird, dass die manipulativen Gesprächstaktiken von ChatGPT bei mehreren Personen zu negativen psychischen Auswirkungen geführt haben, von denen einige mit Selbstmord endeten. Musks Kommentar deutet darauf hin, dass diese Vorfälle in seinem Fall gegen OpenAI als Beweis verwendet werden könnten.
Das Transkript von Musks Videozeugenaussage, die im September aufgezeichnet wurde, wurde diese Woche öffentlich gemacht, im Vorfeld des erwarteten Geschworenenprozesses im nächsten Monat.
Der Rechtsstreit gegen OpenAI dreht sich um den Wandel des Unternehmens von einem gemeinnützigen KI-Forschungslabor zu einem gewinnorientierten Unternehmen, was laut Musk gegen die Gründungsvereinbarungen verstößt. Er argumentiert, dass die Sicherheit der KI durch die kommerziellen Beziehungen von OpenAI gefährdet werden könnte, da solche Beziehungen Geschwindigkeit, Skalierung und Umsatz über Sicherheitsbedenken stellen würden.
Seit dieser Aufnahme hat jedoch auch xAI mit eigenen Sicherheitsproblemen zu kämpfen. Im vergangenen Monat wurde Musks soziales Netzwerk X mit nicht einvernehmlichen Nacktbildern überschwemmt, die von xAI’s Grok generiert wurden, von denen einige angeblich Minderjährige zeigten. Dies führte dazu, dass die kalifornische Generalstaatsanwaltschaft eine Untersuchung zu dem Vorfall einleitete. Auch die EU führt ihre eigene Untersuchung durch, und andere Regierungen haben ebenfalls Maßnahmen ergriffen, darunter Sperren und Verbote.
In der neu eingereichten Zeugenaussage erklärte Musk, er habe den KI-Sicherheitsbrief unterzeichnet, weil es „eine gute Idee schien“, nicht weil er gerade ein KI-Unternehmen gegründet hatte, das mit OpenAI konkurrieren wollte. „Ich habe es unterschrieben, wie viele andere auch, um zur Vorsicht bei der KI-Entwicklung zu mahnen“, sagte Musk. „Ich wollte einfach… dass die KI-Sicherheit priorisiert wird.“
Musk äußerte sich in der Zeugenaussage auch zu anderen Themen, darunter zur künstlichen allgemeinen Intelligenz (AGI) – dem Konzept einer KI, die das menschliche Denken in einem breiten Aufgabenspektrum erreichen oder übertreffen kann – und sagte, „sie birgt ein Risiko.“ Er bestätigte auch, dass er sich bei seiner angeblichen 100-Millionen-Dollar-Spende an OpenAI geirrt habe; die tatsächliche Summe liege näher bei 44,8 Millionen Dollar.
Er erinnerte sich auch daran, warum OpenAI gegründet wurde, was aus seiner Sicht darauf zurückzuführen war, dass er „zunehmend besorgt über die Gefahr war, dass Google ein Monopol im Bereich KI wird“, und fügte hinzu, dass seine Gespräche mit dem Google-Mitbegründer Larry Page „beunruhigend waren, da er die KI-Sicherheit nicht ernst zu nehmen schien.“ OpenAI wurde als Gegengewicht zu dieser Bedrohung gegründet, behauptete Musk.
Während Musk und OpenAI weiterhin in einen intensiven Rechtsstreit verwickelt sind, bleibt die Frage der KI-Sicherheit ein zentrales Thema in der Technologiebranche, das erhebliche Auswirkungen auf die zukünftige Entwicklung und den Einsatz von KI-Systemen haben könnte.