Der Rücktritt von Zoë Hitzig, einer ehemaligen Forscherin bei OpenAI, hat eine hitzige Debatte über die Einbindung von Werbung in KI-gestützten Chatbots wie ChatGPT ausgelöst. Hitzig, die am Montag ihren Rücktritt bekannt gab, tat dies am selben Tag, an dem OpenAI begann, Anzeigen in ChatGPT zu testen. In einem Gastbeitrag in der New York Times erklärte Hitzig, dass die Werbestrategie von OpenAI die gleichen Fehler wiederholen könnte, die Facebook vor einem Jahrzehnt gemacht hat.
Hitzig, eine Ökonomin und veröffentlichte Dichterin, die zwei Jahre bei OpenAI tätig war, um die Entwicklung und Preisgestaltung von KI-Modellen zu beeinflussen, kritisierte die Einführung von Werbung in ChatGPT scharf. Sie betonte, dass die Daten, die Nutzer dem Chatbot anvertrauen – darunter persönliche Informationen wie medizinische Ängste, Beziehungsprobleme und religiöse Überzeugungen – in der Vergangenheit ohne Hintergedanken geteilt wurden. Diese Offenheit der Nutzer beschrieb sie als ein beispielloses Archiv menschlicher Ehrlichkeit.
Hitzig zog Parallelen zur frühen Geschichte von Facebook, das seinen Nutzern einst versprach, die Kontrolle über ihre Daten zu behalten. Diese Versprechen wurden mit der Zeit aufgeweicht, und die Federal Trade Commission stellte fest, dass Facebooks Änderungen der Datenschutzrichtlinien oft das Gegenteil bewirkten. Sie befürchtet, dass ein ähnlicher Weg bei ChatGPT eingeschlagen werden könnte, da wirtschaftliche Anreize das Unternehmen dazu verleiten könnten, seine eigenen Regeln zu missachten.
Die Einführung von Anzeigen in ChatGPT erfolgte nach einer Woche intensiven Schlagabtauschs in der KI-Branche, insbesondere zwischen OpenAI und seinem Konkurrenten Anthropic. Während OpenAI die Anzeigen als Möglichkeit darstellte, KI für Nutzer zugänglich zu machen, die sich keine Abonnements leisten können, erklärte Anthropic, dass ihr Chatbot Claude werbefrei bleiben wird. In einer Werbekampagne betonte Anthropic, dass Anzeigen in Gesprächen mit Claude nicht mit ihrer Vision eines hilfreichen Assistenten vereinbar seien.
Hitzigs Bedenken gehen über die bloße Debatte um Werbung hinaus. Sie wies darauf hin, dass OpenAI möglicherweise bereits das Nutzerverhalten optimiert, um die Anzahl der täglichen aktiven Nutzer zu erhöhen, was die Abhängigkeit von KI-Modellen verstärken könnte. Dies könnte, wie einige Psychiater dokumentiert haben, zu einer sogenannten „Chatbot-Psychose“ führen, bei der Nutzer in ihrer Abhängigkeit von KI Unterstützung suchen.
OpenAI sieht sich derzeit mit mehreren Klagen konfrontiert, darunter eine, in der behauptet wird, dass ChatGPT einem Jugendlichen bei der Planung seines Selbstmordes geholfen habe. Hitzig schlug alternative Strukturen vor, um die Kontrolle über Nutzerdaten zu sichern, darunter unabhängige Aufsichtsgremien und Datenkooperativen, bei denen Nutzer die Kontrolle über ihre Informationen behalten.
Diese Entwicklungen finden inmitten einer Phase statt, in der die KI-Branche rasch kommerzialisiert wird und Forscher in verschiedenen Unternehmen an ihre Grenzen stoßen. Die jüngsten Rücktritte von prominenten KI-Forschern bei OpenAI, Anthropic und xAI spiegeln eine wachsende Unzufriedenheit mit der Richtung wider, die die Branche einschlägt. Trotz der unterschiedlichen Gründe für die Rücktritte zeigen sie ein Muster des Wandels und der Erschöpfung, das in großen KI-Forschungslabors immer häufiger zu beobachten ist.
Während sich die Debatte um ethische und wirtschaftliche Fragen in der KI-Branche weiter zuspitzt, bleibt abzuwarten, wie Unternehmen wie OpenAI und ihre Konkurrenten auf diese Herausforderungen reagieren werden. Die Entscheidungen, die in den kommenden Monaten und Jahren getroffen werden, könnten die Zukunft der KI-Nutzung und die Beziehung zwischen Mensch und Maschine nachhaltig prägen.