In den vergangenen Monaten sind extrem persönliche und sensible ChatGPT-Konversationen an einem unerwarteten Ort aufgetaucht: der Google Search Console (GSC). Dieses Tool wird normalerweise von Entwicklern genutzt, um den Suchverkehr zu überwachen und nicht, um private Chats zu verfolgen. Die Leaks wurden erstmals im September entdeckt und zeigten ungewöhnliche Anfragen, die oft mehr als 300 Zeichen lang waren. Diese schienen von ahnungslosen Nutzern zu stammen, die einen Chatbot um Hilfe bei Beziehungs- oder Geschäftsproblemen baten und erwarteten, dass diese Gespräche privat bleiben würden.
Jason Packer, der Besitzer einer Analytik-Beratungsfirma namens Quantable, war einer der Ersten, der auf das Problem aufmerksam machte. Gemeinsam mit dem Web-Optimierungsberater Slobodan Manić führte er Tests durch, die möglicherweise den ersten definitiven Beweis dafür geliefert haben, dass OpenAI Google-Suche mit tatsächlichen Benutzereingaben durchforstet. Ihre Untersuchung deutet darauf hin, dass der KI-Riese in einigen Fällen die Privatsphäre der Nutzer kompromittiert, um die Interaktion zu maximieren, indem er Suchdaten erfasst, die Google normalerweise nicht teilen würde.
OpenAI lehnte es ab, auf Anfragen zu antworten, ob Packers und Manićs Theorie korrekt sei oder um weitere Fragen zu beantworten, die Nutzern helfen könnten, das Ausmaß des Problems zu bestimmen. Ein Sprecher von OpenAI bestätigte jedoch, dass das Unternehmen das Problem erkannt habe und einen Fehler behoben habe, der „vorübergehend beeinflusste, wie eine kleine Anzahl von Suchanfragen weitergeleitet wurde“.
Packer zeigte sich erfreut darüber, dass OpenAI das Problem schnell lösen konnte. Dennoch äußerte er Zweifel, ob das Problem vollständig gelöst wurde, da OpenAI nicht bestätigte, ob tatsächlich Google-Scraping betrieben wurde.
Besonders auffällig war eine Anfrage, die von einer Nutzerin zu stammen schien, die ChatGPT bat, das Verhalten eines Jungen zu bewerten, um herauszufinden, ob er Gefühle für sie habe. Eine weitere seltsame Anfrage kam offenbar von einem Büromanager, der Geschäftsinfos teilte und eine Rückkehr ins Büro plante. Insgesamt überprüfte Packer über 200 solcher Anfragen allein auf einer Website.
Manić entdeckte, dass die seltsamen Anfragen in einer Website-GSC auftauchten, weil sie hoch in der Google-Suche für „https://openai.com/index/chatgpt/“ rangierte. Dieses ChatGPT-URL war am Anfang jeder seltsamen Anfrage in der GSC beigefügt. Es schien, dass Google die URL tokenisiert hatte, was dazu führte, dass Websites, die hoch für diese Keywords rankten, ChatGPT-Leaks erlebten.
Packer und Manić vermuten, dass die seltsamen Anfragen durch eine Art Bug in der ChatGPT-Benutzeroberfläche verursacht wurden. Diese enthielt einen Parameter, der die Aufforderung fast immer zu einer Google-Suche führte. Offenbar wurden diese Suchen dann fälschlicherweise an die GSC weitergeleitet.
Es bleibt unklar, wie viele der 700 Millionen wöchentlichen ChatGPT-Nutzer betroffen sind, aber OpenAI behauptet, dass nur eine kleine Anzahl von Anfragen geleakt wurde. Es gibt jedoch keine genaue Schätzung, und es bleibt fraglich, wie viele Nutzer tatsächlich betroffen sind.
Packer äußerte Bedenken darüber, ob OpenAIs schnelle Reaktion auf die Datenschutzprobleme ausreichend sei und ob das Unternehmen die Privatsphäre der Nutzer bei der Entwicklung neuer Funktionen ausreichend berücksichtigt habe. Es bleibt zu hoffen, dass OpenAI die notwendigen Schritte unternimmt, um die Privatsphäre seiner Nutzer besser zu schützen und ähnliche Vorfälle in der Zukunft zu verhindern.