Ein aktueller Bericht enthüllt, dass OpenAI, das Unternehmen hinter dem beliebten KI-gestützten Chatbot ChatGPT, zahlreiche externe Auftragnehmer beschäftigt, um die von Nutzern eingegebenen Texte zu analysieren. Diese Praxis, die bisher kaum bekannt war, wirft Fragen zu Datenschutz und Privatsphäre auf, da die Nutzer oft sensible Informationen in ihren Interaktionen mit dem Chatbot preisgeben.
Laut internen Dokumenten, die von einer Medienplattform eingesehen wurden, sind diese Auftragnehmer damit beauftragt, die Eingaben der Nutzer zu bewerten und die Antworten des Chatbots zu verbessern. Die Überprüfungsteams haben die Aufgabe, die von ChatGPT generierten Antworten zu bewerten und zu kritisieren, um die Qualität und Präzision der Antworten zu steigern. Dabei werden die Auftragnehmer auch geschult, den Chatbot so zu trainieren, dass er nicht zu menschenähnlich wirkt oder übermäßig schmeichelhaft ist, da dies in der Vergangenheit zu negativen Konsequenzen führen konnte.
Obwohl OpenAI angibt, persönliche Informationen zu entfernen, bevor die Eingaben den Prüfern vorgelegt werden, räumte das Unternehmen ein, dass dennoch sensible Details durchgelangen könnten. Diese Enthüllung stellt ein erhebliches Datenschutzrisiko dar, da viele Nutzer den Chatbot als digitale Unterstützung in persönlichen oder beruflichen Angelegenheiten verwenden.
Die Praxis, Menschen zur Verbesserung der KI-Modelle einzusetzen, widerlegt die weit verbreitete Annahme, dass die Fortschritte der KI-Modelle ausschließlich auf der Massendatenerfassung aus dem Internet und der Arbeit hochqualifizierter Ingenieure beruhen. Ein unterschätzter, aber entscheidender Bestandteil sind die externen Auftragnehmer, die die von ChatGPT generierten Antworten immer wieder überprüfen.
In den Materialien, die von der Medienplattform eingesehen wurden, wird das Projekt als „Project Lily“ bezeichnet. Es umfasst Anleitungen, Kommunikationskanäle und ein Bewertungssystem, das die Auftragnehmer verwenden, um die Qualität der ChatGPT-Antworten zu beurteilen. Die Auftragnehmer müssen die Eingaben der Nutzer lesen, zusammenfassen, was sie glauben, dass der Nutzer von ChatGPT verlangt, und dann die generierten Antworten bewerten.
Ein Dashboard ermöglicht es den Prüfern, bestimmte Aufgaben auszuwählen und die realen Eingaben der Nutzer zu sehen. Obwohl die Eingaben anonymisiert sind und keine Nutzernamen enthalten, können sie dennoch sensible Informationen beinhalten. Eine zusätzliche Herausforderung stellt die Tatsache dar, dass die Anleitungen für die Prüfer oft widersprüchlich und nicht konsistent sind.
Die Bezahlung der Auftragnehmer, die in Nordamerika über 50 US-Dollar pro Stunde verdienen, ist im Vergleich zu anderen Tätigkeiten im Technologiebereich hoch. Allerdings wird angenommen, dass diese großzügige Bezahlung nicht von Dauer sein wird.
Die Enthüllungen über die menschliche Überprüfung der ChatGPT-Interaktionen werfen ein neues Licht auf die Arbeitsweise von OpenAI und anderen Unternehmen, die mit großen Sprachmodellen arbeiten. Auch andere Unternehmen, wie Anthropic, setzen menschliche Überprüfungen ein, um ihre Modelle zu verbessern. Diese Praktiken sind nicht auf OpenAI beschränkt, sondern finden auch bei anderen großen Unternehmen Anwendung.
Die Verwendung menschlicher Prüfer zur Verbesserung von KI-Modellen ist ein wichtiger, oft im Verborgenen bleibender Aspekt der Entwicklung dieser Technologien. Die Enthüllungen verdeutlichen, dass trotz technologischer Fortschritte die menschliche Komponente in der KI-Entwicklung unerlässlich bleibt.