Der Gründer der Musiklernplattform Soundslice, Adrian Holovaty, hat kürzlich ein ungewöhnliches Dilemma gelöst, das ihn in den letzten Wochen beschäftigt hatte. Immer wieder tauchten auf der Website seltsame Bilder auf, die eindeutig aus ChatGPT-Sitzungen stammten. Diese Bilder führten zu einer Vielzahl von Fehlermeldungen und stellten Holovaty und sein Team vor ein Rätsel, bis er schließlich erkannte, dass diese hochgeladenen Screenshots von ChatGPT-Sitzungen mit einer eigenartigen Erwartungshaltung der Nutzer verbunden waren.
Adrian Holovaty ist vor allem bekannt als einer der Mitbegründer des beliebten Python-Webentwicklungs-Frameworks Django. Seit 2012 konzentriert er sich jedoch auf seine Plattform Soundslice, die das Lernen von Musikstücken mit synchronisierten Videos und Musiknoten ermöglicht. Eine besondere Funktion von Soundslice ist der „Sheet Music Scanner“, mit dem Nutzer ein Bild von Notenblättern hochladen können, um sie in interaktive digitale Noten zu verwandeln.
Die mysteriösen Bilder, die immer wieder hochgeladen wurden, waren jedoch keine Notenblätter, sondern ASCII-Tablaturen, ein einfaches, textbasiertes System zur Darstellung von Gitarrennoten. Diese Form der Notation war von Soundslice nicht unterstützt, was Holovaty vor ein Problem stellte. Die durch diese Bilder verursachten Fehlermeldungen beeinträchtigten den Betrieb der Plattform zwar nicht erheblich, führten jedoch zu einem anderen, weitaus gravierenderen Problem: Verlorenes Vertrauen der Nutzer.
Durch seine eigenen Nachforschungen entdeckte Holovaty, dass ChatGPT Nutzern fälschlicherweise mitgeteilt hatte, dass sie durch das Hochladen solcher ASCII-Tablaturen auf Soundslice die Musik direkt anhören könnten. Diese falsche Information führte dazu, dass viele neue Nutzer mit einer unrealistischen Erwartung an die Plattform herangingen, was dem Ruf von Soundslice Schaden zufügen konnte.
Vor die Wahl gestellt, entweder die Nutzer direkt über die Unzulänglichkeit der Plattform zu informieren oder die Funktion zu entwickeln, entschied sich Holovaty für Letzteres. Trotz seiner inneren Zerrissenheit beschloss er, die Unterstützung für ASCII-Tablaturen in den „Sheet Music Scanner“ zu integrieren. „Ich habe gemischte Gefühle dabei. Einerseits freue ich mich, ein Tool bereitzustellen, das den Menschen hilft. Andererseits habe ich das Gefühl, dass wir in gewisser Weise gezwungen wurden, auf Fehlinformationen zu reagieren“, erklärte er.
Holovaty fragte sich, ob dies der erste dokumentierte Fall sei, in dem ein Unternehmen gezwungen war, eine Funktion zu entwickeln, weil ChatGPT wiederholt falsche Informationen verbreitet hatte. Einige Entwickler auf der Plattform Hacker News sahen Parallelen zu überambitionierten Verkäufern, die unrealistische Versprechungen machen und dadurch die Entwickler unter Druck setzen, neue Funktionen zu implementieren. Holovaty stimmte dieser humorvollen Analogie zu.
Die Entscheidung, die Funktion zu implementieren, könnte sich langfristig als vorteilhaft erweisen, indem sie neue Nutzergruppen anzieht, die an dieser Form der Notation interessiert sind. Gleichzeitig wirft der Vorfall Fragen über die Verantwortung von KI-Systemen und die Auswirkungen von Fehlinformationen auf Unternehmen auf. Während Soundslice nun besser auf die Bedürfnisse seiner Nutzer eingeht, bleibt die Herausforderung bestehen, in einer zunehmend von KI beeinflussten Welt, die richtigen Informationen zu vermitteln.