In einer überraschenden Entwicklung im Bereich der Künstlichen Intelligenz (KI) hat die Trump-Administration die Nutzung der KI-Technologie von Anthropic durch Bundesbehörden untersagt. Die Entscheidung fiel am Freitagnachmittag, als Präsident Donald Trump alle Bundesbehörden anwies, die Technologie des Unternehmens nicht mehr zu verwenden. Kurz darauf stufte das Pentagon das Unternehmen als Risiko in der Lieferkette ein, eine Bezeichnung, die normalerweise chinesischen Unternehmen vorbehalten ist, die der Spionage verdächtigt werden. Diese Einstufung könnte dazu führen, dass Unternehmen, die mit dem Verteidigungsministerium Geschäfte machen, nachweisen müssen, dass sie keine Tools von Anthropic verwenden.
Trotz dieses Verbots nutzten die USA bereits am nächsten Tag, bei einem Angriff auf den Iran, weiterhin die KI-Tools von Anthropic im Nahost-Hauptquartier des Militärs, dem Central Command. Diese wurden für Zielerfassung und Aufklärungssysteme eingesetzt. Präsident Trump hatte den Behörden eine Frist von sechs Monaten eingeräumt, um die Technologie auslaufen zu lassen, was ein stillschweigendes Eingeständnis dafür ist, dass KI nicht über Nacht aus militärischen Operationen entfernt werden kann.
Der Konflikt zwischen der Trump-Administration und Anthropic dreht sich angeblich um Sicherheitsvorkehrungen. Das Unternehmen weigerte sich, seine Tools für autonome Waffen oder Massenüberwachung freizugeben, und wollte keine uneingeschränkte Erlaubnis erteilen, die Technologie in jedem rechtlichen Szenario zu nutzen. Dies führte zu einer heftigen Reaktion Trumps, der Anthropic als „radikal-linkes, wokes Unternehmen“ bezeichnete, das niemals vorschreiben dürfe, wie das Militär kämpft.
Zeitgleich verkündete OpenAI einen neuen Vertrag mit dem Pentagon, der den Einsatz seiner Modelle in geheimen Militäreinsätzen vorsieht. Interessanterweise enthält dieser Vertrag dieselben Einschränkungen bezüglich Massenüberwachung und autonomen Waffen, die auch Anthropic gefordert hatte. Diese paradoxe Situation deutet darauf hin, dass politische Faktoren oder die wahrgenommene Loyalität gegenüber der Regierung bei der Entscheidung eine Rolle gespielt haben könnten. Der Präsident von OpenAI hatte im Vorjahr eine Spende von 25 Millionen Dollar an ein pro-Trump Super-PAC geleistet, während Anthropic ehemalige Beamte der Biden-Administration eingestellt und sich für KI-Regulierung eingesetzt hatte.
Die politischen Machenschaften wären weniger bedeutend, wenn sie nicht im Kontext tatsächlicher Kriegshandlungen stattfinden würden. Berichten zufolge war die Claude-KI von Anthropic in die Operationen gegen den Iran eingebunden und wurde für Aufklärung, Zielidentifizierung und Gefechtssimulationen genutzt. Ein Vorfall, bei dem mehr als 150 Schulkinder durch einen Fehlangriff getötet wurden, wirft die Frage auf, ob KI zu diesem Fehler beigetragen haben könnte. Die Antwort bleibt unklar, da das Pentagon keine Auskunft gibt.
Die Einführung generativer KI in die militärische Zielerfassungskette stellt eine neue Herausforderung dar. Diese Technologie ist bekannt dafür, in kommerziellen Anwendungen Fehler zu machen, und ihr Einsatz in kriegerischen Auseinandersetzungen, wo Fehler tödliche Folgen haben können, ist noch nicht ausreichend getestet.
Der Verbraucherwiderstand gegen OpenAIs Vereinbarung mit dem Pentagon hat zugenommen, während Anthropics Claude-App zur meistgeladenen Anwendung im App Store wurde. Eine Boykottkampagne fordert Nutzer auf, ChatGPT zu meiden. Angesichts dieser Entwicklungen stehen beide Unternehmen unter Druck, da sie um zahlende Nutzer, Unternehmenskunden und Ingenieurtalente konkurrieren. Trotz der lukrativen Verträge mit dem Pentagon, die jeweils rund 200 Millionen Dollar wert sind, stehen beide Unternehmen vor erheblichen Herausforderungen.
Für Anthropic bedeutet die Einstufung als Risiko in der Lieferkette, dass Unternehmen, die Geschäfte mit der US-Regierung machen – darunter auch die größten Unterstützer von Anthropic wie Amazon und Google – möglicherweise nachweisen müssen, dass sie Claude nicht nutzen. Dies könnte weitreichende Auswirkungen auf Unternehmensverkäufe, Cloud-Partnerschaften und Investitionsentscheidungen haben.
OpenAI hingegen sieht sich damit konfrontiert, dass sein Vertrag mit dem Pentagon in einem neuen Licht betrachtet wird, wenn Bomben fallen und Fragen zu Sicherheitsvorkehrungen und Zielerfassungsfehlern unbeantwortet bleiben. Die Wahrnehmung, dass der Chatbot an der Auswahl von Bombenzielen beteiligt ist, könnte das Markenimage schwer belasten.