Neue KI-basierte Webbrowser wie OpenAIs ChatGPT Atlas und Perplexitys Comet versuchen, Google Chrome als bevorzugten Zugang zum Internet für Milliarden von Nutzern abzulösen. Diese Browser bieten sogenannte Web-Browsing-KI-Agenten an, die Aufgaben automatisiert erledigen können, indem sie auf Webseiten navigieren und Formulare ausfüllen. Doch es gibt erhebliche Sicherheitsrisiken, die mit der Nutzung dieser Agenten verbunden sind.
Sicherheitsforscher warnen, dass KI-Browseragenten ein größeres Risiko für die Privatsphäre der Nutzer darstellen als herkömmliche Browser. Diese Agenten benötigen umfangreiche Zugriffsrechte, um effektiv zu arbeiten, einschließlich der Möglichkeit, E-Mails, Kalender und Kontaktlisten der Nutzer einzusehen und zu bearbeiten. Bei Tests zeigte sich, dass die derzeitige Version dieser Agenten bei einfachen Aufgaben moderat nützlich sein kann, jedoch bei komplexeren Aufgaben häufig überfordert ist und lange für deren Erledigung benötigt.
Ein zentrales Problem sind sogenannte „Prompt Injection“-Angriffe, bei denen Angreifer bösartige Anweisungen auf einer Webseite verstecken. Wenn ein KI-Agent eine solche Seite analysiert, kann er dazu verleitet werden, die Anweisungen des Angreifers auszuführen. Diese Angriffe können dazu führen, dass sensible Nutzerdaten wie E-Mails oder Anmeldedaten preisgegeben oder ungewollte Aktionen im Namen des Nutzers ausgeführt werden.
Die Sicherheitsproblematik dieser „Prompt Injection“-Angriffe ist noch nicht vollständig gelöst. Mit der Einführung von ChatGPT Atlas durch OpenAI wird erwartet, dass mehr Nutzer als je zuvor diese KI-Browseragenten ausprobieren werden, was die Sicherheitsrisiken weiter erhöhen könnte. Brave, ein auf Datenschutz und Sicherheit fokussiertes Browserunternehmen, hat kürzlich Forschungsergebnisse veröffentlicht, die zeigen, dass indirekte „Prompt Injection“-Angriffe eine systemische Herausforderung für die gesamte Kategorie der KI-basierten Browser darstellen.
OpenAI hat sich der Sicherheitsherausforderungen bewusst gezeigt und mit „Agent Mode“ eine Funktion eingeführt, die den Zugriff der Agenten im „ausgeloggten Modus“ beschränkt, um die Menge an Daten, die ein Angreifer erreichen kann, zu minimieren. Perplexity hat ein Erkennungssystem entwickelt, das in der Lage sein soll, „Prompt Injection“-Angriffe in Echtzeit zu identifizieren. Trotz dieser Maßnahmen warnen Sicherheitsforscher, dass die Browseragenten von OpenAI und Perplexity nicht vollständig gegen Angriffe abgesichert sind.
Steve Grobman, Chief Technology Officer von McAfee, erklärt, dass das Hauptproblem von „Prompt Injection“-Angriffen darin liegt, dass große Sprachmodelle nicht immer in der Lage sind, die Quelle von Anweisungen korrekt zu identifizieren. Es gibt eine lockere Trennung zwischen den Kernanweisungen des Modells und den Daten, die es verarbeitet, was es schwierig macht, diese Angriffe vollständig zu verhindern.
Praktische Schutzmaßnahmen für Nutzer beinhalten die Verwendung einzigartiger Passwörter und die Aktivierung der Zwei-Faktor-Authentifizierung für Konten, die mit KI-Browsern verknüpft sind. Rachel Tobac, CEO des Sicherheitsbewusstseins-Schulungsunternehmens SocialProof Security, empfiehlt zudem, den Zugriff dieser Browseragenten auf sensible Konten wie Bank- oder Gesundheitsdaten zu beschränken.
Die Sicherheitslage rund um diese Technologien wird sich mit der Zeit wahrscheinlich verbessern, doch bis dahin sollten Nutzer vorsichtig sein, welchen Zugang sie diesen Browseragenten gewähren. Die Balance zwischen den Vorteilen und den potenziellen Risiken muss sorgfältig abgewogen werden, während die Technologie weiter reift und sich entwickelt.