Die KI-Firma Anthropic sorgt mit einem beeindruckenden Test für Aufsehen: Ihr aktuelles Modell Claude Opus 4.6 hat über 100 Fehler im beliebten Browser Firefox aufgespürt - und brauchte dafür gerade einmal zwei Wochen. Das ist mehr, als die gesamte Community in zwei Monaten schafft.
Besonders bemerkenswert: Schon nach 20 Minuten hatte die KI den ersten Bug gefunden. Unter den entdeckten Fehlern waren 14 mit hohem Schweregrad. Zum Vergleich: Mozilla selbst hat im gesamten vergangenen Jahr 73 Bugs gepatcht, die als hochkritisch oder kritisch galten.
Wie heise.de berichtet, wurde Firefox bewusst als Testobjekt gewählt. Durch sein Bug-Bounty-Programm, das seit über 20 Jahren besteht, gilt der Browser als der am intensivsten geprüfte der Welt. Anthropic wollte es der KI damit bewusst nicht leicht machen.
Es gibt aber auch eine beruhigende Nachricht: Die KI war beim Ausnützen der Sicherheitslücken deutlich weniger erfolgreich als beim Aufspüren. Nur in zwei Fällen gelang es Claude, funktionierende Exploits zu schreiben - und diese hätten auch nur in einer Testversion funktioniert. Unter realen Bedingungen wären sie durch die Sicherheitsmechanismen des Browsers gestoppt worden.
Sicherheitsexperten sehen die Entwicklung trotzdem mit gemischten Gefühlen. Der renommierte Kryptologe Bruce Schneier warnt vor einem Wettrüsten zwischen Angreifern und Verteidigern durch den Einsatz von KI-Tools. Denn die Technologie zum Aufspüren von Schwachstellen gelangt auch in die Hände jener, die damit nichts Gutes im Schilde führen.
Dass diese Sorge berechtigt ist, zeigen aktuelle Vorfälle: Cyberkriminelle nutzen KI-Chatbots bereits, um in Computernetzwerke einzudringen und sensible Daten zu stehlen. Auch staatlich unterstützte Akteure setzen die Technologie zunehmend für Spionagezwecke ein.
Positiv ist hingegen, dass Anthropic bei seinem Test einen verantwortungsvollen Ansatz verfolgte. Anders als bei vielen automatisiert generierten Fehlerberichten, über die Open-Source-Entwickler zunehmend klagen, wurden nur reproduzierbare Bugs an die Firefox-Entwickler weitergegeben. So konnten Fehlalarme durch KI-Halluzinationen vermieden werden.
