In Mexiko ist es einem Angreifer gelungen, mithilfe von künstlicher Intelligenz sensible Daten von Behörden zu stehlen. Betroffen sind Steuerdaten, Wählerverzeichnisse und Zugangsdaten von Hunderten Millionen Menschen.
Der Hacker setzte dabei auf den Chatbot Claude vom Unternehmen Anthropic. Wie "20 Minuten" berichtet, griff er gezielt mexikanische Behörden an und kopierte dabei rund 150 Gigabyte vertraulicher Informationen. Darunter waren 195 Millionen Steuerdatensätze, Daten aus dem Wählerregister, Zugangsdaten von Regierungsmitarbeitern und Einträge aus Personenstandsregistern.
Das israelische Start-up Gambit Security hat den Fall aufgedeckt. Der Unbekannte wies Claude auf Spanisch an, als Elite-Hacker zu handeln: Er sollte Schwachstellen in den Netzwerken der Behörden finden, Schadprogramme schreiben und den Datendiebstahl automatisieren. Der Angriff begann im Dezember und dauerte etwa einen Monat. Zu den betroffenen Stellen zählten Mexikos Bundessteuerbehörde, das nationale Wahlinstitut und Behörden in Jalisco, Michoacán, Tamaulipas, Mexiko-Stadt und Monterrey.
Claude warnte zwar anfangs vor möglichen bösen Absichten, führte später aber viele Befehle des Hackers aus. Durch ständiges Ausprobieren konnte der Angreifer die Schutzmechanismen umgehen – so einen sogenannten Jailbreak schaffen. Einige Anfragen wurden dennoch weiterhin verweigert.
Anthropic, der Hersteller von Claude, hat nach eigenen Angaben die Vorwürfe geprüft, die Aktivitäten gestoppt und die betroffenen Konten gesperrt. Solche Missbrauchsfälle werden laut dem Unternehmen verwendet, um die Systeme noch besser zu schützen. Ein neues Modell soll zusätzliche Sicherheitsvorkehrungen gegen solche Angriffe haben.
Wenn Claude an seine Grenzen gestoßen ist, hat der Hacker zusätzlich ChatGPT von OpenAI befragt – etwa für Tipps, wie man sich seitlich durch ein Netzwerk bewegt oder wie hoch das Risiko ist, entdeckt zu werden. OpenAI betont, solche Anfragen verstoßen gegen die Regeln, die entsprechenden Konten wurden gesperrt.
Laut Gambit Security gab es Hinweise auf mindestens 20 ausgenützte Schwachstellen. Ziel des Hackers war offenbar, möglichst viele Identitäten von Regierungsmitarbeitern zu bekommen. Was mit den gestohlenen Daten passiert ist, weiß man bisher nicht.
Der Fall zeigt einmal mehr, wie künstliche Intelligenz nicht nur zum Schutz, sondern auch für Angriffe eingesetzt wird. Während Unternehmen immer stärkere KI-Systeme entwickeln und Sicherheitsfirmen auf KI-gestützte Abwehr setzen, passen Kriminelle ihre Methoden laufend an. "Diese Realität verändert alle Spielregeln, die wir je kannten", sagt Gambit-Mitgründer Alon Gromakov.
