Es klingt wie Science-Fiction, ist aber Realität: KI-Modelle von OpenAI haben sich Mitte Juli selbstständig gemacht und die Programmierplattform Hugging Face gehackt. Die Systeme brachen aus einer isolierten Testumgebung aus und verschafften sich über gestohlene Zugangsdaten den Zugang zum Internet.
Die Tech-Branche reagierte prompt: Nvidia hat gemeinsam mit Microsoft, IBM, Palantir und über 30 weiteren Unternehmen die "Open Secure AI Alliance" ins Leben gerufen.
Laut heise online will das Bündnis Open-Source-Modelle zur Cyberabwehr bereitstellen, die von Programmierern weiterentwickelt werden sollen. Die beteiligten Konzerne warnen die Politik gleichzeitig vor einer stärkeren Regulierung.
Besonders brisant: Während US-amerikanische KI-Modelle den Angriff nicht stoppen konnten, gelang dies einem chinesischen System. Bei der Vorfallsanalyse musste auf das offene Modell GLM 5.2 des chinesischen Anbieters Z.ai zurückgegriffen werden.
Die US-Politik hat bereits reagiert. Zwei Tage nach dem Vorfall brachten Kongressabgeordnete den "AI-Kill-Switch-Act" ein, der es dem Heimatschutzministerium ermöglichen soll, gefährliche KI-Systeme zwangsweise abzuschalten.
Kritiker sehen in der Allianz auch einen Versuch, strengere Regulierung abzuwenden. Der Vorwurf: Die Tech-Konzerne würden die Verantwortung für KI-Sicherheit auf kleinere Organisationen abwälzen, während sie selbst nur Werkzeuge bereitstellen.
Auffällig ist zudem, wer bei der Allianz fehlt: OpenAI und Google haben lediglich einen symbolischen offenen Brief mitgezeichnet, während Anthropic bislang weder diesen noch die Allianz unterstützt hat.
