Der KI-Entwickler Anthropic muss auf Anordnung der US-Regierung den Zugang zu seinen neuesten Modellen sperren – und zwar weltweit. Das Handelsministerium in Washington hat aus Gründen der nationalen Sicherheit untersagt, ausländischen Staatsbürgern Zugriff auf "Fable 5" und "Mythos 5" zu gewähren.
Um diese Vorgabe zu erfüllen, bleibe nichts anderes übrig, als die Systeme komplett vom Netz zu nehmen, so das Unternehmen.
Wie n-tv.de berichtet, habe die US-Regierung ihre Sicherheitsbedenken nicht näher ausgeführt. Offenbar sei sie jedoch besorgt wegen sogenannter Jailbreaks – also Methoden, mit denen Nutzer die eingebauten Sicherheitsvorkehrungen umgehen können.
Die Künstliche Intelligenz hinter Anthropics Modell Mythos ist besonders gut darin, auch über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. US-Behörden und ausgewählte Unternehmen setzten diese Fähigkeit bisher ein, um Sicherheitslücken zu stopfen.
Eine Sorge war jedoch von Anfang an, dass eine solche KI in den falschen Händen eine gefährliche Cyberwaffe werden könnte. Die US-Behörden befürchten anscheinend, dass die KI-Modelle zur Aufdeckung von Schwachstellen in Software missbraucht werden könnten.
"Wir sind nicht der Ansicht, dass die Entdeckung eines potenziellen, eng begrenzten Jailbreaks ein Grund sein sollte, ein kommerzielles Modell zurückzurufen, das bei Hunderten Millionen Menschen im Einsatz ist", so das Unternehmen.
Würde dieser Maßstab branchenweit angelegt, käme die Einführung neuer Modelle faktisch zum Erliegen. Anthropic kündigte an, den Zugang so bald wie möglich wieder herzustellen.
Die IT-Chefin des Verteidigungsministeriums, Kirsten Davies, verteidigte hingegen das Vorgehen: "Manche Dinge sind einfach wichtiger als Umsatzzyklen, Clickbait und Unternehmensbewertungen vor einem Börsengang. America First. Immer", schrieb sie bei X.
