Der US-Konzern Anthropic, der sich auf Künstliche Intelligenz spezialisiert hat, spricht sich für eine weltweite Pause bei der Entwicklung immer stärkerer KI-Systeme aus. Laut dem Unternehmen aus San Francisco wäre eine weltweite Verlangsamung der Spitzenforschung im Bereich Künstliche Intelligenz "wahrscheinlich sinnvoll". Das hat Anthropic am Donnerstag (Ortszeit) erklärt. Allerdings müssten alle großen KI-Firmen weltweit mitziehen. Wenn nur ein einzelnes Unternehmen eine Pause einlegt, würden die Mitbewerber einfach an ihm vorbeiziehen.
"Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können", so Anthropic weiter.
Damit so eine Pause auch wirklich etwas bringt, müssten sich nach Ansicht von Anthropic die führenden KI-Konzerne aus verschiedenen Ländern – vor allem aus den USA und China – darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür sollten Regeln aufgestellt und eingehalten werden, "die für alle überprüfbar wären".
Anthropic ist vor allem durch seinen Chatbot Claude bekannt, den viele Unternehmen nutzen. Außerdem arbeitet Anthropic an einem KI-Modell namens Mythos, das Schwachstellen in Cybersicherheitssystemen aufspüren soll. Neben den US-Behörden hofft auch die EU auf einen Testzugang, um mögliche Risiken besser einschätzen zu können. Deutsche Verfassungsschützer und Sicherheitsexperten warnen, dass Kriminelle oder staatliche Akteure Mythos auch für Cyberangriffe missbrauchen könnten.
Aktuell steckt Anthropic in einem Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um die uneingeschränkte militärische Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat. Der Konzern betont, er wolle Künstliche Intelligenz nicht zur "Massenüberwachung im Inland" oder in vollautonomen Waffensystemen einsetzen lassen. Das Pentagon hat Anthropic daraufhin als "Sicherheitsrisiko in der Lieferkette" eingestuft, wogegen sich das Unternehmen jetzt juristisch wehrt.
Am Montag hat Anthropic außerdem seinen Börsengang eingereicht.
