Künstliche Intelligenz hat unsere Welt schon zu einem großen Teil verändert. Viele fürchten weitere Entwicklungen. Jetzt sorgt ausgerechnet ein führender KI-Konzern mit einer ungewöhnlichen Forderung für Aufsehen: Das US-Unternehmen Anthropic spricht sich für eine weltweite Pause bei der Entwicklung immer leistungsstärkerer KI-Systeme aus, das berichtet die Agentur AFP.
Der in San Francisco ansässige Konzern erklärte, eine globale Verlangsamung der Spitzenforschung im KI-Bereich wäre "wahrscheinlich sinnvoll". Ziel sei es, der Gesellschaft mehr Zeit zu geben, mit den technischen Entwicklungen Schritt zu halten.
"Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können", erklärte Anthropic.
Damit eine solche Pause tatsächlich Wirkung zeigen könnte, müssten sich laut Anthropic die führenden KI-Unternehmen verschiedener Länder darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder auszusetzen. Besonders wichtig seien dabei die USA und China.
Nach Ansicht des Unternehmens müssten dafür klare Regeln geschaffen werden, die von allen Beteiligten überprüfbar eingehalten werden.
Anthropic ist vor allem durch seinen Chatbot Claude bekannt, der insbesondere von Unternehmen genutzt wird. Zudem entwickelt der Konzern das KI-Modell Mythos, das Schwachstellen in Cybersicherheitssystemen aufspüren soll.
Neben US-Behörden hofft auch die Europäische Union auf einen testweisen Zugriff auf das System, um mögliche Risiken besser einschätzen zu können.
Derzeit beschäftigt Anthropic auch ein Konflikt mit dem US-Verteidigungsministerium. Hintergrund ist die militärische Nutzung der KI-Technologie.
Das Unternehmen verweigerte dem Pentagon eine uneingeschränkte Nutzung seiner Systeme. Anthropic erklärte, man wolle KI nicht für "Massenüberwachung im Inland" oder in vollautonomen Waffensystemen einsetzen lassen.
Daraufhin stufte das Pentagon den Konzern als "Sicherheitsrisiko in der Lieferkette" ein. Gegen diese Einstufung geht Anthropic nun juristisch vor.
