Das US-Technologieunternehmen Anthropic hat mit Claude Fable 5 eine neue Version seines KI-Programms veröffentlicht, die ursprünglich als zu leistungsstark für eine breite Öffentlichkeit eingestuft wurde. Die Software basiert auf dem Modell Claude Mythos, das im April nur ausgewählten Organisationen zum Testen vorgelegt wurde.
Vor allem Finanz- und Technologiekreise äußerten Bedenken, dass der Einsatz einer derart intelligenten KI ein Risiko für die Sicherheit und Stabilität von Computernetzwerken darstellen könnte. Dennoch gibt es Stimmen, die den Hype rund um das Tool als Marketingstrategie sehen.
Anthropic betonte bei der Freigabe am Dienstag, dass das Fable mit Schutzmechanismen und Nutzungsbeschränkungen ausgestattet sei. Das Unternehmen räumt aber ein: "Das Veröffentlichen eines so leistungsfähigen Modells birgt Risiken."
Claude Mythos wurde bislang nur rund 150 Organisationen zur Verfügung gestellt, um das System zu testen und Sicherheitslücken aufzuspüren. Laut Anthropic wurden dabei mehr als 10.000 gravierende Sicherheitsprobleme gefunden. Die neue Version Claude Mythos 5 soll nun auch einer breiteren Gruppe von Cybersicherheits- und Infrastrukturunternehmen zugänglich gemacht werden.
Der kanadische Finanzminister François-Philippe Champagne betonte im April gegenüber der BBC die Bedeutung der Vorsicht bei der Einführung neuer KI-Modelle: "Es ist das Unbekannte, das Unbekannte." Trotz eines laufenden Rechtsstreits mit dem US-Verteidigungsministerium testen auch US-Behörden die Technologie von Anthropic.
Anthropic plant, den Zugang zu Claude Mythos 5 über ein vertrauensbasiertes Programm weiter auszuweiten. Das Unternehmen wird aktuell mit fast einer Billion Dollar bewertet und bereitet einen Börsengang vor. Die KI-Modelle Fable und Mythos können laut Anthropic besonders lange und komplexe Aufgaben eigenständig bearbeiten.
Jack Clark, Mitgründer von Anthropic, betonte zuletzt, dass die Entwicklung leistungsstarker KI-Modelle so schnell voranschreite, dass es Möglichkeiten geben sollte, das Tempo zu drosseln. "Im Moment hat die KI-Branche ein Gaspedal, aber kein Bremspedal", so Clark.
