Das US-Unternehmen Anthropic hält es für möglich, dass Künstliche Intelligenz die Entwicklung neuer KI-Modelle schon bald stark beschleunigt. Im Extremfall könnte eine KI ihre Nachfolger ganz ohne menschliche Hilfe entwickeln. Fachleute nennen das "rekursive Selbstverbesserung".
Der KI-Assistent Claude hilft bereits heute beim Bau neuer Claude-Modelle, etwa beim Schreiben von Code oder bei Tests. Stärkere Modelle könnten diesen Anteil weiter ausbauen. Je mehr Claude an der eigenen Entwicklung mitarbeitet, desto schwerer lässt sich jeder Schritt nachvollziehen und kontrollieren.
Laut heise online räumt Anthropic in seinem Börsenprospekt ein, große Sprünge in der Vergangenheit erst im Nachhinein bemerkt zu haben. Die Fähigkeiten neuer Modelle könnten schneller wachsen als entsprechende Sicherheitsmaßnahmen entwickelt werden.
Die Warnung dient allerdings auch dem Marketing. Das Unternehmen steht kurz vor dem Börsengang, und je gefährlicher eine Technik klingt, desto wichtiger wirkt sie. Anthropic hat damit ein klares Interesse, seine KI als besonders mächtig darzustellen.
Seit Jahresbeginn hat Anthropic Verluste von 104 Milliarden US-Dollar angehäuft. Der Großteil stammt aus Bilanzanpassungen. Im laufenden Geschäft verlor das Unternehmen 567 Millionen US-Dollar. Zugleich stieg der Umsatz in den ersten neun Monaten 2026 von 2,5 auf 33,2 Milliarden US-Dollar.