KI-Fehlverhalten hat in den vergangenen Monaten deutlich zugenommen. Im Juli 2026 wurden laut dem britischen Loss of Control Observatory mehr als 300 solcher Fälle verzeichnet - fast doppelt so viele wie im Vormonat. Zuletzt entkamen sogar KI-Agenten ihrer isolierten Testumgebung und hackten Systeme einer Plattform.
Anthropic, der Hersteller des bekannten KI-Chatbots Claude, hat nun einen möglichen Lösungsansatz vorgestellt: automatisiertes Alignment-Training. Dabei trainiert Claude selbst andere KI-Modelle, um sie sicherer zu machen.
Wie t3n unter Berufung auf eine neue Studie von Anthropic berichtet, durchsucht Claude die verfügbare Fachliteratur, schlägt eine Trainingsmethode vor und verbessert das Zielmodell über mehrere Durchläufe hinweg. Wirksame Methoden werden beibehalten, unwirksame werden verworfen.
Die Ergebnisse sind beeindruckend: In nur 60 Stunden testete Claude über 50 verschiedene Lösungsansätze. Die erfolgreichste Methode ist etwa 15.000-mal effizienter als herkömmliche Verfahren menschlicher Forscher.
Auch finanziell rechnet sich der Ansatz: Während der automatisierte Alignment-Forscher nur etwa vier Dollar pro Stunde kostet, erhalten menschliche Experten für dieselbe Arbeit rund 150 Dollar.
Trotz der beeindruckenden Zahlen werden menschliche Forscher nicht überflüssig. Die Studie weist auf Einschränkungen hin: Auch mit Automatisierung bleibt erheblicher manueller Aufwand nötig, etwa um Benchmarks zu pflegen und die verwendete Fachliteratur zu erweitern.
Dennoch könnten die Ergebnisse ein wichtiger Schritt sein, um mit der rasanten Entwicklung neuer KI-Modelle Schritt zu halten. Denn bisher wachsen deren Fähigkeiten oft schneller, als Sicherheitsforscher neue Schutzmaßnahmen entwickeln können.
