Dario Amodei, Chef der KI-Firma Anthropic, hat in einem Blogbeitrag gefordert, dass leistungsstarke KI-Modelle künftig auf Risiken geprüft werden sollen. Die Prüfungen sollten Bereiche wie Cybersicherheit, Biowaffen und einen möglichen Kontrollverlust über die Systeme umfassen.
Solche Untersuchungen könnten laut Amodei von einer Regierungsorganisation vorgenommen werden, die etwa einer Flugaufsicht ähneln würde. Alternativ könnten auch von der Regierung beauftragte private Prüfer diese Aufgabe übernehmen.
Wie t3n.de unter Berufung auf die Deutsche Presse-Agentur berichtet, spricht sich Anthropic schon länger für eine stärkere Regulierung der KI-Industrie aus. Dafür wurde die Firma bereits von Teilen der Branche und dem Weißen Haus kritisiert.
Anthropic ist mit seiner KI-Software Claude der schärfste Konkurrent des ChatGPT-Entwicklers OpenAI. Das Unternehmen sorgte zuletzt mit dem KI-Modell Mythos für Aufsehen, das zum Teil über Jahrzehnte unentdeckt gebliebene Schwachstellen in vielgenutzter Software aufspüren kann.
Das verstärkte die Sorge, dass Künstliche Intelligenz für verheerende Cyberangriffe verwendet werden könnte. Amodei fordert daher auch, dass eine automatisierte Weiterentwicklung der Software, die Risiken verstärken könnte, geprüft werden müsse.
