Die als KI-Väter geltenden Forscher Geoffrey Hinton und Yoshua Bengio schlagen Alarm. Gemeinsam mit rund 400 weiteren Wissenschaftlern aus 34 Ländern haben sie einen offenen Brief unterzeichnet, der eine strengere Regulierung künstlicher Intelligenz fordert.
Konkret verlangen sie die Einrichtung einer internationalen Aufsichtsinstanz, die Sicherheitsstandards für KI-Systeme festlegt und überwacht. Dieses Kontrollgremium soll auch Vorfälle bei fortschrittlichen KI-Modellen öffentlich machen - wohl eine Reaktion auf den vielbeachteten Angriff von OpenAI-KI-Agenten auf die Plattform Hugging Face.
"Heute" auf Google als bevorzugte Quelle festlegen
Wie t3n unter Berufung auf Reuters schreibt, sollen Anbieter ihre leistungsfähigsten KI-Modelle zunächst von externen Netzwerken isoliert entwickeln und sich einer unabhängigen Aufsicht unterstellen. Die freiwillige Selbstverpflichtung der Branche reiche nicht aus, so die Experten.
Mitte September hatten sich Anthropic, OpenAI, Google, Meta, xAI und Nvidia bei einem Treffen im Weißen Haus zu entsprechenden Sicherheitsmaßnahmen verpflichtet. Formelle Durchsetzungsmöglichkeiten bei Verstößen gibt es dabei aber nicht.
Die Bilder des Tages
?
Die EU-Kommissarin Henna Virkkunen sieht hingegen keinen zusätzlichen Handlungsbedarf: Der AI Act der EU biete genügend Instrumente, um Risiken durch unkontrollierte KI-Systeme zu begegnen. Auch der KI-Forscher und Turing-Preisträger Yann LeCun verzichtete darauf, den Brief zu unterzeichnen. Er sieht zwar ein Versagen einzelner Anbieter, aber kein grundsätzliches Risiko durch KI.
