Eine neue Plattform bündelt 25.824 Datensätze zu KI-Vorfällen aus sieben internationalen Quellen. Der Zugang ist nach kostenloser Registrierung möglich.
Screenshot ai-incidents.eu
ai-incidents.eu
Wenn KI versagt – Eine Datenbank dokumentiert Vorfälle
Von falschen Antworten bis zu Sicherheitsproblemen: Ein neues Register soll dokumentieren, wo KI-Systeme versagen und welche Folgen das hat.
Wenn künstliche Intelligenz Fehler macht, können die Folgen weit über falsche Antworten hinausgehen. Eine neue Rechercheplattform will solche Vorfälle systematisch dokumentieren. Das Register ai-incidents.eu bündelt zum Start 25.824 Datensätze aus sieben internationalen Sammlungen. Der vollständige Zugang ist nach einer kostenlosen Registrierung mit E-Mail-Adresse möglich.
Die Plattform soll Informationen zu Fehlverhalten und Risiken von KI-Systemen leichter auffindbar machen. Jeder Eintrag verweist auf eine Originalquelle. Dabei wird laut Betreiber unterschieden, ob es sich um Angaben von Anbietern, Berichte Betroffener oder unabhängige Untersuchungen handelt. Auch der Status eines Vorfalls soll nachvollziehbar sein: Wurde das Problem bereits behoben oder ist es noch offen?
"Heute" auf Google als bevorzugte Quelle festlegen
Zu den zusammengeführten Quellen zählen die Vorfalldatenbank der OECD, die AI Incident Database, die Sicherheitsdatenbank MITRE ATLAS sowie Sammlungen zu Fehlverhalten von KI-Modellen und zu Halluzinationen in Gerichtsverfahren. Die Zahl von 25.824 Einträgen bedeutet allerdings nicht, dass ebenso viele unterschiedliche oder unabhängig bestätigte Vorfälle vorliegen. Mehrere Datensätze können dasselbe Ereignis beschreiben.
Google will Kondensstreifen mit Künstlicher Intelligenz verhindern
?
Plattform ist auf Deutsch und Englisch verfügbar
Neben der Datenbank bietet ai-incidents.eu zehn redaktionell aufbereitete Fallanalysen, ein interaktives Observatorium zur Einordnung der Datenlage und ein geschütztes Formular zur vertraulichen Meldung neuer Vorfälle. Die Plattform ist auf Deutsch und Englisch verfügbar, das erweiterte Dashboard derzeit allerdings nur auf Englisch.
Hinter dem Angebot steht die Düsseldorfer City Update GmbH, die KI-Lösungen für Unternehmen und Organisationen entwickelt. Geschäftsführer Oliver Plantenberg will mit dem Register eine nachvollziehbare Informationsgrundlage zu den tatsächlichen Risiken von KI schaffen. Ob und wie umfassend die Plattform künftig wächst, wird auch davon abhängen, wie viele neue Vorfälle gemeldet und wie zuverlässig die vorhandenen Einträge gepflegt werden.
