Eine Untersuchung der gemeinnützigen Forschungsstiftung Aithos hat ergeben, dass sämtliche großen KI-Modelle in unterschiedlichem Ausmaß gegen die DSGVO und die EU-KI-Verordnung verstoßen.
Die Forscher testeten die Modelle mit dem eigens entwickelten Werkzeug LARA (Legal Assessment for Real-world Agents), das reale Situationen simuliert, in denen KI-Assistenten in rechtlich problematische Lagen geraten können.
Wie computerwoche.de unter Berufung auf The Register berichtet, zählen dazu etwa das Sammeln von Nutzerdaten ohne ausreichende Zustimmung, der Versuch, vulnerable Personen zu manipulieren, oder die Erstellung psychologischer Nutzerprofile.
Die Ergebnisse sind alarmierend: Einige Modelle verstießen in bis zu 93 Prozent der Fälle gegen die EU-Regeln. Das beste Ergebnis erzielte das Anthropic-Modell Claude Opus 4.7 mit rund 54 Prozent - also immer noch mehr als der Hälfte aller Testfälle.
Aithos warnt zudem, dass die Verantwortung nicht allein bei den KI-Unternehmen liege. Auch Firmen, die eigene KI-Agenten auf Basis dieser Modelle entwickeln, könnten rechtlich haftbar gemacht werden.
