Wenn Hacker in fremde Systeme einbrechen, drohen ihnen langjährige Haft- und Geldstrafen. Doch wenn KI-Agenten genau dasselbe tun, gibt es bisher kaum Konsequenzen. Die Hamburger IT-Ethik-Professorin Judith Simon will das ändern.
Im Rahmen eines Pressebriefings des Science Media Centers schlug Simon vor, Geschäftsführer von KI-Unternehmen für Schäden, die durch ihre Systeme verursacht werden, mit Haftstrafen zu belegen. "Das scheint mir der einzige Hebel zu sein, damit Leute über die Konsequenzen ihrer Technologien nachdenken", erklärt die Expertin.
Wie es auf t3n heißt, wären Geldstrafen aufgrund der Rekordumsätze im KI-Boom und der daraus resultierenden Vermögenswerte von Unternehmern wie Mark Zuckerberg, Sam Altman oder Dario Amodei keine angemessene Abschreckung. Eine persönliche Haftung könne eher dafür sorgen, dass Sorgfalt in diese Systeme Einzug hält.
Der AI Act der EU sieht derzeit nur eine Produkthaftung vor. Eine Haftung für Fälle wie den Hack der KI-Plattform Huggingface durch KI-Agenten von OpenAI ist nicht vorgesehen. Ob eine Sandbox, aus der KI-Agenten ausschwärmen und reale Systeme attackieren können, unter die Testbedingungen des AI Acts fällt, ist fraglich.
In den USA beschäftigen die Haftungsfragen bereits die Gerichte. Der kalifornische Generalstaatsanwalt Rob Bonta hat kürzlich Klage gegen OpenAI eingereicht. Eine Non-Profit-Organisation fordert zusätzlich, dass OpenAI die Entwicklung von KI-Agenten stoppen soll, die andere Firmen hacken können.
Dass Klagen gegen Tech-Konzerne Erfolg haben können, zeigt die aktuelle Rechtsprechung gegen Meta: Im Oktober verurteilte ein Gericht in New Mexico den Konzern zu einer Geldstrafe von 25 Milliarden Dollar.