Wer denkt, dass Künstliche Intelligenz neutral und objektiv urteilt, liegt falsch. KI-Systeme wie ChatGPT empfehlen Frauen systematisch niedrigere Gehälter als Männern.
Das berichtet die deutsche KI-Expertin Eva Gengler, die ein Buch über "Feministische KI" (Dietz Verlag) geschrieben hat.
Der Grund für die Diskriminierung liegt in den Trainingsdaten. KI lernt aus Daten der Vergangenheit - und die spiegeln oft veraltete Geschlechterrollen wider. Gengler nennt das Beispiel von Amazon: Der Konzern wollte eine KI nutzen, um Bewerbungen vorzusortieren.
"Die Maschine wertete das Merkmal Frau als Fehler aus", erklärt Gengler im Interview mit "Brigitte". Weil in der IT-Belegschaft historisch fast nur Männer eingestellt worden waren, sortierte das System Frauen konsequent aus. Amazon musste das Projekt stoppen.
Die Probleme gehen weit über Bewerbungen hinaus. Auch im Gesundheitsbereich zeigt sich der sogenannte Gender Bias. Weil die Technik meist den Mann als Norm nimmt, weiß eine Standard-KI oft nicht, dass Frauen bei einem Herzinfarkt ganz andere Symptome zeigen.
Während Männer typischerweise Schmerzen im linken Arm spüren, haben Frauen eher Übelkeit oder Schmerzen im Kiefer. Das führt laut Gengler dazu, dass Frauen im Schnitt zwei Stunden später in die Klinik kommen als Männer - mit potenziell tödlichen Folgen.
Die Expertin rät zur Vorsicht beim Umgang mit KI-Systemen. Bei kostenlosen Versionen sollte man keine privaten Gesundheits- oder Finanzthemen preisgeben. Versicherungen könnten etwa Interesse an solchen Daten haben. Wer für die Premium-Version zahlt, kann immerhin das KI-Training ausschalten.
Gengler sieht aber auch Chancen: Eine feministische KI, die Datenlücken schließt und Stereotype vermeidet, könnte buchstäblich Leben retten. Dafür sei es aber nötig, dass mehr Frauen an der Entwicklung von KI beteiligt werden und ihre Perspektiven einbringen.
