Geht es um Risikominimierung bei KI-Systemen, fällt unweigerlich der Begriff "Human in the Loop". Das Prinzip klingt beruhigend: Menschen sollen KI-Tools und deren Ergebnisse prüfen und kontrollieren.
Doch IT-Experten schlagen Alarm. In der Realität funktioniere das oft nicht wie vorgesehen. Statt echter Kontrolle gebe es in vielen Unternehmen nur eine Art Schein-Governance.
"Wenn der Mensch etwas melden, aber nicht tatsächlich stoppen kann, ist das kein Human in the Loop", erklärt Doug Shepherd, Sicherheitsexperte bei Cloudflare, laut Computerwoche unter Berufung auf CIO.com. Das sei eher ein "Human neben dem Loop".
Darren Kimura, Chef beim KI-Anbieter AISquared, sieht das ähnlich: "Die meisten Unternehmen haben in Wirklichkeit nur einen Menschen, der den Loop beobachtet. Diese Person kann KI-Entscheidungen einsehen und Bedenken äußern, sie aber weder aufhalten noch eskalieren."
Ein weiteres Problem sei Entscheidungsmüdigkeit. Wenn Mitarbeiter ständig KI-Ergebnisse prüfen müssen, klicken sie irgendwann nur noch automatisch auf "Genehmigen" - ohne wirklich hinzuschauen.
"Wenn die KI in 95 Prozent der Fälle richtig liegt, wartet der Prüfer nur noch auf den einen Fehler", warnt Eric Billingsley vom Sicherheitsanbieter TrustScale. Doch genau diesen übersehe man dann oft, weil das System den Menschen auf Vertrauen trainiert habe.
Für manche Anwendungen sei Human in the Loop ohnehin nicht geeignet - etwa bei Cyberangriffen. Wenn ein Computer gehackt wird, könne man nicht 30 Minuten auf menschliche Freigabe warten, während sich der Angriff ausweitet.
