Der zunehmende Einsatz von künstlicher Intelligenz in Personalabteilungen soll eigentlich die Vorauswahl von Bewerbern erleichtern. Virtuelle Avatare führen erste Gespräche, bevor ein Mensch übernimmt. Doch ein aktuelles Video zeigt, wie leicht sich diese Systeme austricksen lassen.
Influencer Graham Zip hat in einem satirischen YouTube-Clip den KI-Avatar Dana Whitfield mit völlig sinnfreien Antworten konfrontiert. Statt auf konkrete Fragen einzugehen, reihte er einfach wirre Begriffe aneinander.
Wie t3n unter Berufung auf Futurism berichtet, war das Ergebnis verblüffend: Die KI wies den Bewerber nicht etwa auf seine unlogischen Aussagen hin, sondern integrierte den Unsinn einfach ins Gespräch. Der Avatar zeigte sich sogar angetan von der angeblichen Erfahrung mit "Waschbären-Protokollen" und "zwei Mullverbänden".
Das Problem liegt in der Technik: Aktuelle Sprachmodelle sind auf Konversation und Zustimmung trainiert. Verlassen Nutzer den inhaltlichen Rahmen, versuchen die Modelle trotzdem, den Dialog fortzusetzen, anstatt sachliche Fehler zu korrigieren.
Die Systeme überprüfen die Plausibilität von Aussagen offenbar nicht. Sie berechnen lediglich die wahrscheinlichste sprachliche Antwort auf eine Eingabe.
Der wachsende Einsatz solcher virtuellen Recruiter resultiert oft aus Überlastung der Personalabteilungen. Firmen erhalten immer mehr Bewerbungen - die wiederum häufig selbst von Textgeneratoren geschrieben wurden.
Die Leichtigkeit, mit der sich der KI-Avatar manipulieren ließ, stellt den Nutzen dieser automatisierten Vorauswahl grundsätzlich in Frage. Wenn ein System nicht zwischen echten Qualifikationen und völligem Nonsens unterscheiden kann, liefert es keine brauchbaren Daten.
