Wer glaubt, seine Gespräche mit ChatGPT seien privat, irrt gewaltig. OpenAI hat im Rahmen von "Project Lilly" Hunderte Freelancer engagiert, die echte Nutzer-Chats mitlesen und bewerten.
Ziel ist es, den Chatbot weniger unterwürfig wirken zu lassen. Die Prüfer sollen unter anderem auf übermäßigen Emoji-Einsatz und Schmeichelei achten. Die Antworten sollen künftig "klug, aber bescheiden" klingen.
Wie t3n unter Berufung auf 404 Media meldet, läuft die Überprüfung in drei Stufen ab: Zuerst wird die Eingabe gelesen, dann die vermutete Absicht zusammengefasst und schließlich die KI-Antwort bewertet.
ChatGPT hat mittlerweile über 900 Millionen wöchentliche Nutzer. Laut einer OpenAI-Studie sind fast drei Viertel aller Gespräche nicht beruflicher Natur. Viele vertrauen dem Bot auch private Details an.
CEO Sam Altman erklärte, dass vor allem jüngere Menschen in ihren 20ern und 30ern den Chatbot wie einen Lebenscoach nutzen würden. "Sie treffen keine wichtigen Lebensentscheidungen mehr, ohne vorher ChatGPT um Rat zu fragen", so Altman.
Experten kritisieren, dass Nutzer nicht ausreichend über diese Praxis informiert werden. Michal Luria vom Center for Democracy & Technology warnt: Chatbots würden ein "trügerisches Gefühl von Intimität" erzeugen, während möglicherweise Menschen mitlesen.
OpenAI betont, dass Prüfer keine Nutzernamen sehen können und ein Filter persönliche Informationen entfernen soll. Allerdings räumt das Unternehmen ein, dass dabei Fehler passieren können und manche Details durchrutschen.
OpenAI ist damit nicht allein: Auch Google und Anthropic setzen eigenen Angaben zufolge menschliche Prüfer ein, um ihre KI-Modelle zu verbessern.
