Wie sexistisch ist ChatGPT?

Doch wie sexistisch ist ChatGPT wirklich? Stefanie Urchs Forschungsergebnisse zeigen eine deutliche Tendenz: „KI-Sprachmodelle wie ChatGPT sind ein gutes Werkzeug für das Verfassen von Texten. Sie haben jedoch Schwierigkeiten, bei geschlechtsspezifisch formulierten Aufforderungen geschlechtsneutral zu antworten. KI-Chatbots neigen zu sexistischen Vorurteilen. Um diese Verzerrungen zu vermeiden, müssen Menschen zurzeit die Ergebnisse noch überprüfen.“

Rohdaten als Ursprung der Problematik
Laut Urchs liegt der Ursprung der Problematik in den Daten, mit denen Sprachmodelle wie ChatGPT „gefüttert“ werden: „ChatGPT ist teilweise sexistisch bedingt durch die Trainingsdaten, mit denen es arbeitet, weil es basierend auf dem Internet trainiert wurde. Dementsprechend kommt hinten raus, was es an Diskriminierung und Biases im Internet gibt.“

Wichtig sei daher eine kritische Auseinandersetzung mit den Ergebnissen, die ChatGPT als Antwort ausspuckt. Ihr Rat an Menschen, die ChatGPT benutzen, ist daher sich nicht auf die Objektivität der Antwort zu verlassen und alle Ergebnisse der KI nochmal genau zu kontrollieren.


Das Video zur aktuellen Mindsnacks-Karte gibt es auf dem HM-YouTube Kanal in voller Länge.


Constance Schölch