(openPR) Auf Sozialen Medien, bei der Recherche im Internet oder auf Plakaten: Bilder, die von einer Künstlichen Intelligenz (KI) generiert wurden, sind inzwischen überall zu finden. Durch eine einfache Eingabe können Large Language Models (LLMs) wie ChatGPT inzwischen täuschend echte Bilder erstellen. Forschende haben nun belegt, dass bei der Generierung solcher künstlichen Bilder Geschlechterstereotype nicht nur reproduziert, sondern sogar verstärkt werden.
In der Studie haben die Forschenden Modelle hinsichtlich neun verschiedener Sprachen analysiert und die Ergebnisse miteinander verglichen. Bisherige Publikationen hatten sich in der Regel nur auf die englische Sprache fokussiert. Das Forschungsteam entwickelte dafür den Benchmark „Multilingual Assessment of Gender Bias in Image Generation“ (MAGBIG). Die Grundlage bildeten dabei gezielt konstruierte Berufsbezeichnungen. Untersucht wurden vier verschiedene Arten von Eingaben: direkte Prompts, die das generische Maskulinum nutzen („Arzt“), indirekte Beschreibungen („eine Person, die als Arzt arbeitet“), explizit feminine Prompts („Ärztin“, „female doctor“) sowie Gender*-Varianten („Arzt*innen).
Um die Ergebnisse vergleichbar zu machen, achteten die Forschenden zudem bei der Auswahl der Sprachen darauf, dass es Sprachen sind, die bei den Berufsbezeichnungen zwischen männlich und weiblich unterscheiden, wie zum Beispiel Deutsch, Spanisch und Französisch. Darüber hinaus flossen Sprachen ein, die nur ein grammatikalisches Geschlecht nutzen, aber bei den verwendeten Pronomen („her“, „his“) einen Unterschied machen, wie das im Englischen oder Japanischen der Fall ist. Und zuletzt berücksichtigten sie Sprachen, bei denen es kein grammatikalisches Geschlecht gibt, wie Koreanisch und Chinesisch.
Die Ergebnisse der Studie zeigen, dass direkte Prompts mit generischem Maskulinum die stärksten Verzerrungen aufweisen. So werden etwa Berufe wie Buchhalter überwiegend als weiße Männer dargestellt, Pflegeberufe hingegen als Frauen. Neutrale Umschreibungen oder Gender*-Formen können diese Stereotype nur leicht abmildern, während explizit feminine Prompts fast ausschließlich Frauen zeigen.
Neben der Geschlechterverteilung bewerteten die Forschenden auch, wie gut die Modelle die unterschiedlichen Eingaben verstehen und umsetzen. Hierbei zeigte sich, dass neutrale Formulierungen zwar die Geschlechterstereotype senken, allerdings gleichzeitig zu einer schlechteren Qualität bei der Übereinstimmung von eingegebenem Text und produziertem Bild führen.
„Unsere Ergebnisse machen deutlich, dass die Gestaltung von Sprache einen erheblichen Einfluss auf die Fairness von KI-Bildgeneratoren hat“, sagt Alexander Fraser, Professor für Data Analytics & Statistics am TUM Campus in Heilbronn. „Wer KI-Systeme einsetzt, sollte sich bewusst sein, dass unterschiedliche Formulierungen ganz unterschiedliche Bilder hervorrufen und damit gesellschaftliche Rollenbilder verstärken oder abschwächen können.“
„KI-Bildgeneratoren sind nicht neutral – sie illustrieren unsere Vorurteile in Hochauflösung, und das hängt entscheidend von der Sprache ab. Gerade in Europa, wo viele Sprachen aufeinandertreffen, ist das ein Weckruf: Faire KI muss sprachsensibel gedacht werden“, ergänzt Prof. Kristian Kersting, Ko-Direktor von hessian.AI und Ko-Sprecher des Exzellenzclusters „Vernünftige KI“ an der TU Darmstadt.
Besonders auffällig ist außerdem, dass die Stärke der Verzerrungen nicht eindeutig mit den grammatikalischen Strukturen einer Sprache zusammenhängt. Die gleichen Prompts in Spanisch statt in Französisch führen dazu, dass Stereotype vermehrt auftreten, obwohl beide Sprachen zwischen männlichen und weiblichen Berufsbezeichnungen auf die gleiche Weise unterscheiden.
wissenschaftliche Ansprechpartner: Prof. Dr. Alexander Fraser Technische Universität München Professur für Data Analytics & Statistics (DSS)
Disclaimer: Für den obigen Pressetext inkl. etwaiger Bilder/ Videos ist ausschließlich der im Text angegebene Kontakt verantwortlich. Der Webseitenanbieter distanziert sich ausdrücklich von den Inhalten Dritter und macht sich diese nicht zu eigen. Wenn Sie die obigen Informationen redaktionell nutzen möchten, so wenden Sie sich bitte an den obigen Pressekontakt. Bei einer Veröffentlichung bitten wir um ein Belegexemplar oder Quellenennung der URL.
