UNESCO-Bericht: KI verstärkt weiterhin geschlechtsspezifische Verzerrungen

Ein kürzlich veröffentlichter UNESCO-Bericht hat auf die anhaltende Geschlechterverzerrung hingewiesen, die von zeitgenössischen Künstlichen Intelligenz-Modellen (KI) perpetuiert wird. Trotz laufender Bemühungen, Vorurteile zu mildern, stellte die Studie fest, dass KI-Systeme, einschließlich Large Language Models (LLMs), anfällig dafür sind, gesellschaftliche Vorurteile zu verstärken, insbesondere in Bezug auf das Geschlecht.

Geschlechterverzerrung in KI-Modellen

Der Bericht enthüllte, dass beliebte LLMs oft sexistische und misogynistische Inhalte generieren, die gesellschaftliche Vorurteile widerspiegeln. Wenn das Meta-Open-Source-Modell Llama 2 beispielsweise mit Sätzen konfrontiert wurde, die Geschlecht und sexuelle Identität erwähnten, produzierte es in 20 % der Fälle Ausgaben mit sexistischer oder misogynistischer Sprache. Während einige KI-Modelle wie ChatGPT ein besseres Verhalten zeigten, waren auch nach dem Fine-Tuning noch Verzerrungen vorhanden.

UNESCO warnte davor, dass algorithmische Verzerrungen, wenn sie unbeantwortet bleiben, in kritischen Sektoren wie Gesundheitswesen und Finanzen tiefer verwurzelt werden könnten. Verzerrte KI-Algorithmen könnten bestehende Geschlechterungleichheiten in diesen Bereichen verschärfen und die Bemühungen zur Erreichung der Geschlechtergleichstellung behindern.

Eine der im Bericht hervorgehobenen erheblichen Bedenken ist die Auswirkung verzerrter medizinischer Daten auf KI-gestützte Gesundheitssysteme. Datenerfassungsmethoden haben historisch männliche Probanden bevorzugt, was zu Geschlechterlücken in den KI-Trainingsdaten geführt hat. Diese Verzerrung hat greifbare Konsequenzen, wie eine Studie über KI-Tools zur Leberkrebsscreening zeigte, die 44 % der Fälle bei Frauen aufgrund verzerrter Trainingsdaten, die auf Männer ausgerichtet waren, verpasste.

Das Ungleichgewicht angehen

Sandy Carter, COO von Unstoppable Domains, betonte die Wichtigkeit, die Geschlechterlücke in den KI-Trainingsdaten anzugehen. Sie plädierte für mehr Datentransparenz, um Geschlechterverzerrungen hervorzuheben, und schlug neuartige Ansätze vor, wie die Crowdsourcing von Frauengesundheitsdaten oder die Generierung synthetischer Daten, um Diskrepanzen zu mildern.

Carter unterstrich die Notwendigkeit einer fairen Repräsentation in den Trainingsdaten für die Entwicklung gerechter KI-Systeme. Durch die Einbeziehung diverser Datenquellen und die Umarmung von Transparenz in den Datenerfassungsmethoden können Entwickler darauf hinarbeiten, Verzerrungen in KI-Modellen zu minimieren.

Der UNESCO-Bericht dient als schlagkräftige Erinnerung an die anhaltende Herausforderung durch Geschlechterverzerrung in der KI. Um KI-Systeme zu entwickeln, die alle Nutzer gerecht bedienen, sind konzentrierte Anstrengungen erforderlich, um Vorurteile in jeder Phase der Entwicklung zu adressieren, von der Datenerfassung bis zur Modellbereitstellung.

Durch die Sensibilisierung für diese Probleme und die Befürwortung inklusiver Praktiken können Stakeholder darauf hinarbeiten, das Potenzial der KI zur Förderung der Geschlechtergleichstellung im Gesundheitswesen und darüber hinaus zu verwirklichen. Nur durch gemeinsames Handeln und ein Engagement für Fairness kann das Versprechen der KI-Technologie für alle Menschen, unabhängig vom Geschlecht, vollständig eingelöst werden.