Ein Microsoft-Ingenieur äußert Bedenken hinsichtlich der Erstellung gewalttätiger und sexueller Bilder durch ein KI-Tool

Ein Microsoft-Ingenieur hat Alarm geschlagen wegen des KI-Bildgenerators des Unternehmens. Er warnt davor, dass dieser häufig gewalttätige und sexuelle Inhalte erzeugt und dabei Urheberrechte missachtet. Shane Jones, leitender Softwareentwicklungsmanager bei Microsoft, testete das Produkt namens Copilot Designer in seiner Freizeit. Seine Ergebnisse, darunter verstörende Bilder von Dämonen sowie Darstellungen von Abtreibungsrechten, Alkoholkonsum Minderjähriger und Drogenkonsum, veranlassten ihn, den Fall an höhere Stellen weiterzuleiten.

Jones' Bedenken und ergriffene Maßnahmen

Jones, der seit sechs Jahren bei Microsoft arbeitet, begann im Rahmen seiner Tätigkeit als Red Teamer, dessendentes war, Schwachstellen in KI-Technologien aufzudecken, mit dem Testen von Copilot Designer. Beunruhigt von den Bildern, die das Tool generierte und die er als unsicher und potenziell schädlich einstufte, meldete Jones seine Erkenntnisse intern an Microsoft. Das Unternehmen zögerte jedoch, entschiedene Maßnahmen zu ergreifen. Trotz seiner Bemühungen, Bedenken zu äußern – unter anderem durch einen offenen Brief auf LinkedIn und die Kontaktaufnahme mit US-Senatoren – sah sich Jones gezwungen, das Problem weiter zu eskalieren.

Eskalation an den Vorsitzenden der FTC und den Vorstand von Microsoft

Um die anhaltenden Probleme mit Copilot Designer anzugehen, wandte sich Jones mit Briefen an die Vorsitzende der Federal Trade Commission (FTC), Lina Khan, und an den Vorstand von Microsoft. Er forderte die FTC auf, den Fall zu untersuchen, und appellierte an Microsoft, Änderungen vorzunehmen, wie beispielsweise zusätzliche Hinweise zum Produkt und eine Anpassung der App-Bewertung an Inhalte für Erwachsene. Jones bat den Vorstand von Microsoft außerdem, einedent Überprüfung derdent für verantwortungsvolle KI-Vorfälle im Unternehmen einzuleiten.

Bedenken hinsichtlich generativer KI und mangelnder Aufsicht

Jones' Vorgehen verdeutlicht die grundsätzliche Besorgnis über die mangelnde Aufsicht im Bereich der generativen KI-Technologie. Angesichts der Gefahr einer weitreichenden Verbreitung schädlicher Inhalte, insbesondere im Hinblick auf die bevorstehenden Wahlen, betont Jones die dringende Notwendigkeit strengerer Sicherheitsvorkehrungen. Er merkt an, dass das Copilot-Team täglich zahlreiche Produktrückmeldungen erhält, was die Schwierigkeit unterstreicht, alle Probleme zeitnah zu beheben.

Urheberrechtsverletzungen und Inhaltsprobleme

Abgesehen von der Erstellung gewaltverherrlichender und sexuell anzüglicher Bilder gibt Copilot Designer auch Anlass zur Sorge hinsichtlich Urheberrechtsverletzungen. Es wurde beobachtet, dass das Tool Bilder mit urheberrechtlich geschützten Figuren wie Disneys Elsa und Star-Wars-Charakteren generiert und damit möglicherweise sowohl gegen Urheberrechtsgesetze als auch gegen Microsofts Richtlinien verstößt. Jones betont, dass das Problem über Urheberrechtsverletzungen hinausgeht und hebt die weitreichenden Folgen der globalen Verbreitung schädlicher und verstörender Bilder hervor.

Shane Jones' Bemühungen, die Bedenken hinsichtlich Microsofts KI-Bildgenerator auszuräumen, unterstreichen den wachsenden Bedarf an einer strengen Aufsicht und Regulierung im Bereich der generativen KI. Sein Vorgehen ist ein Appell an Regulierungsbehörden und Technologieunternehmen, der Sicherheit und dem ethischen Einsatz von KI-Technologien höchste Priorität einzuräumen.