Warum ist ethische KI-Überwachung nicht machbar, wie das Auftragen von Lippenstift auf ein Schwein?

TL;DR-Zusammenfassung

• Rumman Chowdhury ist der Ansicht, dass ethische KI-Überwachung nicht machbar ist, und erklärt: „Wir können einem Schwein keinen Lippenstift auftragen.“
• Sie plädiert für die Einrichtung einer externen globalen Governance-Board, um KI-Technologien zu überwachen und Probleme wie Überwachungskapitalismus anzugehen.
• Chowdhury betont die Bedeutung von Rechenschaftspflicht und Zusammenarbeit bei der Steuerung von KI und warnt vor einer Überregulierung, während sie ethische Herausforderungen angeht.

In einem kürzlichen Interview äußerte Rumman Chowdhury, ehemalige Direktorin für Ethik, Transparenz und Rechenschaftspflicht im maschinellen Lernen bei Twitter, ihre Skepsis bezüglich der Möglichkeit ethischer künstlicher Intelligenz (KI) zur Überwachung. Sie sprach an der School of Social Sciences der New York University und sagte: „Wir können einem Schwein keinen Lippenstift auftragen. Ich glaube nicht, dass ethische Überwachung existieren kann.“

Chowdhury, bekannt für ihre Arbeit in der KI-Ethik, hob ihre Bedenken hinsichtlich des Aufstiegs des Überwachungskapitalismus hervor, den sie für inhärent rassistisch hält und der nicht unterstützt werden sollte. In einem Op-Ed für Wired plädierte sie für die Einrichtung eines externen globalen Governance-Board, um KI-Technologien zu überwachen und Probleme wie Überwachungskapitalismus, Arbeitsmarktdisruption und Desinformation im Bereich Nuklearwaffen anzugehen. Chowdhury betonte die Notwendigkeit eines vielfältigen Boards, das nicht an eine einzelne Institution gebunden ist und eine globale Perspektive repräsentiert.

Herausforderungen bei Rechenschaftspflicht und Regulierung in der KI-Branche

Nach Ansicht von Chowdhury ist Rechenschaftspflicht ein entscheidender Aspekt, der in der KI-Branche oft fehlt. Sie wies darauf hin, dass interne Risikoanalysen innerhalb von Unternehmen moralische Überlegungen oft übersehen. Wenn das Risiko eines Versagens oder des Rufschadens erheblich wird, neigen Organisationen dazu, die Regeln zu ihren Gunsten zu biegen, wie sie feststellte. Chowdhury glaubt, dass die Bewältigung dieser Herausforderungen eine kollektive Anstrengung erfordert, die verschiedene Interessengruppen einbezieht und Zusammenarbeit auf globaler Ebene erfordert.

Obwohl sie anerkennt, dass Regulierung notwendig ist, warnte Chowdhury vor einer Überregulierung, die dazu führen könnte, dass Modelle überkorrigieren und die zugrunde liegenden Probleme nicht angehen. Sie betonte die komplexe Natur der Definition von toxischem oder hassredeninhalt, indem sie erklärte, dass es eine fortlaufende Reise ist, die kontinuierliche Bewertung und Anpassung erfordert.

Rumman Chowdhury glaubt, dass Technologie sich nicht von der Menschheit entfremden sollte

Chowdhurys Arbeit zielt darauf ab, die Lücke zwischen Technologen und politischen Entscheidungsträgern zu schließen und plädiert für ein besseres Verständnis der menschlichen Auswirkungen der Technologie. Sie glaubt, dass Technologie sich nicht von der Menschheit entfremden sollte, sondern stattdessen genutzt werden sollte, um menschliche Mängel anzugehen und die Gesellschaft zu verbessern.

Rumman Chowdhury, eine prominente Figur im Bereich der KI-Ethik, war schon immer fasziniert von der Komplexität und Unvorhersehbarkeit menschlichen Verhaltens. Während ihres Bachelorstudiums der Politikwissenschaft am MIT erkannte sie das Potenzial, Modelle und Daten in gemeinnützigen Organisationen effektiver einzusetzen. Dies führte dazu, dass sie einen Master-Abschluss in quantitativen Methoden an der Columbia University verfolgte, wo sie ihre Fähigkeiten weiter verfeinerte.

Chowdhurys Arbeit hat sie im vergangenen Monat allein an verschiedene Orte auf der Welt geführt. Von Spanien über San Francisco, Boston bis New York und bevorstehende Vorträge in Wien und Pittsburgh ist sie aktiv damit beschäftigt, drängende Fragen im Zusammenhang mit KI anzugehen, wie Cybersicherheit, Desinformation im Bereich Nuklearwaffen und Sprachlernplattformen wie Duolingo.

Nutzen Sie Anreizstrukturen und dezentralisieren Sie Macht.

Im Kern von Chowdhurys Ansatz liegt eine einfache, aber kraftvolle Maxime: zuhören, kommunizieren, zusammenarbeiten. Allerdings erkennt sie an, dass selbst wenn Branchenführer ihr Engagement zur Verhinderung von KI-Schäden zum Ausdruck bringen, es oft eine Diskrepanz zwischen Worten und Taten geben kann. Sie beobachtet, dass einige Entitäten in Zeiten erhöhter Aufsicht Regulierung fordern, während sie gleichzeitig Lobbying-Strategien einsetzen, um die Verabschiedung von Regulierungsgesetzen zu behindern.

Chowdhurys Ansatz zur KI-Ethik und Governance basiert auf dem Verständnis, dass Menschen, im Gegensatz zu Maschinen, unterschiedliche Motivationen und Prioritäten haben. Bedeutende Veränderungen zu bewirken, erfordert das Nutzen von Anreizstrukturen und die Dezentralisierung von Macht. Sie hinterfragt die Vorstellung einer einzelnen Heldenerzählung und betont die Bedeutung von Zusammenarbeit und kollektiver Entscheidungsfindung bei der Gestaltung der Zukunft der KI.