Top-KI-Modelle fehlen an Transparenz, neuer Index zeigt
Top-KI-Modelle fehlen an Transparenz, neuer Index zeigt
- Ein neuer Index zeigt, dass die meisten KI-Modelle mangelnde Transparenz aufweisen.
- Transparenz ist für Aufsichtsbehörden entscheidend, um KI wirksam zum Schutz der Verbraucher zu regulieren.
- Das Fehlen von Transparenz könnte es zudem erschweren, Verzerrungen, Datenschutzprobleme und andere Risiken, die von KI-Modellen ausgehen, aufzudecken.
Forscher des Stanford Center for Research on Foundation Models (CRFM) haben kürzlich festgestellt, dass die größten KI-Grundlagenmodelle an Transparenz mangeln, was angesichts der Tatsache, wie mächtig und schnell sich die Technologie weltweit ausbreitet, besorgniserregend sein könnte.
Top-KI-Modelle mangeln an Transparenz
Um die Transparenz der Top-10-Grundlagenmodelle zu bewerten, arbeiteten die Forscher mit anderen Experten am MIT und an der Princeton University zusammen, um den „Foundation Model Transparency Index“ zu entwickeln. Der Index bewertet 100 verschiedene Aspekte der Transparenz basierend darauf, wie ein Unternehmen ein Grundlagenmodell erstellt, wie es funktioniert und wie es nachgelagert genutzt wird.
Der Index platzierte Metas Llama 2 mit 54 %, gefolgt von BigScience’ BLOOMZ (53 %) und OpenAI GPT-4 (48 %). Googles PaLM 2 hatte eine Transparenzbewertung von 40 %, wobei das am wenigsten transparente Modell Amazons Titan Text mit 12 % abschloss.
„Dies ist eine ziemlich klare indication dafür, wie sich diese Unternehmen im Vergleich zu ihren Wettbewerbern verhalten, und wir hoffen, dass sie dazu motiviert werden, ihre Transparenz zu verbessern“, sagte Rishi Bommasani, Social Lead bei CRFM.
Warum ist das wichtig?
Transparenz in KI-Modellen ist unerlässlich, um bestimmte Bedrohungen für den Verbraucherschutz zu verhindern und auch sicherzustellen, dass diese Tools sicher zu verwenden sind.
Der Mangel an Transparenz würde es Unternehmen erschweren zu wissen, ob sie sicher Anwendungen mit kommerziellen Grundlagenmodellen entwickeln können, oder es Wissenschaftlern erschweren, sich für die Forschung auf die Modelle zu verlassen.
Auf regulatorischer Ebene ist dies eine große Priorität. Transparenz ist wichtig, um Voreingenommenheit, Datenschutzverletzungen usw. aufzudecken, und um politischen Entscheidungsträgern weltweit effektiv dabei zu helfen, Regeln zur Regulierung von KI-Modellen zu formulieren.
„Wenn Sie keine Transparenz haben, können Regulierungsbehörden nicht einmal die richtigen Fragen stellen, geschweige denn in diesen Bereichen Maßnahmen ergreifen“, sagte Bommasani.
Einige Länder, darunter Australien, haben bereits begonnen, Maßnahmen zur Gewährleistung der Transparenz und Integrität von KI-Modellen durchzusetzen. Im September berichtete Cryptopolitan, dass die australische Regierung den Bürgern das Recht eingeräumt hat, aussagekräftige Informationen darüber anzufordern, wie automatisierte Entscheidungen getroffen werden.
Die Regierung verlangt, dass KI-Unternehmen diese Informationen auf klare und verständliche Weise bereitstellen, um sicherzustellen, dass Bürger verstehen können, wie KI ihr Leben beeinflusst.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Ibiam Wayas
Ibiam Wayas berichtet seit 2019 über Krypto-Nachrichten. Er studierte Informatik an der National Open University of Nigeria. Seine Arbeiten erschienen in verschiedenen Krypto-Nachrichtenplattformen, darunter Coinfomania, Crypto News Australia und AltcoinBuzz. Aufgrund seines Hintergrunds in der Informatik konzentriert er sich nun auf Nachrichten zu Kryptowährungen, Robotik und Langlebigkeit.
