US-Senatoren kritisieren Metas „ungebremste“ KI-Veröffentlichung

Zwei US-Senatoren, Richard Blumenthal und Josh Hawley, haben Bedenken bezüglich Meta-Chef Mark Zuckerberg und des „geleakten“ künstlichen Intelligenz-Modells LLaMA des Tech-Giganten geäußert. Die Senatoren argumentieren, dass LLaMA potenzielle Gefahren birgt und für kriminelle Aktivitäten ausgenutzt werden könnte.

In einem Brief vom 6. Juni kritisierten die Senatoren Zuckersbers Entscheidung, LLaMA als Open Source zu veröffentlichen, und behaupteten, dass es bei der Veröffentlichung des KI-Modells durch Meta unzureichende Schutzmaßnahmen gab. Während sie die Vorteile von Open-Source-Software anerkannten, vertraten sie die Auffassung, dass Metas Veröffentlichung von LLaMA die möglichen Konsequenzen nicht sorgfältig genug berücksichtigt habe, was sie als einen Dienst an der Öffentlichkeit werteten.

Ursprünglich wurde LLaMA nur in begrenztem Umfang an Forscher veröffentlicht. Im späten Februar wurde es jedoch von einem Nutzer der Imageboard-Website 4chan vollständig geleakt. Die Senatoren äußerten Alarm darüber, dass das vollständige Modell ohne jegliche Überwachung oder Aufsicht über BitTorrent für jeden weltweit zugänglich wurde. Blumenthal und Hawley betonten, dass LLaMA leicht von Spam-Versendern, Cyberkriminellen und Personen, die an betrügerischen Aktivitäten oder der Verbreitung anstößiger Inhalte beteiligt sind, übernommen werden könnte.

Bedenken der US-Senatoren

Um ihre Bedenken zu unterstreichen, stellten die Senatoren LLaMA zwei Closed-Source-Modellen gegenüber: OpenAIs ChatGPT-4 und Googles Bard. Sie stellten fest, dass ChatGPT-4, wenn man es aufforderte, eine Notiz zu generieren, die so tue, als wäre sie von jemandes Sohn, der um Geld bittet, die Anfrage aufgrund ethischer Richtlinien ablehnen würde, LLaMA jedoch den angeforderten Brief sowie Antworten, die Selbstverletzung, Verbrechen und Antisemitismus betreffen, produzieren würde. Dieser Unterschied hat Bedenken hinsichtlich des potenziells von LLaMA, missbräuchliches Material zu generieren, aufgeworfen.

Während ChatGPT so programmiert ist, bestimmte Anfragen abzulehnen, haben Benutzer Wege gefunden, das Modell zu „jailbreaken“ und es dazu zu bringen, Antworten zu generieren, die es normalerweise verweigern würde. Die Senatoren fragten Zuckerberg, ob vor der Veröffentlichung von LLaMA Risikobewertungen durchgeführt wurden, welche Maßnahmen Meta ergriffen wurden, um Schaden seit dem Leak zu verhindern oder zu mildern, und wie Meta Benutzerdaten für KI-Forschung nutzt, unter anderem.

Es ist erwähnenswert, dass OpenAI, unter Druck durch Fortschritte anderer Open-Source-Modelle, Berichten zufolge an seinem eigenen Open-Source-KI-Modell arbeitet. Ein geleaktes Dokument, verfasst von einem leitenden Softwareingenieur bei Google, hob die Fortschritte dieser Open-Source-Modelle hervor.

Das Open-Sourcing des Codes eines KI-Modells ermöglicht die Anpassung an spezifische Zwecke und erleichtert Beiträge anderer Entwickler. Die von den Senatoren Blumenthal und Hawley geäußerten Bedenken unterstreichen jedoch die Notwendigkeit verantwortungsvoller und durchdachter Ansätze bei der Veröffentlichung und Überwachung von KI-Modellen, um potenziellen Missbrauch und Schaden zu verhindern.