Zwei US-Senatoren, Richard Blumenthal und Josh Hawley, haben Bedenken hinsichtlich des Meta-Chefs Mark Zuckerberg und des „durchgesickerten“ künstlichen Intelligenzmodells namens LLaMA des Technologieriesen geäußert. Die Senatoren argumentieren, dass LLaMA potenzielle Gefahren birgt und für kriminelle Aktivitäten ausgenutzt werden könnte.
In einem Brief vom 6. Juni kritisierten die Senatoren Zuckerbergs Entscheidung, LLaMA als Open-Source-Lösung anzubieten, und behaupteten, dass Metas Veröffentlichung des KI-Modells unzureichende Sicherheitsvorkehrungen getroffen habe. Sie erkannten zwar die Vorteile von Open-Source-Software an, machten jedoch geltend, dass bei der Veröffentlichung von LLaMA durch Meta die möglichen Konsequenzen nicht gründlich berücksichtigt worden seien, was ihrer Meinung nach ein schlechter Dienst für die Öffentlichkeit sei.
Ursprünglich gab es für LLaMA eine begrenzte Online-Veröffentlichung für Forscher. Später wurde es jedoch vollständig von einem Benutzer der Image-Board-Site 4chan Ende Februar durchgesickert. Die Senatoren äußerten ihre Besorgnis darüber, dass die vollständige Version auf BitTorrent ohne jegliche Überwachung oder Kontrolle für jedermann auf der ganzen Welt verfügbar wurde. Blumenthal und Hawley behaupteten, dass LLaMA leicht von Spammern, Cyberkriminellen und Personen übernommen werden könnte, die an betrügerischen Aktivitäten oder der Verbreitung anstößiger Inhalte beteiligt sind.
Bedenken der US-Senatoren
Um ihre Bedenken , verglichen die Senatoren LLaMA mit zwei Closed-Source-Modellen: ChatGPT-4 von OpenAI und Bard von Google. Sie stellten fest, dass ChatGPT-4, wenn es gebeten wurde, eine Notiz zu erstellen, in der es vorgab, der Sohn einer anderen Person zu sein und um Geld zu bitten, die Anfrage aufgrund ethischer Richtlinien ablehnte, LLaMA jedoch den angeforderten Brief sowie Antworten vorlegte, in denen es um Selbstverletzung, Kriminalität usw. ging Antisemitismus. Diese Unterscheidung gab Anlass zu Bedenken hinsichtlich des Potenzials von LLaMA, missbräuchliches Material zu generieren.
Während ChatGPT so programmiert ist, dass es bestimmte Anfragen ablehnt, haben Benutzer Möglichkeiten gefunden, das Modell zu „jailbreaken“ und es Antworten generieren zu lassen, die es normalerweise ablehnen würde. Die Senatoren befragten Zuckerberg unter anderem dazu, ob vor der Veröffentlichung von LLaMA Risikobewertungen durchgeführt wurden, welche Maßnahmen Meta seit dem Leak ergriffen hat, um Schäden zu verhindern oder zu mindern, und wie Meta Benutzerdaten für die KI-Forschung nutzt.
Es ist erwähnenswert, dass OpenAI Berichten zufolge unter dem Druck der Fortschritte anderer Open-Source-Modelle an einem eigenen Open-Source-KI-Modell arbeitet. Ein durchgesickertes Dokument, das von einem leitenden Softwareentwickler bei Google verfasst wurde, beleuchtete die Fortschritte dieser Open-Source-Modelle.
Das Open-Sourcing des Codes für ein KI-Modell ermöglicht die Anpassung an bestimmte Zwecke und erleichtert Beiträge anderer Entwickler. Die von den Senatoren Blumenthal und Hawley geäußerten Bedenken unterstreichen jedoch die Notwendigkeit verantwortungsvoller und durchdachter Ansätze bei der Veröffentlichung und Überwachung von KI-Modellen, um potenziellem Missbrauch und Schaden vorzubeugen.
