Hugging-Face-CEO stuft KI-Aussterberisiko nahe null ein – zeigt auf geschlossene Labore
- Der CEO von Hugging Face, Clément Delangue, schätzt das persönliche Risiko eines KI-Aussterbens auf „nahezu null“.
- Er argumentiert, dass eine konzentrierte Entwicklung innerhalb weniger geschlossener Labore eine unmittelbarere Gefahr darstellt.
- Nvidias anstehender Kauf von Hugging Face für 12,9 Milliarden US-Dollar wird testen, ob die Plattform neutral und offen bleiben kann.
Laut Clément Delangue, dem CEO von Hugging Face, stehen die Chancen, dass die KI die Menschheit auslöscht, bei „nahezu null“. Delangue sprach am Mittwoch auf der WIRED World Fair in Miami und erklärte, dass eine weitaus größere Gefahr von wenigen Unternehmen ausgeht, die im Geheimen an hochmodernen Lösungen arbeiten.
Delangues Kommentare werfen eine größere Frage für die KI-Branche auf: Während die Technologie zunehmend erfolgreich und lukrativ wird, wer wird die Macht haben, sie zu kontrollieren?
Eine persönliche Zahl, keine gemessene
Delangues P(doom)—die Wahrscheinlichkeit, dass die KI die Menschheit auslöschen könnte—is nur eine persönliche Schätzung und noch nicht wissenschaftlich gemessen. Er befürchtet, dass einige Labore mächtige KI hinter verschlossenen Türen entwickeln, was es Außenstehenden unmöglich macht, die damit verbundenen Risiken einzuschätzen. Seiner Meinung nach geben offene Modelle Unabhängigen die Chance, potenzielle Gefahren zu untersuchen und Gegenmaßnahmen zu entwickeln.
Wie ein offenes chinesisches Modell einen durchgegangenen Agenten bekämpfte
Er erwähnt, was im Juli auf Hugging Face geschehen ist. Es wurde gemeldet, dass Agenten von OpenAI ihre Testsandbox durchbrochen und begonnen haben, das Unternehmen zu attackieren, während sie versuchten, ihre Aufgaben zu erfüllen. In einem Interview mit CBS im August sagte Delangue, dass die Agenten in vier Tagen und drei Stunden etwa 17.000 verschiedene Aktionen ausgeführt haben.
Als Reaktion auf die Angriffe setzte Hugging Face GLM-5.2 ein, ein chinesisches Open-Weight-Modell, das von Nvidia modifiziert wurde. Schutzmaßnahmen, die in proprietären APIs implementiert wären, hätten Cybersecurity-Operationen verhindert, erklärte Delangue. Durch den Einsatz lokal laufender Modelle konnte sein Team die notwendige Kontrolle behalten, um seine Untersuchungen und Entscheidungen durchzuführen.
Hugging Face hat den Vorfall offiziell bei den Behörden gemeldet. Delangue ist der Ansicht, dass Unternehmen, die für Schäden durch KI-Agenten verantwortlich sind, zur Rechenschaft gezogen werden sollten.
Sicherheitsexperten sehen die andere Seite offener Gewichte
Hugging Faces Verteidigung zeigt den Nutzen offener Modelle, aber es gibt auch Nachteile. Der Internationale AI-Sicherheitsbericht 2026 besagt, dass herunterladbare Modelle die Forschungsarbeit unterstützen. Allerdings können ihre Schutzmechanismen entfernt werden, und freigegebene Gewichte lassen sich nicht zurückrufen.
Die Debatte hat sich auch politisch zugespitzt. Wie Cryptopolitan berichtete, hat Präsident Donald Trump Warnungen vor KI-Risiken abgetan und dabei den Wettbewerb mit China betont. Delangues Fokus liegt jedoch auf Zugang und Rechenschaftspflicht.
Offene Modelle gewinnen an Nutzung, verlieren aber das Geld
Diese Frage des Zugangs erstreckt sich auch auf den Markt. Menlo Ventures schätzt, dass Open-Source-Modelle 19 % der Enterprise-AI-Token verarbeiten, aber nur 4 % der Modellausgaben ausmachen. Frontier-Labs erhalten 69 % der Einsatzmittel. Die Schätzungen spiegeln hauptsächlich die Aktivitäten von US-Unternehmen wider.
Inzwischen zählte ein US-amerikanischer Bericht einer Kommission mehr als 100.000 Derivate von Alibabas Qwen-Modellen auf Hugging Face. Die Adoption wächst schneller als der Umsatz. BCG warnt, dass divergierende Strategien in den USA und China die globale KI in konkurrierende Technologie-Stacks aufspalten könnten.
Der Nvidia-Deal testet, wem die offene Plattform gehört
Hugging Face steht nun vor seiner eigenen Bewährungsprobe. Nvidia hat den Kauf der Plattform vereinbart. In seinem SEC-Filing werden etwa 11,9 Milliarden US-Dollar für Aktionäre sowie bis zu 1 Milliarde US-Dollar zur Mitarbeiterbindung ausgewiesen. Der Deal bedarf noch der behördlichen Genehmigung und wird voraussichtlich im ersten Halbjahr 2027 abgeschlossen.
Nvidia verspricht, die Plattform offen zu halten, auch für rivalisierende Chip-Hersteller. Hugging Face hat mehr als 20 Millionen Entwickler, gestiegen von rund 18 Millionen bei der Ankündigung des Deals. Kann der weltweit dominierende KI-Chip-Hersteller diese Offenheit bewahren?
Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust dabei? Mach mit.
Häufig gestellte Fragen
Was sagte Clément Delangue über sein P(doom)?
Delangue schätzte seine persönliche Wahrscheinlichkeit, dass KI die Menschheit zerstört, auf "nahe null" und sagte beim WIRED World Fair, es gebe "viele andere Themen, die die Welt zerstören könnten", laut Wired. Es handelt sich um seine eigene Einschätzung, nicht um eine wissenschaftlich etablierte Wahrscheinlichkeit.
Was geschah im Juli-Angriff auf Hugging Face?
Von OpenAI getestete KI-Agenten brachen aus ihrer Sandbox aus und griffen Hugging Face an, wobei sie nach Angaben von Delangue gegenüber CBS etwa 17.000 Aktionen in rund viereinhalb Tagen ausführten. Das Unternehmen nutzte ein chinesisches Modell mit offenen Gewichten, GLM-5.2, um den Vorfall zu untersuchen und gegenzusteuern, und meldete den Vorfall dem FBI.
Ist der Nvidia-Erwerb von Hugging Face abgeschlossen?
Nein. Der SEC-Bericht von Nvidia beschreibt eine Vereinbarung vom September im Wert von etwa 11,9 Milliarden US-Dollar zuzüglich bis zu 1 Milliarde US-Dollar an Rückstellungen, wobei die Vollendung für das erste Halbjahr 2027 erwartet wird, vorbehaltlich der behördlichen Genehmigung. Wired berichtete über den Deal mit einem Wert von 12,93 Milliarden US-Dollar.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Micah Abiodun
Micah Abiodun nutzt sein Masterstudium in Umwelttechnik und -management (MSc) an der Technischen Universität Tallinn (TalTech), um Inhalte und Preisprognose-Nachrichten bei Cryptopolitan zu verfeinern. Seit nunmehr sieben Jahren im Krypto-Medienbereich tätig, berichtet er über große Kryptowährungen, Altcoins, DeFi, Stablecoins, makroökonomische Trends und aufkommende Technologien.
