Nvidias CEO zieht Kritik von Papst Leo auf sich, während die Bedenken hinsichtlich der KI-Sicherheit um 50 % steigen

Papst Leo XIV. hat US-Präsident Donald Trump und Nvidias CEO Jensen Huang verurteilt, weil sie die durch KI-Technologie verursachte Bedrohung herunterspielen. Der Papst sagte, dass das Ignorieren der durch Technologie verursachten Bedrohungen unsere gemeinsame Zukunft gefährde und die Welt die menschliche Sicherheit ernster nehmen sollte.

Anfang dieses Monats wies Huang die Idee neuer Regeln zur Schutz der Menschen vor potenziellen Risiken durch künstliche Intelligenz zurück, im Gegensatz zu den Ansichten anderer Führungskräfte. Er bemerkte: „Wir brauchen keine neuen Gesetze – wir brauchen keine neuen Vorschriften.” 

Er betonte weiter, dass Entwickler nicht zwischen schnellem Vorankommen und Sicherheit wählen müssten, und bestand darauf, dass rasante technologische Fortschritte und robuste Sicherheit absolut Hand in Hand gehen können.

Kürzlich hat das Unternehmen gerade neue KI-Sicherheitstools, einschließlich seines Überwachungssystems Sentry. Papst Leo sagte Reportern, er habe die sicherheitsbezogene Einführung des Unternehmens gesehen, bezweifelte jedoch, wie sehr Huang wirklich an Sicherheit denkt, angesichts seiner Opposition gegen eine bundesstaatliche Aufsicht. „Er ist derselbe, der jedoch sagt, es sollten keine Grenzen gesetzt und keine staatlichen Regulierungen eingeführt werden

Pope Leo asks leaders to cooperate in addressing AI safety concerns

In den ersten Tagen seines Amtes hatte Papst Leo XIV. KI als massive Bedrohung für die Menschheit eingestuft. Bereits im Mai präsentierte er gemeinsam mit Anthropic-Mitbegründer Christopher Olah eine neue Enzyklika und forderte Tech-Pioniere auf, über den Profit hinaus zu denken. Am Montag sprach der Papst wiederholt seine Haltung zur KI-Sicherheit aus und forderte Technologievorstände sowie politische Führungspersönlichkeiten auf, die Sorgen der Menschheit ernst zu nehmen.

„Wir müssen weiterhin politische Führer, KI-Führer, soziale Organisationen und Verbände einladen, zusammenzukommen und zu betrachten, was bereits geschieht und was in Zukunft passieren könnte. Einfach nur zu sagen: ‚Oh, das wird nicht passieren‘ und die Augen davor zu verschließen, halte ich wahrscheinlich nicht für den verantwortungsvollsten Weg

Mit einer klaren Botschaft an Zweifler unterstrich er die Überzeugung, dass die von der künstlichen Intelligenz ausgehenden Gefahren nicht übertrieben, sondern eine reale und unmittelbare Bedrohung sind – keine „Fake News".

In diesem Sinne zur Behandlung äußerten sich die beiden Führungskräfte, Dario Amodei von Anthropic und Sam Altman von OpenAI, kürzlich auf dem renommierten Forum des UN-Sicherheitsrates alarmiert über die Gefahren unkontrollierter künstlicher Intelligenz und forderten die Zusammenarbeit rivalisierender Staaten zur Schaffung regulatorischer Rahmenbedingungen.

Bereits zuvor hatte Amodei einen Aufsatz verfasst, in dem er zu Vorsicht im Umgang mit künstlicher Intelligenz aufforderte. Er bat Unternehmen, ihr Tempo zu drosseln.

Bei der Vorstellung seines neuesten Open-Source-Sicherheitssystems gab Nvidias Huang zwar zu, dass die enormen gesellschaftlichen Vorteile dieser Technologie davon abhängen, Sicherheitslücken zu beheben. Der Executive äußerte jedoch keine Absicht, die Entwicklung irgendwie zu verlangsamen. 

Er dass einige ihrer Operateure einen in den USA ansässigen Bürger finden, der bereit ist, als Gesicht des potenziellen Kandidaten aufzutreten. Der Operateur installiert dann Malware auf dem Gerät dieser Person, wodurch ihm ein ständiger Zugriff auf eine US-IP-Adresse und den Rest des Internets gewährt wird. In diesem Fall nimmt der Operateur an Vorstellungsgesprächen teil und arbeitet im Erfolgsfall von zu Hause aus., „Das außergewöhnliche Potenzial der KI für die Gesellschaft wird nur dann voll verwirklicht werden können, wenn wir die KI-Sicherheit lösen."

Über 50% der Befragten haben Bedenken hinsichtlich der KI-Sicherheit geäußert

Laut Daten der Stanford University sind insgesamt 52% der Befragten berichtete besorgt über KI-Technologie.

Allerdings steigt auch die globale Optimismus gegenüber künstlicher Intelligenz. Der Anteil der Menschen, die glauben, dass die Vorteile von KI die Nachteile überwiegen, stieg von 55 % im Jahr 2024 auf 59 % im Jahr 2025.

Insbesondere eine beeindruckende Mehrheit von über 80 % der Befragten in Malaysia, Thailand, Indonesien und Singapur ist der Ansicht, dass KI ihr Leben in den nächsten drei bis fünf Jahren tiefgreifend verändern wird. Von diesen vier Ländern verzeichnete Malaysia im Vergleich zu 2024 den deutlichsten Anstieg dieser Einstellung.

Dennoch schwebt die Bedrohung durch Automatisierung schwer über der globalen Arbeitswelt. Laut Ipsos-Daten aus dem Tracking waren im Jahr 2024 und 2025 die meisten Arbeitnehmer nach wie vor zutiefst besorgt, dass künstliche Intelligenz ihre Rollen innerhalb von fünf Jahren grundlegend verändern oder sogar vollständig ersetzen könnte.

Diese wirtschaftliche Angst ist in den Vereinigten Staaten und Kanada am stärksten ausgeprägt: Dort erwarten 67 % bzw. 68 % der Befragten, dass KI Arbeitsplätze vernichten und ganze Branchen destabilisieren wird.

Die Zahlen zeigen die Spannung im Zentrum der KI-Debatte. Während ein wachsender Teil der Öffentlichkeit sinnvolle Vorteile der Technologie erkennt, bleibt die Angst vor ihren Folgen weit verbreitet.

Der Stanford AI Index 2026 zeigte zudem, dass das Vertrauen in die Fähigkeit von Regierungen, KI zu regulieren, zwischen den Ländern erheblich variiert. Dies deutet darauf hin, dass öffentliche Bedenken nicht zwangsläufig mit dem Vertrauen in bestehende Aufsichtsmechanismen einhergehen.

Da sich die KI-Entwicklung beschleunigt, konzentriert sich der Dissens zwischen Technologieführern, politischen Entscheidungsträgern und anderen öffentlichen Persönlichkeiten zunehmend darauf, wie viel Aufsicht notwendig ist und wer dafür verantwortlich sein sollte, dass immer leistungsfähigere Systeme sicher bleiben.