Googles Hassabis: Jüngste KI-Hacking-Vorfälle sind Frühwarnzeichen
- Demis Hassabis, Co-Gründer und Vorsitzender von Google DeepMind, erklärte auf dem International AI Summit in Dublin, dass die jüngsten Hacking-Vorfälle durch autonome KI-Agenten frühe Warnsignale für größere zukünftige Bedrohungen seien.
- Er möchte, dass Unternehmen und Regierungen Agenten in sicheren Sandboxes testen und die Abwehrmaßnahmen jetzt stärken, bevor die Technologie weit genug entwickelt ist, um ernsthaften Schaden anzurichten.
- Seine Kommentare, die von Microsofts Brad Smith unterstützt wurden, erhöhen den Druck auf klarere Regeln für die KI-Sicherheit.
Der Google-DeepMind-Vorsitzende Demis Hassabis hat auf einem KI-Gipfel in Dublin eine Warnung ausgesprochen: Kürzlich aufgetretene Hacks mit autonomen KI-Agenten könnten frühe Anzeichen für größere Sicherheitsbedrohungen sein. Er forderte Unternehmen und Regierungen auf, ihre Abwehrmaßnahmen zu stärken, bevor die KI-Technologie weiter fortschreitet.
DeepMind-Mitbegründer und Chief Scientist von Alphabet, Hassabis, wogte bei der Internationalen KI-Gipfelkonferenz zwischen Optimismus hinsichtlich des wissenschaftlichen Potenzials der KI und Warnungen vor ihren Sicherheitsrisiken ab.
He cited hacks by autonomous AI agents that caused no serious damage but exposed underlying security risks, stressing that these issues should not be ignored, as the systems were “not healthy yet.”
Hassabis erklärte, dass die Technologie noch nicht stark genug sei, um durch diese Vorfälle erheblichen Schaden anzurichten.
Chairman von DeepMind will Verteidiger zuerst ausrüsten
Hassabis betonte, dass Sicherheitsteams einen Vorteil benötigen, bevor KI-Tools der Öffentlichkeit zugänglich werden. „Ich denke, eines der wichtigsten Dinge, die wir tun müssen, ist, die Verteidiger asymmetrisch zu stärken und ihnen zu vertrauen“, sagte er. Er fügte hinzu, dass dieselben Systeme dabei helfen sollten, Software-Schwachstellen vor der Veröffentlichung zu finden und zu schließen.
Hassabis forderte Unternehmen und Regierungen auf, sichere Sandboxes zu schaffen und autonome Agenten vor der Veröffentlichung gründlich zu testen. Er schlug zudem vor, Experten aus den Bereichen Nukleartechnologie und Biologie heranzuziehen – Felder mit Erfahrung im Umgang mit gefährlichen Systemen –, um Wege zur Eindämmung von KI-Risiken zu entwickeln.
Der Co-Gründer von DeepMind warnte zudem vor einer Fehlausrichtung, dem Risiko, dass KI-Agenten von den Zielen ihrer Betreiber abweichen. „Das erhöht die Risiken im Zusammenhang mit dem, was diese Systeme tun könnten, wie wir kürzlich gesehen haben“, sagte er auf dem Gipfeltreffen.
Hassabis schlug ein internationales Gremium für Normung vor, das Schutzmaßnahmen für fortschrittliche KI etabliert, und betonte dabei, dass jeder Rahmen der Technologie Schritt halten muss, ohne die Forschung zu ersticken. Zudem schlug er ein Zertifizierungsverfahren vor, das auf potenziellen Risiken basiert und sich weiterentwickelt, sobald neue Fähigkeiten und Schwachstellen auftreten.
Microsofts Präsident Brad Smith bezeichnete 2026 als ein „ernüchterndes Jahr“ für die KI-Sicherheit und forderte globale Regulierungsbehörden auf, über die Entwicklung der KI auf dem Laufenden zu bleiben. Er fügte hinzu, dass kein Unternehmen oder keine Technologie über dem Gesetz stehen sollte, wie bereits von Cryptopolitan berichtet.
Die Optimismus eines Nobelpreisträgers
Hassabis erhielt 2024 den Nobelpreis für Chemie gemeinsam mit John Jumper für die Entwicklung eines KI-Modells, das die Strukturen von nahezu allen 200 Millionen bekannten Proteine vorhersagt. Die Technologie hilft Forschern bereits dabei, Antibiotikaresistenzen zu untersuchen und enzymatische Abbauprozesse für Kunststoffe zu designen, so die Königlich Schwedische Akademie der Wissenschaften.
Seine Erfolgsbilanz bei der Nutzung von KI untermauerte seine Aussagen in Dublin, wo Hassabis KI als Dual-Use-Technologie beschrieb, die Krankheiten behandeln und zahlreiche Aufgaben bewältigen kann, aber auch von böswilligen Akteuren missbraucht werden kann.
Er argumentierte, dass Sicherheitsmaßnahmen die langfristigen Vorteile der KI schützen sollten, anstatt sie vollständig zu behindern.
Lesen Sie nicht nur Krypto-Nachrichten. Verstehen Sie sie. Abonnieren Sie unseren Newsletter. Es ist kostenlos.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com übernimmt keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor der Entscheidung für eine Anlage unabhängige Recherchen durchzuführen und/oder sich mit einem qualifizierten Fachmann beraten zu lassen.
Opeyemi Olanrewaju
Opeyemi spezialisiert sich auf die Erstellung und Verfeinerung hochwertiger Inhalte mit Fokus auf Kryptowährungen, globale Finanzmärkte und die Wirtschaft. Er absolvierte sein Studium an der University of Ibadan mit einem MBBS-Abschluss. Er war Chefredakteur der redaktionellen Publikation seines Colleges und zuvor bei CFA tätig. Seit über sechs Jahren sorgt er als News Editor bei Cryptopolitan für die Einzigartigkeit der Inhalte.
