Signal-Präsidentin warnt vor den Risiken agenticer KI

Die Präsidentin von Signal, Meredith Whittaker, hat die Öffentlichkeit vor den Risiken im Zusammenhang mit agenticer künstlicher Intelligenz (KI) gewarnt. Auf der SXSW-Konferenz in Austin, Texas, erwähnte sie, dass die Nutzung agenticer KI mit einem Datenschutzrisiko für die Nutzer verbunden sein könnte.

Laut der Aussage von Whittaker erwähnte sie die Notwendigkeit sicherer Kommunikationsformen und wies darauf hin, dass die Verwendung von KI-Agenten gleichbedeutend mit „das Gehirn in ein Glas zu stellen“ sei. Sie fügte hinzu, dass der neue Trend, bei dem Nutzer KI Aufgaben im Namen ausführen lassen, Probleme sowohl mit der Privatsphäre als auch mit der Sicherheit bedeuten könnte.

Der Einsatz von KI-Agenten hat in der Krypto-Branche um sich gegriffen, wobei Nutzer im Bereich der dezentralen Finanzen (DeFi) diese Maschinen nutzen, um Aufgaben wie die Ausführung von Trades, Anpassungen und sogar die Optimierung von Strategien mit wenig oder keiner Eingabe der Nutzer auszuführen. Diese KI-Agenten sind auch in Plattformen integriert, um Nutzern das Handeln einfacher, intelligenter und schneller zu ermöglichen. Allerdings werden einige Bots heruntergeladen, bevor Nutzer mit einem KI-Agenten interagieren können.

Signal-Präsidentin mahnt zur Vorsicht im Umgang mit KI-Agenten

Laut der Präsidentin von Signal beginnen verschiedene Plattformen, KI-Agenten als wertsteigernde Dienstleistung zu vermarkten, um das Leben der Nutzer zu erleichtern. In ihrer Rede erwähnte Whittaker, dass diese Agenten außerhalb des Krypto-Sektors verschiedene Online-Aufgaben für Nutzer übernehmen. Zum Beispiel können KI-Agenten Tickets für Veranstaltungen kaufen, Termine im Kalender planen und Freunden Nachrichten senden.

„Also können wir einfach unser Gehirn in ein Glas stellen, weil das Ding das tut und wir es nicht anfassen müssen, oder?“, fragte die Präsidentin von Signal.

Nachdem sie die Frage gestellt hatte, ging sie in eine ausführliche Diskussion über die Berechtigungen, die Nutzer KI-Agenten erteilen müssen, bevor diese alle diese Aufgaben ausführen können, um das Leben der Nutzer effizienter zu gestalten. Whittaker fügte hinzu, dass dies den Zugriff auf unseren Webbrowser, Kalender, Messaging-Apps und manchmal auch auf unsere Kreditkarte beinhalten würde, da sie für die Tickets bezahlen muss, die sie für uns reserviert.

„Es müsste in der Lage sein, diesen [Prozess] über unser gesamtes System zu steuern, mit etwas, das wie Root-Berechtigungen aussieht, und auf jede einzelne dieser Datenbanken zugreifen – wahrscheinlich im Klartext, da es kein Modell gibt, das dies verschlüsselt tut“, fügte Whittaker hinzu.

Whittakers Aussage fordert Vorsicht in der KI-Branche

In ihrer Aussage erwähnte Whittaker, dass KI-Agenten nicht ausreichend autonom funktionieren, da sie von KI-Modellen angetrieben werden müssen. Sie diskutierte auch die Beziehung zwischen Prozess und Sicherheit und wies darauf hin, dass Informationen an einen Server gesendet werden, um verarbeitet zu werden, bevor sie zurückgesendet werden.

„Es gibt also ein tiefgreifendes Problem mit Sicherheit und Privatsphäre, das diese Hype um Agenten heimsucht, und das besteht letztlich darin, die Blut-Hirn-Schranke zwischen der Anwendungsschicht und der Betriebssystem-Schicht zu durchbrechen, indem all diese separaten Dienste zusammengeführt und ihre Daten verwässert werden“, fügte Whittaker hinzu.

Sie wies auch darauf hin, dass Signal die Privatsphäre der Nachrichten seiner Nutzer untergraben würde, wenn es sich entscheidet, KI-Agenten in seine App zu integrieren. Sie fügte hinzu, dass der Agent Zugriff auf die App erhalten muss, um anderen Personen zu texten und auch Informationen herauszuziehen, um den Text zusammenzufassen.

Ihre Kommentare kamen, nachdem sie in einer Panel-Diskussion darüber gesprochen hatte, wie die KI-Branche aufgrund der Art und Weise, wie sie Massendaten sammelt, auf einem Überwachungsmodus basiert. Whittaker fügte auch hinzu, dass sie der Ansicht ist, dass die gesammelten Daten potenzielle Konsequenzen haben, die sie für nicht gut hielt.

Mit agenticer KI erwähnte die Präsidentin von Signal: „Wir werden die Privatsphäre und Sicherheit weiter untergraben aufgrund eines ‚magischen Genie-Bots‘, der sich um die Erfordernisse des Lebens kümmern wird“, schloss sie.