Der Präsident von Signaldent vor den Risiken agentenbasierter KI

Meredith Whittaker,dent von Signal, hat die Öffentlichkeit vor den Risiken agentenbasierter künstlicher Intelligenz (KI) gewarnt. Auf der SXSW-Konferenz in Austin, Texas, wies sie darauf hin, dass der Einsatz agentenbasierter KI ein Datenschutzrisiko für die Nutzer darstellen könne.

Whittaker erklärte ,sie habe die Notwendigkeit sicherer Kommunikationsformen betont und angemerkt, dass der Einsatz von KI-Agenten dem gleichkomme, „sein Gehirn in ein Glas zu stecken“. Sie fügte hinzu, dass der neue Trend, bei dem Nutzer KI Aufgaben in ihrem Namen erledigen lassen, Probleme mit Datenschutz und Sicherheit mit sich bringen könnte.

Der Einsatz von KI-Agenten hat in der Kryptoindustrie stark zugenommen. Nutzer im Bereich der dezentralen Finanzen (DeFi) verwenden diese Systeme, um Aufgaben wie den Handel, die Anpassung und sogar die Optimierung von Strategien weitgehend selbstständig durchzuführen. Diese KI-Agenten sind auch in Plattformen integriert, um Nutzern ein einfacheres, intelligenteres und schnelleres Trading zu ermöglichen. Allerdings müssen manche Bots heruntergeladen werden, bevor Nutzer mit einem KI-Agenten interagieren können.

Der Präsident von Signaldent zur Vorsicht vor KI-Agenten

Laut derdentvon Signal vermarkten verschiedene Plattformen KI-Agenten als Mehrwertdienst, um das Leben der Nutzer zu verbessern. Whittaker erwähnte in ihrer Rede, dass diese Agenten – abgesehen von ihrer Verwendung im Kryptosektor – diverse Online-Aufgaben für Nutzer übernehmen. So können KI-Agenten beispielsweise Tickets für Veranstaltungen kaufen, Termine im Kalender eintragen und Nachrichten an Freunde senden.

„Wir können also unser Gehirn einfach in ein Glas stecken, weil das Ding das von selbst macht und wir es nicht berühren müssen, richtig?“, fragte derdent von Signal.

Nach ihrer Frage entspann sich eine längere Diskussion über die Berechtigungen, die Nutzer KI-Agenten erteilen müssen, bevor diese all diese Aufgaben zur Erleichterung des Nutzerlebens übernehmen können. Whittaker fügte hinzu, dass dies den Zugriff auf Webbrowser, Kalender, Messenger-Apps und manchmal auch auf Kreditkartendaten umfassen werde, da die KI die für uns reservierten Eintrittskarten bezahlen müsse.

„Es müsste in der Lage sein, diesen Prozess über unser gesamtes System hinweg mit etwas zu steuern, das wie eine Root-Berechtigung aussieht und auf jede einzelne dieser Datenbanken zugreift – wahrscheinlich im Klartext, da es kein Modell gibt, um dies verschlüsselt durchzuführen“, fügte Whittaker hinzu.

Whittakers Stellungnahme mahnt zur Vorsicht in der KI-Branche

In ihrer Stellungnahme erwähnte Whittaker, dass die KI-Agenten nicht ausreichend selbstständig funktionieren, da sie auf KI-Modellen basieren müssen. Sie ging auch auf den Zusammenhang zwischen dem Prozess und der Sicherheit ein und merkte an, dass Informationen zur Verarbeitung an einen Server gesendet und anschließend zurückgeschickt werden.

„Es gibt also ein gravierendes Problem mit Sicherheit und Datenschutz, das diesen Hype um Agenten überschattet und letztendlich die Blut-Hirn-Schranke zwischen Anwendungsschicht und Betriebssystemschicht zu durchbrechen droht, indem all diese separaten Dienste miteinander verbunden werden und ihre Daten verfälscht werden“, fügte Whittaker hinzu.

Sie merkte außerdem an, dass die Integration von KI-Agenten in die Signal-App die Privatsphäre der Nutzernachrichten gefährden würde. Sie fügte hinzu, dass der Agent Zugriff auf die App benötige, um anderen Nutzern Nachrichten zu senden und Informationen zu extrahieren, um den Text zusammenzufassen.

Ihre Äußerungen erfolgten im Anschluss an eine Podiumsdiskussion, in der es darum ging, wie die KI-Branche aufgrund ihrer massenhaften Datenerfassung auf einem Überwachungsmodus basiert. Whittaker fügte hinzu, dass sie die potenziellen Folgen der zunehmenden Datensammlung als bedenklich empfinde.

Mit agentenbasierter KI,dent die Präsidentin von Signal, „werden wir die Privatsphäre und Sicherheit weiter untergraben, weil ein „magischer Dschinn-Bot sich um die Nöte des Lebens kümmern wird“, schloss sie.