Ladent de Signal, Meredith Whittaker, advirtió al público sobre los riesgos asociados con la inteligencia artificial (IA) agentica. En su intervención en la conferencia SXSW en Austin, Texas, mencionó que el uso de IA agentica podría suponer un riesgo para la privacidad de sus usuarios.
Según la declaración , mencionó la necesidad de formas de comunicación seguras, señalando que usar agentes de IA es como "meter el cerebro en un frasco". Añadió que la nueva tendencia en la que los usuarios permiten que la IA realice tareas en su nombre podría generar problemas de privacidad y seguridad.
El uso de agentes de IA se ha generalizado en la industria de las criptomonedas, y los usuarios del sector de las finanzas descentralizadas (DeFi) utilizan estas máquinas para realizar tareas como ejecutar operaciones, adaptar e incluso optimizar estrategias con poca o ninguna intervención del usuario. Estos agentes de IA también se integran en las plataformas para facilitar, agilizar y optimizar las operaciones. Sin embargo, algunos bots se descargan antes de que los usuarios puedan interactuar con un agente de IA.
El presidente de Signaldent sobre los agentes de IA
Según ladentde Signal, diversas plataformas están empezando a comercializar agentes de IA como un servicio de valor añadido para mejorar la vida de los usuarios. En su discurso, Whittaker mencionó que, además de su uso en el sector de las criptomonedas, estos agentes gestionan diversas tareas en línea para los usuarios. Por ejemplo, pueden comprar entradas para eventos, programar eventos en el calendario y enviar mensajes a amigos.
“Entonces podemos simplemente poner nuestro cerebro en un frasco porque la cosa está haciendo eso y no tenemos que tocarlo, ¿verdad?”, preguntó eldent de Signal.
Tras formular la pregunta, inició una larga discusión sobre los permisos que los usuarios deben otorgar a los agentes de IA para que puedan realizar todas estas tareas y optimizar su vida. Whittaker añadió que esto incluirá el acceso a nuestro navegador web, calendario, aplicaciones de mensajería y, en ocasiones, a nuestra tarjeta de crédito, ya que esta tiene que pagar las entradas a los eventos que nos reserva.
“Tendría que ser posible ejecutar ese [proceso] en todo nuestro sistema con algo parecido a un permiso root, accediendo a cada una de esas bases de datos, probablemente de forma clara, porque no hay un modelo para hacerlo de forma cifrada”, añadió Whittaker.
La declaración de Whittaker pide cautela en la industria de la IA
En su declaración, Whittaker mencionó que los agentes de IA no funcionan lo suficiente por sí solos, ya que deben estar impulsados por modelos de IA. También analizó la relación entre el proceso y la seguridad, señalando que la información se envía a un servidor para su procesamiento antes de ser devuelta.
“Por lo tanto, existe un problema profundo con la seguridad y la privacidad que ronda este revuelo en torno a los agentes y que, en última instancia, amenaza con romper la barrera hematoencefálica entre la capa de aplicación y la capa del sistema operativo al unir todos estos servicios separados [y] enturbiar sus datos”, agregó Whittaker.
También señaló que si Signal decide integrar agentes de IA en su aplicación, se socavará la privacidad de los mensajes de sus usuarios. Añadió que el agente necesita acceder a la aplicación para enviar mensajes de texto a otras personas y extraer información para resumir el texto.
Sus comentarios surgieron después de participar en un panel que debatió cómo la industria de la IA se basa en un modelo de vigilancia debido a la forma en que recopilan datos masivos. Whittaker también añadió que, en su opinión, cuanto mayor sea la cantidad de datos recopilados, más consecuencias podría tener, en su opinión, no ser beneficiosa.
Con la IA agente, ladent de Signal mencionó que “socavaremos aún más la privacidad y la seguridad debido a un “robot genio mágico que se encargará de las exigencias de la vida”, concluyó.
