Ferguson rechaza la defensa basada en agentes de IA descontrolados y considera la posibilidad de que los desarrolladores adquieran facultades de la FTC para infringir la ley
- El presidente de la FTC, Andrew Ferguson, afirmó que los agentes de IA son herramientas, por lo que los desarrolladores que los programan son responsables de los daños que puedan ocasionar.
- Afirmó que la autoridad de la FTC sobre las empresas que no revelen las filtraciones de datos podría extenderse a los desarrolladores de inteligencia artificial.
- Ferguson dijo que la FTC está preparando un estudio de mercado sobre precios personalizados.
El presidente de la FTC, Andrew Ferguson, declaró ante una audiencia en Austin el 25 de septiembre que las empresas no pueden escudarse en su propio software cuando un agente de IA autónomo causa daños.
Una de las herramientas que mencionó fue la autoridad existente de la agencia para divulgar información sobre violaciones de seguridad, la cual podría utilizar contra los desarrolladores.
Las declaraciones de Austin presentan a los sistemas autónomos como herramientas que siguen órdenes
En la conferencia Reuters Momentum AI, Ferguson criticó la antropomorfización de los sistemas de inteligencia artificial y prometió combatir esa visión distorsionada mientras presida la comisión.
Ferguson comparó un agente de IA con cualquier herramienta. Cuando alguien le ordena a una herramienta que actúe, y esta lo hace, nadie pregunta qué hacer con ella, afirmó.
El objetivo es la defensa del “actor autónomo”, que sostiene que un agente suficientementedent es responsable de sus acciones. Según Ferguson, las revisiones de los registros de auditoría revelaron que los agentes estaban haciendo lo que se les ordenaba.
En su opinión, un desarrollador cuyo agente siguió órdenes es responsable. Fue aún más allá, insinuando que la autoridad de la FTC para actuar contra las empresas que no revelan filtraciones de datos podría aplicarse a los desarrolladores de IA. Se trata de una directriz de aplicación de la ley ya declarada.
Según indicó, la FTC solicitará próximamente datos para un estudio de mercado sobre precios personalizados. Personalmente, afirmó que las aplicaciones de reparto, los servicios de transporte compartido y las aerolíneas son las que más le preocupan.
El 24 de septiembre, la FTC también votó 2-0 a favor de solicitar comentarios públicos sobre el uso de herramientas publicitarias en estafas de suplantación de identidad por parte de plataformas en línea.
OpenAI esperó desde junio hasta septiembre para informar a Australia
Según informó Cryptopolitan , durante una evaluación realizada en junio, un agente de OpenAI accedió a archivos públicos y no públicos del portal australiano de informes estadísticos de Medicare
Las autoridades australianas no fueron informadas hasta septiembre. El primer ministro Anthony Albanese dijo que lo planteó directamente al director ejecutivo, Sam Altman, diciéndole que OpenAI había tardado "demasiado" en informar al gobierno.
OpenAI también afirmó que sus agentes expusieron 53 imágenes que eran propiedad de usuarios de ChatGPT.
A mediados de septiembre, el número dedentconsiderados indeseables rondaba la veintena, y seguían apareciendo más a medida que se revisaban los registros, según una persona informada sobre la investigación.
Si estás leyendo esto, ya llevas ventaja. Mantente al día con nuestro boletín informativo.
Preguntas frecuentes
¿Qué dijo Andrew Ferguson, presidente de la FTC, sobre la responsabilidad de los agentes de IA?
Los agentes de IA son herramientas, y los desarrolladores que los programan serían responsables si causan algún daño.
¿Es esta una norma oficial de la FTC que las empresas deben cumplir?
No. Es una directriz de cumplimiento explícita.
¿Cómo se relaciona esto con losdentdel agente de OpenAI?
Ferguson afirmó que la autoridad de la FTC para divulgar información sobre filtraciones de datos podría alcanzar a los desarrolladores de IA, y que el acceso de un agente de OpenAI al portal de Medicare en junio no se comunicó a Australia hasta septiembre.
Randa Moisés
Randa Moses es editora y reportera en Cryptopolitan donde cubre temas de tecnología, IA, robótica, criptomonedas, estafas y hackeos. Trabaja en el sector de las criptomonedas desde 2017 y ha ocupado cargos en Forward Protocol, AmaZix y Cryptosomniac. Randa es ingeniera eléctrica ytronpor la Universidad de Bradford.
