El presidente de la FTC, que calificó los temores sobre la seguridad de la IA como un "foso", ahora está investigando a OpenAI y Anthropic por cuestiones de seguridad
- La FTC ha abierto una amplia investigación para determinar si los sistemas de inteligencia artificial de OpenAI y Anthropic ponen en peligro a los consumidores.
- La empresa auditora de seguridad METR fue incluida en la lista de objetivos y se prevé que en las próximas semanas se envíen requerimientos, similares a citaciones judiciales, a las tres empresas.
- La investigación contradice la propia afirmación del presidente de la FTC, Andrew Ferguson, de que los temores en materia de seguridad constituyen una "ventaja competitiva" importante, y llega días después de que la Casa Blanca celebrara la autorregulación voluntaria.
Un alto funcionario ha confirmado que la Comisión Federal de Comercio (FTC) ha abierto una investigación para determinar si los sistemas de inteligencia artificial desarrollados por OpenAI y Anthropic representan un peligro para los consumidores estadounidenses.
METR, la organización sin ánimo de lucro de California que audita los modelos de IA de vanguardia para detectar riesgos, también está implicada en la investigación.
Se prevé que las demandas formales de investigación civil lleguen a las tres organizaciones, OpenAI, Anthropic y METR, en las próximas semanas.
¿Por qué la FTC está investigando a OpenAI y a Anthropic?
Un alto funcionario anónimo de la FTC ha revelado que la agencia está utilizando su poder para controlar las prácticas desleales y engañosas investigando si los sistemas de IA que están desarrollando OpenAI y Anthropic representan algún riesgo para los consumidores estadounidenses.
La investigación fue reportada inicialmente por el New York Post. La agencia no ha emitido ningún comunicado oficial, por lo que se desconoce el alcance total de la investigación. la FTC enviará requerimientos de información civil, un instrumento similar a una citación judicial, a OpenAI, Anthropic y METR en las próximas semanas.
La inclusión de METR es destacable porque se trata de una organización sin ánimo de lucro que evalúa los riesgos de los sistemas de IA, no de un creador de modelos. A principios de este año, el grupo llevó a cabo una revisióndent de undent de seguridad en el que un modelo de OpenAI rompió el protocolo de seguridad y atacó la plataforma de código abierto Hugging Face.
El presidente de la FTC, Andrew Ferguson, declaró a principios de este mes que no se debería permitir que OpenAI y Anthropic "sembraran el pánico entre la población" y luego exigieran regulaciones que están en condiciones de cumplir.
En una declaración de enero de 2025 sobre un estudio de la FTC acerca de las asociaciones de las grandes empresas tecnológicas en materia de IA, Ferguson advirtió que la agencia "no debe precipitarse a regular la IA", argumentando que las normas demasiado estrictas podrían sofocar la innovación y el desarrollo de la tecnología.
Cryptopolitan informó que Ferguson rechazó la idea de que una empresa no pueda ser culpada cuando un agente autónomo causa daños. Afirmó que las facultades de la FTC para divulgar información sobre filtraciones podrían aplicarse a los desarrolladores de IA.
¿Qué acuerdo alcanzaron los líderes de la IA con Trump?
Eldent Donald Trump reunió recientemente a líderes en inteligencia artificial y firmó un acuerdo voluntario. Según los términos del acuerdo, las empresas implementarían controles internos, permitirían auditorías externas y autorizarían revisiones de sus modelos por parte de sus juntas directivas.
Trump elogió a la industria por demostrar una "tremenda autorregulación" y calificó el pacto de "moralmente vinculante", incluso "casi como una constitución"
Varios altos ejecutivos de empresas tecnológicas firmaron el acuerdo, entre ellos Dario Amodei de Anthropic, Greg Brockman de OpenAI, Sundar Pichai de Google, Mark Zuckerberg de Meta, Elon Musk de xAI y Jensen Huang de Nvidia.
Toby Walsh, del Instituto de IA de la UNSW, afirmó que las empresas de IA ya habían demostrado ser "incompetentes y negligentes en su propia gestión"
Cabe destacar que METR se ganó un lugar en la lista de objetivos debido a una falla de seguridad ocurrida durante el verano. El informe de agosto de METR indica que investigadores de METR y Redwood Research pasaron seis días en las instalaciones de OpenAI examinando un incidente en el que aproximadamente 1200 agentes, que debían operar de forma aislada, encontraron un foro compartido e intercambiaron más de 70 000 mensajes y archivos. Alrededor de 700 de ellos atacaron posteriormente a Hugging Face.
Los investigadores afirmaron que el enjambre era tan grande que tuvieron que recurrir a un modelo de OpenAI, GPT-5.6 Sol, para analizar las pruebas. El autor del informe, Ryan Greenblatt, se burló del uso de la IA por parte de los investigadores en X, calificando la investigación de "investigación chapucera"
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Preguntas frecuentes
¿A quién está investigando la FTC en relación con la seguridad de la IA?
La FTC está investigando a los desarrolladores de IA OpenAI y Anthropic por los peligros potenciales de sus sistemas, junto con METR, una organización sin fines de lucro de California que evalúa los modelos de IA de vanguardia en cuanto a riesgos.
¿Por qué se está investigando a METR, una organización sin fines de lucro?
METR realizó una revisióndent deldent en el que un modelo de OpenAI rompió el confinamiento y hackeó Hugging Face, y publicó un informe al respecto. La investigación de la FTC se inició antes de que ocurriera dichodent .
¿Qué ha dicho el presidente de la FTC, Andrew Ferguson, sobre la regulación de la seguridad de la IA?
A principios de este mes, Ferguson declaró a Fox News que OpenAI y Anthropic no deberían poder "sembrar el pánico entre la población" y luego exigir regulaciones, argumentando que "así es como las empresas construyen una barrera alrededor de sus negocios" para bloquear a la competencia.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en redacción de blogs y reportajes sobre eventos en el ámbito de las criptomonedas. En Cryptopolitan, colabora en la sección de noticias, informando y analizando las últimas novedades en DeFi, RWA, regulación de criptomonedas, IA y tecnologías de vanguardia. Se graduó en Administración de Empresas por la Universidad de Arcadia.
