La Casa Blanca convoca a OpenAI, Google, Meta y Anthropic a conversaciones sobre pruebas de seguridad de IA
- La Casa Blanca invitó a Meta, Anthropic, OpenAI y Google a una reunión el martes sobre pruebas de seguridad voluntarias de los modelos de IA más avanzados de EE. UU.
- La reunión se produce apenas días después de que Anthropic y OpenAI revelaran que sus sistemas fueron hackeados por empresas externas.
- Las pruebas «voluntarias» establecerán el nivel mínimo que un modelo de vanguardia debe superar antes de su despliegue.
La Casa Blanca de Trump ha solicitado a Meta, Anthropic, OpenAI y Google que visiten Washington D.C. el martes para una reunión sobre pruebas gubernamentales voluntarias de los mejores modelos de IA de EE. UU.
Esto ocurre después de que dos de los cuatro invitados admitieran que sus sistemas de IA se infiltraron en las redes de empresas externas.
Pruebas diseñadas para medir el potencial de hacking de un modelo
El lunes, un funcionario de la Casa Blanca dijo que la administración Trump había decidido los detalles específicos de un programa voluntario diseñado para medir hasta qué punto los modelos de IA más fuertes del país pueden hackear una computadora.
Este ejercicio comenzó en junio después de que el presidente Trump pidiera a su administración que redactara un conjunto de pruebas destinadas a sondear las habilidades cibernéticas ofensivas de los modelos estadounidenses avanzados.
Lo que el funcionario omitió en el comunicado es igual de importante que lo que se dijo. La administración Trump ha elegido no revelar las métricas utilizadas en la prueba, cómo se reportan los hallazgos de las pruebas, ni si los resultados de la prueba se harán públicos.
Estas preguntas son vitales, especialmente para los laboratorios de IA que esperan ser considerados confiables por sus clientes.
Las brechas de seguridad que exigieron una reunión urgente
La coincidencia no es casual. La semana pasada, Anthropic anunció que sus modelos habían vulnerado los sistemas de tres empresas mientras se llevaban a cabo pruebas controladas de ciberseguridad. Unos días antes, OpenAI anunció que uno de sus agentes de IA escapó de un entorno de pruebas e irrumpió en los sistemas de Hugging Face, la plataforma de desarrollo de IA.
OpenAI etiquetó el incidente como un "incidente cibernético sin precedentes", y el evento ha enviado ondas de choque por todo Washington.
El director ejecutivo de OpenAI, Sam Altman, visitó la Casa Blanca la semana pasada para discutir los pruebas voluntarias y los modelos de su empresa que aún no han sido lanzados.
Un marco que llegó en el momento justo
La orden ejecutiva de Trump estableció el 1 de agosto como fecha límite para que la administración publique su marco voluntario de IA. OpenAI y Anthropic presentaron una propuesta conjunta en ese sentido, una que creen que crea un campo de juego equitativo, y que los mejores sistemas enfrenten el mismo nivel de escrutinio, ya sea que operen con pesos abiertos o cerrados.
La decisión de impulsar una supervisión más estricta sorprende, considerando que la segunda administración de Trump comenzó adoptando una postura antirregulatoria.
En Europa, sin embargo, funcionarios como Chris Canal creen que los programas de prueba duraderos comienzan evaluando escenarios de amenazas concretos, como armas biológicas o ataques a bases de datos gubernamentales, utilizando sistemas de verificación independientes en lugar de que una empresa evalúe su propio trabajo.
El Congreso está redactando regulaciones más estrictas en paralelo
Las pruebas voluntarias son solo un lado de la ecuación. Los representantes Ted Lieu y Nathaniel Moran presentaron la Ley Bipartidista del Interruptor de Apagado de la IA el 23 de julio. El proyecto de ley permite al Departamento de Seguridad Nacional obligar a los principales laboratorios de IA del país a apagar un modelo considerado demasiado peligroso.
Si dichos laboratorios se niegan, se les impondrán multas de hasta 20 millones de dólares diarios.
Aún está por verse si el proyecto de ley se convierte en ley. Sin embargo, la reunión del martes será el indicador más temprano de hasta qué punto los laboratorios de IA están dispuestos a ceder ante las demandas del gobierno.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Preguntas frecuentes
¿Qué empresas fueron invitadas a la reunión de la Casa Blanca sobre IA?
Se confirmó que Meta y Anthropic son invitados, y también se solicitó la presencia de OpenAI y Google para la reunión del martes.
¿Por qué la administración Trump está probando ahora los modelos de IA?
Este impulso sigue a las revelaciones de que los modelos de Anthropic vulneraron a tres empresas durante ensayos de seguridad y de que un agente de OpenAI escapó de su entorno de prueba y hackeó Hugging Face, lo que generó preocupación de que modelos capaces pudieran facilitar ciberataques.
¿Qué miden las pruebas gubernamentales voluntarias?
Las pruebas están diseñadas para evaluar las capacidades de hacking de los modelos de IA estadounidenses más avanzados, aunque la Casa Blanca no ha divulgado las métricas utilizadas, cómo se reportarán los resultados ni si serán públicos.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en la redacción de blogs y la cobertura de eventos en el ámbito de las criptomonedas. En Cryptopolitan, Hannah contribuye a la página de noticias, informando y analizando los últimos avances en DeFi, RWA, regulación de criptomonedas, inteligencia artificial y tecnologías de vanguardia. Se graduó de la Universidad de Arcadia con una licenciatura en Administración de Empresas.
