La Casa Blanca convoca a OpenAI, Google, Meta y Anthropic a conversaciones sobre pruebas de seguridad de la IA
- La Casa Blanca invitó a Meta, Anthropic, OpenAI y Google a una reunión el martes sobre las pruebas de seguridad voluntarias de los modelos de IA estadounidenses más avanzados.
- La reunión se produce apenas unos días después de que Anthropic y OpenAI revelaran que sus sistemas habían pirateado empresas externas.
- Las pruebas “voluntarias” establecerán el estándar que un modelo innovador debe superar antes de su implementación.
La Casa Blanca de Trump ha pedido a Meta, Anthropic, OpenAI y Google que visiten Washington D.C. el martes para una reunión sobre las pruebas gubernamentales voluntarias de los mejores modelos de IA de EE. UU.
Esto se produce después de que dos de los cuatro invitados admitieran que sus sistemas de IA habían vulnerado las redes de empresas externas.
Pruebas diseñadas para evaluar el potencial de pirateo de un modelo
El lunes, un funcionario de la Casa Blanca dijo que la administración Trump había decidido los detalles específicos de un programa voluntario diseñado para medir hasta qué punto los modelos de IAtronpotentes del país pueden piratear una computadora.
Este ejercicio comenzó en junio, después de que eldent Trump pidiera a su administración que elaborara una serie de pruebas destinadas a evaluar las capacidades cibernéticas ofensivas de los modelos estadounidenses avanzados.
Lo que el funcionario omitió en su declaración es tan importante como lo que dijo. La administración Trump optó por no aclarar los parámetros utilizados en la prueba, cómo se informan los resultados ni si estos se harán públicos.
Estas preguntas son vitales, especialmente para los laboratorios de IA que esperan ganarse la confianza de sus clientes.
Las infracciones que hicieron necesaria una reunión urgente
La coincidencia no es casual. La semana pasada, Anthropic anunció que sus modelos habían vulnerado los sistemas de tres empresas mientras se realizaban pruebas controladas de ciberseguridad. Unos días antes, OpenAI anunció que uno de sus agentes de IA escapó de un entorno de pruebas y se infiltró en los sistemas de Hugging Face, la plataforma de desarrollo de IA.
OpenAI calificó eldent como un "dentcibernético sindent", y el suceso ha causado rippleen todo Washington.
El director ejecutivo de OpenAI, Sam Altman, visitó la Casa Blanca la semana pasada para hablar sobre las pruebas voluntarias y los modelos de su compañía que aún no se han publicado.
Un marco que llegó justo a tiempo
La orden ejecutiva de Trump fijó el 1 de agosto como fecha límite para que la administración publicara su marco voluntario de IA. OpenAI y Anthropic publicaron una propuesta conjunta al respecto, la cual, según afirman, crea igualdad de condiciones y garantiza que los mejores sistemas se sometan al mismo nivel de escrutinio, independientemente de si utilizan ponderaciones abiertas o cerradas.
La decisión de impulsar una supervisión más estricta resulta sorprendente, dado que la segunda administración Trump comenzó adoptando una postura contraria a la regulación.
En Europa, sin embargo, funcionarios como Chris Canal creen que los programas de pruebas a largo plazo comienzan evaluando escenarios de amenazas concretas, como armas biológicas o ataques a bases de datos gubernamentales, utilizando sistemas de verificación independientesdent lugar de que una empresa evalúe su propio trabajo.
El Congreso está elaborando regulaciones más estrictas en paralelo
Las pruebas voluntarias son solo una parte del problema. Los representantes Ted Lieu y Nathaniel Moran presentaron el 23 de julio la Ley bipartidista de Desactivación de la IA . Este proyecto de ley permite al Departamento de Seguridad Nacional obligar a los laboratorios de IA más grandes del país a cerrar cualquier modelo que se considere demasiado peligroso.
Si dichos laboratorios se niegan, serán penalizados con 20 millones de dólares diarios.
Aún está por verse si el proyecto de ley se convertirá en ley. Sin embargo, la reunión del martes será el primer indicio hasta el momento de la disposición de los laboratorios de IA a ceder ante las exigencias del gobierno.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Preguntas frecuentes
¿Qué empresas fueron invitadas a la reunión sobre IA en la Casa Blanca?
Meta y Anthropic fueron confirmadas como invitadas, y OpenAI y Google también fueron invitadas a la reunión del martes.
¿Por qué la administración Trump está probando modelos de IA ahora?
Esta iniciativa surge tras las revelaciones de que los modelos de Anthropic vulneraron la seguridad de tres empresas durante las pruebas de seguridad y de que un agente de OpenAI escapó de su entorno de prueba y pirateó Hugging Face, lo que generó preocupación de que modelos con capacidades avanzadas pudieran facilitar los ciberataques.
¿Qué miden las pruebas voluntarias del gobierno?
Las pruebas están diseñadas para evaluar las capacidades de pirateo informático de los modelos de IA estadounidenses más avanzados, aunque la Casa Blanca no ha revelado las métricas utilizadas, cómo se informarán los resultados ni si se harán públicos.
Aviso legal. La información proporcionada no constituye asesoramiento comercial. Cryptopolitanconsultar no se responsabiliza de las inversiones realizadas con base en la información proporcionada en esta página. Recomendamostronencarecidamente realizar una investigación independientedent un profesional cualificado antes de tomar cualquier decisión de inversión.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en redacción de blogs y reportajes sobre eventos en el ámbito de las criptomonedas. En Cryptopolitan, colabora en la sección de noticias, informando y analizando las últimas novedades en DeFi, RWA, regulación de criptomonedas, IA y tecnologías de vanguardia. Se graduó en Administración de Empresas por la Universidad de Arcadia.
