Las promesas de seguridad de IA de Google bajo escrutinio tras el informe de Gemini
- Google publicó un informe de seguridad sobre su último modelo de IA, Gemini 2.5 Pro, varias semanas después del lanzamiento público del modelo.
- Los expertos señalan que el informe carece de detalles importantes sobre seguridad, lo que dificulta evaluar los riesgos del modelo y las prácticas de seguridad de Google.
- El informe no menciona el Marco de Seguridad Avanzada (FSF) de Google, una herramienta diseñada para detectar futuras capacidades de IA de alto riesgo.
Google compartió un artículo de seguridad sobre su modelo de inteligencia artificial insignia, Gemini 2.5 Pro. Los expertos dicen que deja sin explicar riesgos clave.
La empresa publicó el artículo técnico el jueves, varias semanas después de haber lanzado Gemini 2.5 Pro a los clientes. El documento enumera las pruebas internas que Google realizó en el modelo, pero ofrece pocos datos sobre cómo se comporta el sistema bajo sobrecarga o mal uso. Los investigadores que revisaron el artículo le dijeron a TechCrunch que la falta de detalles dificulta juzgar si Gemini 2.5 Pro es realmente seguro para su uso generalizado.
Los informes técnicos son una de las principales formas en que el público aprende lo que los sistemas avanzados de IA pueden y no pueden hacer. Un informe exhaustivo a menudo muestra dónde falla un modelo y dónde podría ser mal utilizado. Muchos investigadores de IA consideran estos artículos como esfuerzos honestos para respaldar las afirmaciones de seguridad de una empresa.
Google maneja la información de seguridad de manera diferente.
Google publica un informe solo después de que un modelo ya no esté etiquetado como «experimental», y mueve ciertos hallazgos de «capacidades peligrosas» a una auditoría separada que no se publica de inmediato. Como resultado, el artículo público no cubre todas las amenazas para las que Google ha realizado pruebas.
Varios analistas dijeron que el nuevo documento de Gemini 2.5 Pro es un caso claro de divulgación limitada. También notaron que el informe nunca se refiere al Marco de Seguridad Fronteriza de Google, o FSF, una política que la empresa anunció el año pasado para identificar futuros poderes de IA que podrían causar «daño severo».
«Este informe es muy escueto, contiene información mínima y llegó semanas después de que el modelo se hiciera público», dijo Peter Wildeford, cofundador del Instituto para la Política y Estrategia de IA. «Es imposible confirmar si Google está cumpliendo sus propias promesas, y por lo tanto imposible juzgar la seguridad y protección de sus modelos».
Thomas Woodside, cofundador del Proyecto de IA Segura, dijo que estaba contento de que hubiera aparecido cualquier artículo, pero dudaba del plan de Google de lanzar seguimientos constantes. Señaló que la última vez que la empresa compartió resultados de pruebas de capacidades peligrosas fue en junio de 2024, y que ese artículo cubría un modelo anunciado en febrero del mismo año.
La confianza disminuyó aún más cuando los observadores no vieron ningún artículo de seguridad para Gemini 2.5 Flash, un modelo más ligero y rápido que Google reveló la semana pasada. Un portavoz de la empresa dijo que un artículo sobre Flash está «próximamente».
«Espero que esta sea una promesa real de comenzar a dar actualizaciones más frecuentes», dijo Woodside. «Esas actualizaciones deberían incluir resultados para modelos que aún no han llegado al público, porque esos modelos también pueden plantear riesgos graves».
Google ahora se queda corta en transparencia
La nota de seguridad de Meta para sus nuevos modelos Llama 4 tiene solo unas pocas páginas, mientras que OpenAI eligió no publicar ningún informe en absoluto para su serie GPT‑4.1.
La escasez de detalles llega en un momento tenso. Hace dos años, Google dijo al gobierno de EE. UU. que publicaría artículos de seguridad para cada modelo de IA «significativo» dentro del alcance. La empresa hizo promesas similares a funcionarios de otros países, diciendo que ofrecería «transparencia pública» sobre sus productos de IA.
Kevin Bankston, asesor principal de gobernanza de IA en el Centro para la Democracia y la Tecnología, calificó los lanzamientos de los laboratorios líderes como una «carrera hacia el fondo» en seguridad.
«Combinado con informes de que laboratorios rivales como OpenAI han reducido el tiempo de pruebas de seguridad antes del lanzamiento de meses a días, esta documentación escasa para el modelo principal de Google cuenta una historia preocupante de una carrera hacia el fondo en seguridad y transparencia de IA mientras las empresas se apresuran a llevar sus modelos al mercado», añadió.
Google dice que gran parte de su trabajo de seguridad ocurre a puerta cerrada. La empresa afirma que cada modelo somete a pruebas estrictas, incluyendo «equipo rojo adversarial», antes de cualquier lanzamiento público.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Noor Bazmi
Noor Bazmi contribuye al equipo de noticias de Cryptopolitan con una licenciatura en Estudios de Medios. Noor cubre noticias sobre blockchain, criptomonedas, inteligencia artificial, grandes tecnológicas, mercados de VE, economía global y cambios en políticas gubernamentales. Está cursando estudios de marketing para conectar con audiencias globales.
