Herramientas de seguridad impulsadas por IA y el nuevo desafío de DARPA para desarrolladores de código abierto
- DARPA lanza el Desafío de Ciberseguridad con IA (AIxCC) para avanzar en herramientas de seguridad basadas en IA, ofreciendo premios por valor de 20 millones de dólares.
- El impacto de la IA en la seguridad sigue siendo incierto, pero los expertos advierten contra ignorar su potencial.
- La IA multimodal, que evoluciona desde la IA generativa, pronto interpretará chats, videos y lenguaje corporal.
La inteligencia artificial (IA), en particular los modelos de lenguaje grandes (LLM) como GPT, ha sido el centro de discusión en las recientes conferencias Black Hat y Def Con en Las Vegas. Sin embargo, los expertos están divididos sobre cómo la IA impactará la postura de seguridad de las empresas, desde la protección de datos internos hasta el desarrollo de aplicaciones.
Maria Markstedter, ingeniera inversa y experta en explotación de Arm, parafraseó la declaración del CEO de OpenAI, Sam Altman, de que «la IA probablemente llevará al fin del mundo, pero mientras tanto, habrá grandes empresas». Markstedter, durante su discurso principal en Black Hat, recomendó el lema «Avanza rápido, rompe cosas», enfatizando que los productos a menudo carecen inicialmente de funciones de seguridad y las empresas deben ser forzadas a invertir en seguridad.
IA generativa e IA multimodal
La IA generativa, que actualmente se centra en el texto, está evolucionando hacia la IA multimodal, capaz de manejar chat, respuestas de video en vivo, análisis de sentimientos e incluso la interpretación del lenguaje corporal, según Markstedter. Hizo hincapié en la importancia de mantener el anonimato en estos sistemas y repensar la seguridad de los datos.
Impacto en la seguridad
El impacto de la IA en la seguridad sigue siendo incierto. Markstedter señaló que la IA ya está afectando la seguridad de los datos, como lo demuestran los empleados que copian datos en chatbots de IA de caja negra. Sin embargo, las implicaciones más amplias para la seguridad siguen sin estar claras. Los LLM pueden generar código malicioso, pero no pueden ejecutarlo, según dos ex empleados de OpenAI que discutieron el uso potencial de la IA en la seguridad.
A pesar de la incertidumbre, hubo consenso en que prohibir la IA no es una solución viable a largo plazo. Las empresas están ansiosas por adoptar tecnologías de IA, y la seguridad de la IA eventualmente requerirá abrazar los LLM y otras tecnologías de IA. Los expertos en seguridad advirtieron que quienes no lo hagan se quedarán atrás.
Abrazar la IA en la seguridad
Markstedter argumentó que integrar agentes autónomos es arriesgado, pero es esencial aceptar su realidad y desarrollar soluciones para hacerlos más seguros. «Esta es nuestra oportunidad de reinventarnos [y] nuestra postura de seguridad», dijo, instando a la comunidad a unirse y fomentar la investigación.
El desafío cibernético de IA de DARPA
La organización de defensa DARPA ha desafiado a los asistentes a Black Hat y Def Con a ayudar a crear un sistema de seguridad reactivo basado en IA de próxima generación. Perri Adams, gerente de programas en la Oficina de Innovación en Información de DARPA, anunció el Desafío de Ciberseguridad de IA (AIxCC) de dos años en el evento principal de Black Hat.
AIxCC tiene como objetivo desarrollar una nueva generación de herramientas de ciberseguridad y ofrece un total de 20 millones de dólares en premios para los equipos que creen los mejores sistemas. La competencia tiene dos categorías: la Categoría Financiado y la Categoría Abierta. Los competidores de la Categoría Financiado serán seleccionados de propuestas presentadas a una convocatoria de Investigación de Innovación de Pequeñas Empresas, con hasta siete pequeñas empresas que recibirán financiamiento de hasta 1 millón de dólares. Los competidores de la Categoría Abierta pueden registrarse a través del sitio web de la competencia sin financiamiento de DARPA.
En 2024, DefCon determinará a las cinco mejores empresas, quienes pasarán a una segunda ronda de experimentación con un financiamiento adicional de 2 millones de dólares. Los ganadores de Def Con 2025 recibirán 4 millones de dólares para el primer lugar, 3 millones de dólares para el segundo lugar y 1,5 millones de dólares para el tercer lugar.
Colaboración con empresas líderes de IA
AIxCC se asocia con empresas líderes de IA, incluidas Anthropic, Google, Microsoft y OpenAI. La Fundación de Seguridad de Código Abierto (OpenSSF), un proyecto de la Fundación Linux, servirá como asesora del desafío para guiar a los equipos en la creación de sistemas de IA capaces de abordar problemas vitales de ciberseguridad, como la seguridad de la infraestructura crítica de la nación y las cadenas de suministro de software.
Las competiciones de AIxCC se llevarán a cabo en DEF CON y constarán de dos fases: la fase de semifinales y la fase final. Ambas competiciones tendrán lugar en DEF CON en Las Vegas en 2024 y 2025.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
John Palmer
John Murangiri llegó a Cryptopolitan con habilidades en análisis de mercado. John (también conocido como JP) se graduó de la Universidad de Nairobi con un título de licenciatura en comunicación masiva y estudios de medios. Anteriormente, ha contribuido con perspectivas del mercado de criptomonedas a InsideBitcoins.com y Metacoingraph.
