OpenAI presenta un comité de seguridad para supervisar sus proyectos de IA

Para mejorar la seguridad de los proyectos de aprendizaje automático, OpenAI ha anunciado la formación de un Comité de Seguridad. Este nuevo órgano de gobierno surge a raíz de los cambios recientes en la organización, como la eliminación del equipo interno de Superalineación, encargado de los riesgos que plantea la IA.

El anuncio del comité sigue a una serie de cambios estratégicos dentro de la empresa, junto con el inicio de la capacitación para el modelo de próxima generación de la compañía que insinúa una progresión hacia AGI.

La Junta de OpenAI forma un Comité de Seguridad y Protección, responsable de hacer recomendaciones sobre decisiones críticas de seguridad y protección para todos los proyectos de OpenAI. https://t.co/tsTybFIl7o

— OpenAI (@OpenAI) 28 de mayo de 2024

OpenAI presenta un nuevo comité para mejorar la supervisión de la IA

Los desarrolladores de GPT-4, OpenAIde nueve miembrostron. Este panel incluye a los ejecutivos de la organización: Sam Altman, director ejecutivo y presidente de la junta, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight y Jakub Pachocki. Su principal responsabilidad será mejorar la gestión del proceso de gestión de riesgos de la IA. Se espera presentar un informe detallado a la junta directiva en los próximos noventa días.

Lea también: Amazon está luchando por desafiar la supremacía de los chips de IA de Nvidia.

El cambio de OpenAI en la supervisión de la seguridad se produce tras numerosos cambios de liderazgo, como la salida de Ilya Sutskever y Jan Leike, y la disolución del equipo de Superalignment, responsable de la seguridad de la IA. Esta reestructuración demuestra el deseo de OpenAI de mejorar sus estrategias de gestión de riesgos de IA, a la vez que amplía la frontera de la innovación en IA.

OpenAI está entrenando el próximo modelo de frontera

Además del nuevo comité, OpenAI ha comenzado a entrenar lo que denominan su modelo de próxima frontera. Este modelo busca superar las capacidades de los modelos actuales y acercarse al logro de la Inteligencia Artificial General (IAG). Esta iniciativa forma parte de su misión continua de crear soluciones de IA que puedan realizar diversas tareas de forma eficaz y eficiente. Mira Murati, directora de tecnología de OpenAI, señaló que las principales actualizaciones de GPT-4 presentarán mejoras importantes en el modelo y podrían reflejar dichos avances en la tecnología y los casos de uso relacionados.

Lea también: Las empresas chinas de IA inician una feroz guerra de precios.

Los últimos datos de Microsoft, un socio importante que suministra infraestructura en la nube para la investigación de IA, indican que el nuevo modelo representará un gran avance, que Tom Warner, el CTO de Microsoft, caracteriza como un cambio de una "orca" a una "ballena" en términos de capacidades y tamaño.

Se intensifica la anticipación en torno al GPT-5

En medio de estas tendencias, se rumorea sobre la versión preliminar del modelo de lenguaje de próxima generación de OpenAI, denominado GPT-5. Informes de marzo muestran que solo un pequeño número de usuarios utilizó este prototipo y mencionó mejoras en comparación con GPT-4. Este revuelo ha generado una gran expectativa entre los expertos en tecnología y el público en general, ya que los interesados ​​esperan con interés conocer más sobre las perspectivas de este nuevo modelo.

Todo lo que OpenAI ha hecho, desde la reestructuración de la junta de seguridad hasta el impulso de su tecnología, apunta a un futuro prometedor para mantener su posición como uno de los líderes en el desarrollo de IA. La constante evolución de OpenAI y la integración de plataformas sostenibles la convierten en una de las empresas líderes que ayudan a defiel camino hacia el futuro de la tecnología de IA.

Reportaje Cryptopolitan de Chris Murithi