OpenAI presenta un Comité de Seguridad y Protección para supervisar sus proyectos de IA

Para mejorar la seguridad de los proyectos de aprendizaje automático, OpenAI ha anunciado la formación de un Comité de Seguridad y Protección. Este nuevo órgano de gobierno surge a la luz de los recientes cambios en la organización, como la abolición de su equipo interno de Superalignment que se ocupaba de los riesgos planteados por la IA.

El anuncio del comité sigue a una serie de cambios estratégicos dentro de la empresa, junto con el comienzo del entrenamiento del modelo de próxima generación de la empresa, lo que sugiere una progresión hacia la AGI.

La junta de OpenAI forma un Comité de Seguridad y Protección, responsable de hacer recomendaciones sobre decisiones críticas de seguridad y protección para todos los proyectos de OpenAI. https://t.co/tsTybFIl7o

— OpenAI (@OpenAI) 19 de may. 28, 2024

OpenAI Presenta un Nuevo Comité para una Mejor Supervisión de la IA

Los desarrolladores de GPT-4, OpenAI, han mejorado aún más su juego constituyendo un Comité de Seguridad y Protección de nueve miembros. Este panel incluye a los ejecutivos de la organización. Sam Altman como CEO y presidente de la junta, Aleksander Madry, Lilian Weng, John Schulman, Matt Knight y Jakub Pachocki. Su responsabilidad principal será mejorar el manejo del proceso de gestión de riesgos de IA. Se espera que se presente un informe detallado a la junta directiva dentro de los próximos noventa días.

También lea: Amazon lucha por desafiar la supremacía de Nvidia en los chips de IA

El cambio de OpenAI en la supervisión de la seguridad sigue a numerosos cambios de liderazgo, como la salida de Ilya Sutskever y Jan Leike, y la disolución del equipo de Superalignment encargado de la seguridad de la IA. Esta reestructuración muestra el deseo de OpenAI de mejorar sus estrategias de gestión de riesgos de IA mientras extiende la frontera de la innovación en IA.

OpenAI está Entrenando el Próximo Modelo de Frontera

Además del nuevo comité, OpenAI ha comenzado a entrenar lo que llaman su próximo modelo de frontera. Este modelo tiene como objetivo superar las capacidades de los modelos actuales y acercarse a lograr la AGI. Este movimiento es parte de su misión continua de crear soluciones de IA que puedan realizar diversas tareas de manera efectiva y eficiente. La Chief Technology Officer de OpenAI, Mira Murati, señaló que las principales actualizaciones de GPT-4 presentarán mejoras importantes en el modelo y pueden reflejar tales desarrollos en la tecnología y los casos de uso relacionados.

También lea: Las Empresas de IA de China Inician una Feroz Guerra de Precios

Las últimas perspectivas de Microsoft, un socio importante que suministra infraestructura en la nube para la investigación de IA, indican que el nuevo modelo representará un gran avance, que Tom Warner, CTO de Microsoft, caracteriza como un cambio de ‘orca’ a ‘ballena’ en términos de capacidades y tamaño.

La Anticipación Alrededor de GPT-5 se Intensifica

En medio de estas tendencias, hay rumores sobre la versión preliminar del modelo de lenguaje de próxima generación de OpenAI etiquetado como GPT-5. Los informes de marzo muestran que solo un pequeño número de usuarios utilizó este prototipo y mencionaron que hay mejoras en comparación con GPT-4. Este entusiasmo ha creado enormes expectativas entre los expertos en tecnología y el público en general, ya que los interesados esperan conocer más sobre las perspectivas de este nuevo modelo.

Todo lo que OpenAI ha hecho, desde reestructurar la junta de seguridad hasta impulsar su tecnología, apunta hacia el panorama general para mantener su posición como una de las líderes en el desarrollo de la IA. La evolución constante de OpenAI y la integración de plataformas sostenibles la convierten en una de las empresas líderes que ayudan a definir el camino hacia el futuro de la tecnología de IA.

Reportaje de Cryptopolitan por Chris Murithi