- Jan Leike, líder del equipo de Superalineamiento de OpenAI, ha planteado serias dudas sobre los cambios en las prácticas de seguridad de la empresa.
- Leike abandonó la compañía horas después de que el cofundador Ilya Sutskever dejara la organización.
- Se dice que el equipo de Superalineamiento fue desmantelado por la empresa, dejando sus modelos de IA bajo una supervisión menor.
Tras la salida del cofundador Ilya Sutskever a principios de esta semana, Jan Leike, un destacado investigador, anunció el viernes por la mañana que «la cultura y los procesos de seguridad han pasado a un segundo plano frente a productos llamativos» en la empresa.
Jan Leike declaró en una serie de publicaciones en la plataforma de redes sociales X que se unió a la startup con sede en San Francisco porque creía que sería el mejor lugar para realizar investigación en IA.
Leike lideró el equipo de «Superalineamiento» de OpenAI junto a un cofundador que también dimitió esta semana.
El Equipo de Superalineamiento de OpenAI ya no está intacto
El equipo de superalineación de Leike se formó el pasado julio en OpenAI para abordar los principales desafíos técnicos al implementar medidas de seguridad a medida que la empresa avanza en una IA capaz de razonar como un ser humano.
Las declaraciones de Leike llegaron después de que un informe de WIRED Chich afirmara que OpenAI había disuelto por completo el equipo de Superalignment, encargado de abordar los riesgos a largo plazo asociados con la IA.
También lea: Ilya Sutskever, científico jefe de OpenAI, dice adiós
Sutskever y Leike no fueron los únicos empleados que dejaron la empresa. Al menos cinco trabajadores más comprometidos con la seguridad han abandonado la compañía o han sido despedidos desde noviembre pasado, cuando el consejo intentó destituir al CEO Sam Altman, solo para verlo recuperar su posición.
OpenAI debería convertirse en una empresa de AGI centrada en la seguridad
Leike señaló la característica más controvertida de la tecnología en varias plataformas: una perspectiva de robots que son tan inteligentes como los humanos o al menos capaces de realizar muchas tareas tan bien como ellos, escribiendo que OpenAI debe transformarse en una empresa de AGI centrada en la seguridad.
En respuesta a las publicaciones de Leike, Sam Altman, CEO de OpenAI, expresó su agradecimiento por los servicios de Leike a la empresa y su tristeza por su partida.
Altman dijo en una publicación de X que Leike tiene razón y que publicará un artículo extenso sobre el tema en los próximos días. También dijo que,
“Tenemos mucho más que hacer; estamos comprometidos a hacerlo.”
Leike ha dejado el equipo de superalineación de OpenAI, y John Schulman, cofundador de la empresa, se ha hecho cargo.
Pero hay una sensación de vacío en el equipo. Además, Schulman ya está sobrecargado con su trabajo a tiempo completo garantizando la seguridad de los productos existentes de OpenAI. ¿Cuánto trabajo de seguridad adicional significativo y enfocado en el futuro puede producir realmente OpenAI? Parece no haber una respuesta satisfactoria a esto.
Jan Leike tiene diferencias ideológicas con la dirección
Como sugiere el nombre de la organización, OpenAI, originalmente tenía la intención de compartir sus modelos libremente con el público; sin embargo, la empresa ahora afirma que poner modelos tan potentes al alcance de cualquiera podría ser perjudicial, por lo que los modelos se han convertido en conocimiento propietario.
Leike dijo en una publicación que estaba en desacuerdo con el liderazgo de OpenAI sobre las prioridades que han estado imponiendo a la empresa durante bastante tiempo, hasta que finalmente alcanzaron un punto de inflexión.
Me uní porque pensé que OpenAI sería el mejor lugar del mundo para realizar esta investigación.
— Jan Leike (@janleike) 19 de may. 17, 2024
Sin embargo, he estado en desacuerdo con el liderazgo de OpenAI sobre las prioridades centrales de la empresa durante bastante tiempo, hasta que finalmente llegamos a un punto de ruptura.
El último día de Leike en la empresa fue el jueves, tras lo cual renunció y no suavizó su renuncia con despedidas cálidas ni ninguna señal de confianza en el liderazgo de OpenAI. En X, publicó: «Renuncié».
Un seguidor de Leike dijo en un comentario que está encantado de que Leike ya no sea miembro de su equipo. Las ideologías woke no están alineadas con la humanidad. Cuanto menos alineado se vuelve, más se introduce en la IA.
También lea: OpenAI asegura contenido de Reddit para mejorar ChatGPT
El seguidor dijo que también requeriría una definición de alineación de todos los alineadores. Estaba señalando una recomendación en la que Leike pidió a otros empleados de OpenAI que cree que pueden impulsar el cambio cultural necesario en la empresa.
La principal empresa de IA del mundo parece estar cambiando su rumbo respecto a las medidas de seguridad que los expertos han destacado frecuentemente, y la salida de expertos clave en seguridad de la empresa probablemente lo confirma.
Reportaje de Cryptopolitan por Aamir Sheikh
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
