OpenAI lanza el equipo 'superalignment' para abordar de frente los riesgos de la superinteligencia
OpenAI
- OpenAI está aumentando la conciencia sobre los riesgos de la superinteligencia de la IA y formando un equipo dedicado para abordar estas preocupaciones.
- La empresa enfatiza alinear la superinteligencia con los valores e intenciones humanos y establecer nuevas instituciones de gobernanza.
- OpenAI reconoce que alinear la AGI plantea riesgos significativos y puede requerir un esfuerzo colectivo de la humanidad.
El CEO de OpenAI, Sam Altman, ha emprendido una campaña global para crear conciencia sobre los posibles peligros de la superinteligencia artificial, donde las máquinas superan la inteligencia humana y podrían volverse incontrolables.
En respuesta a estas preocupaciones, OpenAI ha anunciado recientemente la formación de un equipo dedicado encargado de desarrollar métodos para abordar los riesgos asociados con la superinteligencia, que podría emerger dentro de esta década.
La empresa hace hincapié en que gestionar eficazmente la superinteligencia requiere establecer nuevas instituciones de gobernanza y resolver el desafío crítico de alinear la superinteligencia con los valores e intenciones humanos.
OpenAI reconoce que alinear la IAG (Inteligencia Artificial General) plantea riesgos significativos para la humanidad y puede requerir un esfuerzo colectivo de toda la humanidad, según se declaró en una publicación de blog lanzada el año pasado.
Apodado "Superalignment", el equipo recién formado está compuesto por investigadores e ingenieros de primer nivel en aprendizaje automático. Ilya Sutskever, cofundador y científico jefe de OpenAI, y Jan Leike, jefe de alineación, están guiando este esfuerzo.
Para abordar los desafíos técnicos centrales de la alineación de la superinteligencia, OpenAI se ha comprometido a dedicar el 20% de sus recursos computacionales adquiridos hasta la fecha al problema de la alineación. La empresa anticipa que dentro de cuatro años resolverá estos desafíos.
El objetivo principal del equipo Superalignment es desarrollar un investigador de alineación automatizado de nivel humano. Esto implica crear sistemas de IA que puedan alinear eficazmente los sistemas de superinteligencia artificial, superando a los humanos en velocidad y precisión.
Para lograr este hito, el equipo se centrará en desarrollar un método de entrenamiento escalable que utilice sistemas de IA para evaluar otros sistemas de IA. Validarán su modelo resultante automatizando la búsqueda de comportamientos potencialmente problemáticos. La tubería de alineación también se someterá a rigurosas pruebas de estrés entrenando deliberadamente modelos desalineados para evaluar su detectabilidad.
Los esfuerzos de OpenAI para abordar los riesgos de la superinteligencia marcan un paso significativo hacia adelante en la búsqueda de un desarrollo de IA responsable y alineado. Al reunir a un equipo de investigadores de primer nivel y comprometer recursos computacionales sustanciales, la empresa demuestra su compromiso con la mitigación proactiva de los posibles riesgos asociados con la llegada de la superinteligencia. A medida que emprenden este ambicioso viaje, OpenAI establece un precedente de colaboración y unidad para salvaguardar el futuro de la humanidad en la era de la IA.
Si estás leyendo esto, ya vas por delante. Mantente así con nuestro boletín.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Mutuma Maxwell
Maxwell disfruta especialmente escribiendo sobre blockchain y criptomonedas. Inició su aventura en el mundo del blogging en 2020, enfocándose posteriormente en el universo de las criptomonedas. Su misión de vida es introducir el concepto de descentralización a personas de todo el mundo.
