El gobierno federal instala a "AI Doomer" en el Instituto de Seguridad de IA entre cinco nuevos miembros

El Instituto de Seguridad de la IA de EE. UU., dependiente del Departamento de Comercio, anunció cinco nuevos miembros para su equipo directivo. Entre ellos se encuentra uno que predijo que existe un 50 % de probabilidades de que el desarrollo de la inteligencia artificial acabe con la humanidad. Pero esta no es su única incorporación; cuenta con importantes innovaciones en su haber.

Nuevos miembros del equipo de seguridad de IA

Se ha debatido durante bastante tiempo que la inteligencia artificial se convertirá en una amenaza existencial para la humanidad, pero muchos expertos afirman que es una predicción exagerada y sobrevalorada, y que este tipo de predicción podría obstaculizar los avances en este campo. La tarea del equipo recién nombrado es impulsar el desarrollo de forma que la IA sea beneficiosa para las personas, contrarrestando esta percepción de daño según el Instituto Nacional de Estándares y Tecnología (NIST).

La directora del NIST y subsecretaria de Comercio para Estándares y Tecnología, Laurie E. Locascio, dijo:

Me complace enormemente dar la bienvenida a estos talentosos expertos al equipo directivo del Instituto de Seguridad de la IA de EE. UU. para que ayuden a establecer la ciencia de la medición que respaldará el desarrollo de una IA segura y confiable. Cada uno de ellos aporta experiencias únicas que ayudarán al instituto a sentar unas bases sólidas para la seguridad de la IA en el futuro

Entre los nuevos miembros se encuentra Adam Russell, director de visión y director de la división de IA del Instituto de Ciencias de la Información de la Universidad de California. El profesor Rob Reich, de Stanford, será el asesor principal y director asociado del Instituto de IA Centrada en el Ser Humano, además de ser experto en ciencias políticas.

Mara Quintero Campbell ha sido nombrada directora de operaciones y jefa de gabinete. Actualmente trabaja como subdirectora de operaciones en la Administración de Desarrollo Económico del Departamento de Comercio. Mark Latonero, de la Oficina de Política Científica y Tecnológica de la Casa Blanca, será el jefe de relaciones internacionales y se desempeña como subdirector de la Oficina Nacional de Iniciativas de IA.

La IA es un desastre a bordo, pero hay más

El nuevo miembro, considerado un catastrófico de la IA, no es otro que Paul Christiano. Ha sido nombrado jefe de seguridad de la IA del equipo. Es un exinvestigador de OpenAI y fundador del Centro de Investigación de Alineación. También es el inventor de una técnica fundamental de seguridad de la IA conocida como aprendizaje por refuerzo, que incorpora la retroalimentación humana. Recibió su etiqueta de catastrófico de la IA tras ser preguntado en un podcast sobre la posibilidad de que las ambiciones humanas en materia de IA acaben en la ruina, a lo que expresó su gran preocupación por la condena de la humanidad 

"Creo que tal vez haya algo así como un 10-20% de posibilidades de que la IA tome el control, y la mayoría de los humanos mueran. Lo tomo muy en serio"

También dijo:

“En general, tal vez tengas un 50% de probabilidades de un desastre inminente poco después de contar con sistemas de IA de nivel humano.”

Fuente: Podcast Bankless.

Christiano expresó estos pensamientos en el podcast Bankless con los presentadores David Hoffman y Ryan Sean Adams, pero insiste en que sus opiniones no son tan extremas como las del famoso agorero de la IA Eliezer Yudkowsky, quien sugiere un escenario de catástrofe total.

La Secretaria de Comercio de Estados Unidos, Gina Raimondo, también dijo que para salvaguardar el liderazgo global en IA responsable y garantizar la seguridad de la IA y mitigar los riesgos asociados a ella, necesitamos los mejores talentos de la nación, por lo que se selecciona a estas personas, que son las mejores en sus campos, para unirse ahora al equipo de liderazgo ejecutivo del Instituto de Seguridad de IA de Estados Unidos.