Los federales instalan a un «Doomer de IA» en el Instituto de Seguridad de IA entre cinco nuevos miembros

El Instituto de Seguridad de IA de EE. UU., bajo el Departamento de Comercio, anunció cinco nuevos miembros para su equipo de liderazgo. Entre los cinco nuevos miembros hay uno que predijo que existe un 50% de probabilidad de que el desarrollo de la inteligencia artificial termine con la humanidad. Pero esta no es su única presentación; tiene algunas innovaciones muy importantes a su favor.

Nuevos miembros del equipo de seguridad de IA

Ha habido un argumento durante bastante tiempo de que la inteligencia artificial se convertirá en una amenaza existencial para los humanos, pero muchos expertos dicen que está exagerada y sobrevalorada, y este tipo de predicción podría obstaculizar los avances en el campo. La tarea en manos del equipo recién nombrado es fomentar el desarrollo de manera que la IA sea beneficiosa para las personas, en contra de esta percepción de daño bajo el Instituto Nacional de Estándares y Tecnología (NIST).

La directora de NIST y Subsecretaria de Comercio para Estándares y Tecnología, Laurie E. Locascio, dijo:

«Estoy muy complacida de dar la bienvenida a estos expertos talentosos al equipo de liderazgo del Instituto de Seguridad de IA de EE. UU. para ayudar a establecer la ciencia de la medición que apoyará el desarrollo de una IA segura y confiable. Cada uno aporta experiencias únicas que ayudarán al instituto a construir una base sólida para la seguridad de la IA en el futuro».

Entre los nuevos miembros se encuentra Adam Russell, director de visión, quien también es director de la división de IA del Instituto de Ciencias de la Información de la Universidad de California. El prof. Rob Reich será el asesor senior; es de Stanford y trabaja como director asociado del Instituto para la IA Centrada en el Humano, y también es experto en ciencias políticas.

Mara Quintero Campbell es nombrada directora de operaciones y jefa de personal; actualmente está en la Administración de Desarrollo Económico del Comercio como subdirectora de operaciones. Mark Latonero será el jefe de compromiso internacional; es de la Oficina de Política de Ciencia y Tecnología de la Casa Blanca y trabaja como director adjunto de la Oficina de la Iniciativa Nacional de IA.

Un doomer de IA a bordo, pero hay más que eso

El nuevo miembro llamado doomer de IA no es otro que Paul Christiano. Es nombrado jefe de seguridad de IA del equipo. Es un ex investigador de OpenAI y fundador del Centro de Investigación de Alineación. También es el inventor de una técnica fundamental de seguridad de IA conocida como aprendizaje por refuerzo, que incorpora la retroalimentación humana. Obtuvo su etiqueta de doomer de IA después de que le preguntaran en un podcast sobre la posibilidad de que las ambiciones de IA de los humanos terminen en desastre, a lo que mostró bastante preocupación por la humanidad quedando condenada, dijo 

«Creo que quizás haya algo así como un 10-20% de probabilidad de que la IA tome el control, matando a la mayoría de los humanos; lo tomo bastante en serio».

También dijo:

«En general, quizás estés obteniendo hasta un 50/50 de probabilidad de desastre poco después de tener sistemas de IA que sean de nivel humano».

Fuente: Podcast Bankless.

Christiano expresó estos pensamientos en el podcast Bankless con los anfitriones David Hoffman y Ryan Sean Adams, pero insiste en que sus opiniones no son tan extremas como las del famoso doomer de IA Eliezer Yudkowsky, quien sugiere un escenario de desastre total.

La secretaria de Comercio de EE. UU., Gina Raimondo, también dijo que para salvaguardar el liderazgo global en IA responsable y para garantizar la seguridad de la IA y mitigar los riesgos asociados con ella, necesitamos los mejores talentos de la nación, por eso se seleccionan a estos individuos, que son los mejores en sus campos, para unirse ahora al equipo de liderazgo ejecutivo en el Instituto de Seguridad de IA de EE. UU..