El Instituto de Seguridad de IA de EE. UU., dependiente del Departamento de Comercio, anunció cinco nuevos miembros para su equipo de liderazgo. Entre los cinco nuevos miembros hay uno que predijo que hay un 50% de posibilidades de que el desarrollo de la inteligencia artificial acabe con la humanidad. Pero ésta no es su única introducción; Hay algunas innovaciones muy importantes en su haber.
Nuevos miembros del equipo de seguridad de IA
Durante bastante tiempo se ha discutido que la inteligencia artificial se convertirá en una amenaza existencial para los humanos, pero muchos expertos dicen que es exagerada y sobrevalorada, y que este tipo de predicción podría obstaculizar los avances en este campo. La tarea que tiene entre manos el equipo recién nombrado es fomentar el desarrollo de manera que la IA sea beneficiosa para las personas, en contra de esta percepción de daño según el Instituto Nacional de Estándares y Tecnología (NIST).
La directora del NIST y subsecretaria de Comercio para Estándares y Tecnología, Laurie E. Locascio, dijo:
“Me complace mucho dar la bienvenida a estos talentosos expertos al equipo de liderazgo del Instituto de Seguridad de IA de EE. UU. para ayudar a establecer la ciencia de medición que respaldará el desarrollo de una IA que sea segura y confiable. Cada uno de ellos aporta experiencias únicas que ayudarán al instituto a construir una base sólida para la seguridad de la IA en el futuro”.
Entre los nuevos miembros se encuentra Adam Russell, director de visión, quien también es director de la división de IA del Instituto de Ciencias de la Información de la Universidad de California. El profesor Rob Reich será el asesor principal, es de Stanford y trabaja como director asociado del Instituto de IA centrada en el ser humano, y también es un experto en ciencias políticas.
Mara Quintero Campbell es designada como directora de operaciones y jefa de personal, actualmente se encuentra en la Administración de Desarrollo Económico de Comercio como subdirectora de operaciones. Mark Latonero será el jefe de participación internacional, es de la Oficina de Política Científica y Tecnológica de la Casa Blanca y trabaja como subdirector de la Oficina de Iniciativa Nacional de IA.
La fatalidad de la IA a bordo, pero hay más
El nuevo miembro llamado AI Doomer no es otro que Paul Christiano. Es designado jefe de seguridad de IA del equipo. Es un ex investigador de OpenAI y fundador del Alignment Research Center. También es el inventor de una técnica fundamental de seguridad de la IA conocida como aprendizaje por refuerzo, que incorpora la retroalimentación humana. Obtuvo su etiqueta como un condenado a la IA después de que le preguntaron en un podcast sobre la posibilidad de que las ambiciones de la IA de los humanos terminaran en el fracaso, a lo que mostró bastante preocupación por la posibilidad de que la humanidad estuviera condenada, dijo.
"Creo que tal vez hay entre un 10% y un 20% de posibilidades de que la IA tome el control, y que la mayoría de los humanos mueran, lo tomo muy en serio".
Él también dijo,
"En general, tal vez tengas más posibilidades de perdición, hasta un 50/50, poco después de tener sistemas de inteligencia artificial a nivel humano".
Fuente: Podcast sin bancos.
Christiano expresó estos pensamientos en el podcast Bankless con los presentadores David Hoffman y Ryan Sean Adams, pero insiste en que sus puntos de vista no son tan extremos como los del famoso fatalista de la IA, Eliezer Yudkowsky, quien sugiere un escenario totalmente fatal.
La Secretaria de Comercio de EE. UU., Gina Raimondo, también dijo que para salvaguardar el liderazgo global en IA responsable y garantizar la seguridad de la IA y mitigar los riesgos asociados con ella, necesitamos los mejores talentos de la nación, razón por la cual se seleccionan estas personas, que son las mejores. en sus campos para unirse ahora al equipo de liderazgo ejecutivo del Instituto de Seguridad de IA de EE. UU.
El comunicado de prensa del Departamento de Comercio de EE. UU. se puede encontrar aquí .
