Cargando...

Los federales instalan "AI Doomer" en el AI Safety Institute entre cinco nuevos miembros

En esta publicación:

  • El Departamento de Comercio de EE. UU. ha nombrado cinco nuevos miembros para su Instituto de Seguridad de IA de EE. UU.
  • Uno de los miembros es famoso por ser un experto en inteligencia artificial, pero también tiene bastantes logros.
  • El equipo trabajará en objetos de IA relacionados con estándares para el desarrollo de tecnología y seguridad nacional.

El Instituto de Seguridad de IA de EE. UU., dependiente del Departamento de Comercio, anunció cinco nuevos miembros para su equipo de liderazgo. Entre los cinco nuevos miembros hay uno que predijo que hay un 50% de posibilidades de que el desarrollo de la inteligencia artificial acabe con la humanidad. Pero ésta no es su única introducción; Hay algunas innovaciones muy importantes en su haber.

Nuevos miembros del equipo de seguridad de IA

Durante bastante tiempo se ha discutido que la inteligencia artificial se convertirá en una amenaza existencial para los humanos, pero muchos expertos dicen que es exagerada y sobrevalorada, y que este tipo de predicción podría obstaculizar los avances en este campo. La tarea que tiene entre manos el equipo recién nombrado es fomentar el desarrollo de manera que la IA sea beneficiosa para las personas, en contra de esta percepción de daño según el Instituto Nacional de Estándares y Tecnología (NIST).

La directora del NIST y subsecretaria de Comercio para Estándares y Tecnología, Laurie E. Locascio, dijo:

“Me complace mucho dar la bienvenida a estos talentosos expertos al equipo de liderazgo del Instituto de Seguridad de IA de EE. UU. para ayudar a establecer la ciencia de medición que respaldará el desarrollo de una IA que sea segura y confiable. Cada uno de ellos aporta experiencias únicas que ayudarán al instituto a construir una base sólida para la seguridad de la IA en el futuro”.

Entre los nuevos miembros se encuentra Adam Russell, director de visión, quien también es director de la división de IA del Instituto de Ciencias de la Información de la Universidad de California. El profesor Rob Reich será el asesor principal, es de Stanford y trabaja como director asociado del Instituto de IA centrada en el ser humano, y también es un experto en ciencias políticas.

Mara Quintero Campbell es designada como directora de operaciones y jefa de personal, actualmente se encuentra en la Administración de Desarrollo Económico de Comercio como subdirectora de operaciones. Mark Latonero será el jefe de participación internacional, es de la Oficina de Política Científica y Tecnológica de la Casa Blanca y trabaja como subdirector de la Oficina de Iniciativa Nacional de IA.

La fatalidad de la IA a bordo, pero hay más

El nuevo miembro llamado AI Doomer no es otro que Paul Christiano. Es designado jefe de seguridad de IA del equipo. Es un ex investigador de OpenAI y fundador del Alignment Research Center. También es el inventor de una técnica fundamental de seguridad de la IA conocida como aprendizaje por refuerzo, que incorpora la retroalimentación humana. Obtuvo su etiqueta como un condenado a la IA después de que le preguntaron en un podcast sobre la posibilidad de que las ambiciones de la IA de los humanos terminaran en el fracaso, a lo que mostró bastante preocupación por la posibilidad de que la humanidad estuviera condenada, dijo.  

"Creo que tal vez hay entre un 10% y un 20% de posibilidades de que la IA tome el control, y que la mayoría de los humanos mueran, lo tomo muy en serio".

Él también dijo,

"En general, tal vez tengas más posibilidades de perdición, hasta un 50/50, poco después de tener sistemas de inteligencia artificial a nivel humano".

Fuente: Podcast sin bancos.

Christiano expresó estos pensamientos en el podcast Bankless con los presentadores David Hoffman y Ryan Sean Adams, pero insiste en que sus puntos de vista no son tan extremos como los del famoso fatalista de la IA, Eliezer Yudkowsky, quien sugiere un escenario totalmente fatal.

La Secretaria de Comercio de EE. UU., Gina Raimondo, también dijo que para salvaguardar el liderazgo global en IA responsable y garantizar la seguridad de la IA y mitigar los riesgos asociados con ella, necesitamos los mejores talentos de la nación, razón por la cual se seleccionan estas personas, que son las mejores. en sus campos para unirse ahora al equipo de liderazgo ejecutivo del Instituto de Seguridad de IA de EE. UU .

Descargo de responsabilidad:  la información proporcionada no es un consejo comercial. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas en función de la información proporcionada en esta página. Recomendamos tron dent y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión .

Compartir enlace:

Cargando los artículos más leídos...

Manténgase al tanto de las noticias sobre criptomonedas y reciba actualizaciones diarias en su bandeja de entrada

Noticias relacionadas

microsoft
criptopolitano
Suscríbete a CryptoPolitan