Los empleados afirman que OpenAI y Google DeepMind ocultan los riesgos de la IA
Jeffrey Gogo
2 min de lectura
- Exempleados acusan a las empresas de IA de ocultar riesgos que podrían desencadenar la extinción humana.
- Dicen que las empresas priorizan las ganancias mientras evitan la «supervisión efectiva».
- Los denunciantes se ven disuadidos por la amenaza de represalias por parte de sus empleadores.
Varios empleados actuales y ex empleados de OpenAI y Google DeepMind acusaron a sus empresas de ocultar riesgos de la IA que podrían potencialmente desencadenar la extinción humana. En una carta abierta, los trabajadores alegaron que las empresas de IA están poniendo el beneficio primero mientras evitan la “supervisión [gubernamental] efectiva.”
También lea: OpenAI prepara el sucesor de GPT-4 ante preocupaciones de seguridad
La carta abierta fue firmada por 11 ex empleados de OpenAI, dos de Google DeepMind, y respaldada por el “padrino de la IA” Geoffrey Hinton, anteriormente de Google. Decía que los motivos de lucro y los vacíos regulatorios permiten a las empresas ocultar las amenazas planteadas por la inteligencia artificial avanzada.
La IA podría llevar a la ‘extinción humana’
Según la carta, empresas de IA como OpenAI y Google DeepMind, creadora de Gemini, no han compartido públicamente información sobre las salvaguardas inadecuadas y los niveles de riesgo de sus sistemas porque no están obligadas a hacerlo.
Sin supervisión regulatoria, los programas de IA podrían causar un gran daño a los humanos. Los empleados advirtieron:
“Estos riesgos van desde el mayor arraigo de las desigualdades existentes… hasta la pérdida de control de los sistemas de IA autónomos, lo que potencialmente resultaría en la extinción humana.”
Como señalaron los firmantes de la carta, las propias empresas de IA han reconocido estos riesgos. En mayo de 2023, los CEOs de OpenAI, Anthropic y Google DeepMind firmaron una carta abierta del Centro para la Seguridad de la IA. La carta simplemente decía: “Mitigar el riesgo de extinción por parte de la IA debería ser una prioridad global junto con otros riesgos a escala social, como pandemias y guerra nuclear.”
Las empresas de IA han estado cada vez más bajo escrutinio por colocar productos novedosos y beneficios por encima de la seguridad y la protección. OpenAI, creadora de ChatGPT, tomó nota de las preocupaciones planteadas en la carta y dijo que está trabajando para desarrollar una inteligencia artificial segura.
“Estamos orgullosos de nuestro historial proporcionando los sistemas de IA más capaces y seguros, y creemos en nuestro enfoque científico para abordar los riesgos”, dijo la portavoz de OpenAI, Lindsey Held, a el New York Times.
“Estamos de acuerdo en que el debate riguroso es crucial dada la importancia de esta tecnología, y continuaremos interactuando con gobiernos, sociedad civil y otras comunidades en todo el mundo.”
Los denunciantes temen represalias
Los ex empleados de OpenAI y Google dijeron que les gustaría llenar el rol de supervisión mientras los reguladores elaboran leyes que obliguen a los desarrolladores de IA a divulgar públicamente más información sobre sus programas.
Sin embargo, los acuerdos de confidencialidad y la probabilidad de represalias por parte de los empleadores desalientan a los trabajadores a expresar públicamente sus preocupaciones. Según la carta:
“Algunos de nosotros tememos razonablemente varias formas de represalias, dado el historial de tales casos en toda la industria. No somos los primeros en encontrarnos o hablar sobre estos temas.”
Los denunciantes están protegidos por la ley en EE. UU., pero aquellos que hablan sobre los peligros de la inteligencia artificial no están cubiertos porque la tecnología aún no está regulada.
También lea: ChatGPT Sigue Difundiendo Falsedades, Dice el Vigía de Datos de la UE
La carta instó a las empresas de IA a facilitar comentarios verificablemente anónimos, apoyar una cultura de crítica abierta y no tomar represalias contra los denunciantes.
El investigador de IA Lance B. Eliot dijo que las empresas adoptan un enfoque de zanahoria y palo ante la crítica. Los empleados que no hablan contra los riesgos son recompensados con ascensos y aumentos salariales.
Por otro lado, los denunciantes y críticos pierden sus opciones de acciones y pueden ser expulsados de la empresa y silenciados en la lista negra por la comunidad de liderazgo de IA.
Reporte de Cryptopolitan por Jeffrey Gogo
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Jeffrey Gogo
Jeffrey Gogo es un periodista con 20 años de experiencia en noticias y análisis de negocios, finanzas y cambio climático. Su trabajo ha sido destacado por la Fundación Thomson Reuters, The Zimbabwe Herald y varias publicaciones en línea. También ha escrito extensamente sobre IA y el metaverso, y comenzó a cubrir los mercados de criptomonedas en 2017. Gogo estudió periodismo y comunicación masiva en CCOSA en Harare.
