Sam Altman, de OpenAI, pide frenar la carrera por la IA, ya que actores estatales están secuestrando Anthropic para convertirlo en armas biológicas
Foto de Solen Feyissa en Unsplash.
- Sam Altman comunicó esta semana al personal de OpenAI que la empresa está dispuesta a ralentizar el desarrollo de la IA de vanguardia si sus rivales hacen lo mismo.
- Anthropic informó que científicos vinculados al Estado intentaron utilizar a Claude para investigaciones que pudieran servir de base para la fabricación de armas biológicas.
- Los legisladores de California y Washington debaten normas obligatorias mientras los mayores laboratorios de IA se enfrentan a revueltas internas por motivos de seguridad y a posibles salidas a bolsa.
Esta semana, el personal de OpenAI fue informado de que el laboratorio de IA estaría dispuesto a reducir el ritmo de su trabajo en las áreas más avanzadas de la inteligencia artificial. Sam Altman extendió la misma propuesta a sus rivales en el campo de la IA, incluyendo a Anthropic, que también reconoció los riesgos asociados al desarrollo de la IA en un informe que reveló que científicos vinculados a instituciones estatales intentaron utilizar sus modelos Claude para la investigación de armas biológicas.
OpenAI ha declarado que ya ha suspendido algunas pruebas de entrenamiento internas y ha flexibilizado ciertas partes del desarrollo de modelos debido a preocupaciones de seguridad.
La sucesión de revelaciones está avivando el debate sobre si el sector se está moviendo demasiado rápido antes de las ofertas públicas, según siguen insinuando ambas empresas.
¿Por qué quiere Altman ralentizar el desarrollo de la IA?
En una reunión con todos los empleados de OpenAI, Sam Altman, director ejecutivo, informó a los presentes que el laboratorio de IA, junto con otros laboratorios que hayan dado su consentimiento, podría ralentizar el ritmo de lanzamiento de los modelos más innovadores.
Debido al carácter voluntario de cualquier acuerdo de este tipo, Altman admitió que no todas las empresas estarían de acuerdo con el plan, según fuentes citadas por Bloomberg.
Ese escepticismo tienedent. Hace tres años, en marzo de 2023, Elon Musk, Steve Wozniak y más de 1000 personas firmaron una carta abierta para detener el trabajo avanzado en IA durante seis meses.
Tal y como informaron los medios en su momento, los laboratorios no cumplieron con la moratoria que habían acordado conjuntamente.
El llamamiento a la acción en materia de riesgos de la IA también se hizo público en una publicación del 6 de septiembre del científico jefe de OpenAI, Jakub Pachocki, en la que pedía a las empresas de IA que se coordinaran para "ralentizar el desarrollo futuro según sea necesario". Pachocki expresó su esperanza de que las ralentizaciones voluntarias "se generalicen hasta que se establezcan límites de seguridad compartidos"
En julio, Altman declaró haber informado a funcionarios de la Casa Blanca sobre la necesidad de frenar el desarrollo de la IA. Junto con el director ejecutivo de Anthropic, Dario Amodei, Altman también firmó previamente una declaración breve en la que afirmaba que la IA representa un riesgo de extinción a escala social.
¿Se pueden utilizar los modelos de IA para construir armas biológicas?
Los modelos de IA han avanzado hasta el punto de que podrían ser capaces de respaldar la investigación de armas biológicas. Precisamente esta semana, OpenAI declaró que sus modelos habían resuelto el problema matemático de Navier-Stokes, aunque en términos controvertidos.
Anthropic aportó nuevos elementos a ese debate cuando el informe de inteligencia sobre amenazas del laboratorio de 154 páginasy publicado el 10 de septiembre, detalló cinco casos en los que los investigadores intentaron utilizar las capacidades de Claude para apoyar su trabajo en el desarrollo de armas biológicas.
Anthropic afirmó que los intentos desde “regiones no compatibles” buscaban eludir las restricciones geográficas y ocultar el propósito de su trabajo. El laboratorio indicó que eliminó las cuentas, pero no mencionó ningún país ni institución.
¿Han superado los riesgos de la IA a sus beneficios?
Los informes surgieron en medio de una ola de alarma pública proveniente del interior de los laboratorios. El 8 de septiembre, el investigador Jacob Coxon renunció y acusó tanto a OpenAI como a Anthropic de "jugar con nuestras vidas", afirmando que sus colegas creen que la tecnología podría "acabar con todos nosotros para finales de la década" y advirtiendo sobre la extinción humana para 2030.
Su publicación obtuvo más de 150 millones de visualizaciones. Dos días después, el 10 de septiembre, antiguos empleados de Anthropic y DeepMind de Google expresaron preocupaciones similares y exigieron mayor transparencia.
Una petición presentada a finales de julio para crear un mecanismo que ralentice el desarrollo reunió las firmas de más de 1.000 trabajadores de las principales empresas de inteligencia artificial.
OpenAI está presionando al Congreso para que establezca normas de seguridad obligatorias basadas en capacidades que abarquen pruebas, evaluacionesdent , ciberseguridad e informesdent . «La perspectiva de un desarrollo de IA acelerado por la IA exige más que compromisos voluntarios», escribió Chris Lehane, director de Asuntos Globales.
California dio el primer paso: el gobernador Gavin Newsom firmó el miércoles los proyectos de ley SB 813 y AB 1405, junto con un proyecto de ley complementario, el AB 1864, destinado a protegerse contra las amenazas biológicas habilitadas por la inteligencia artificial.
En Washington, el senador Bernie Sanders presentó un proyecto de ley para frenar el desarrollo de la IA avanzada y prohibir la superinteligencia artificial, declarando a la BBC que ignorar las advertencias de los científicos convertiría a alguien en "un imbécil".
Eldent Donald Trump replicó, diciendo el jueves que le preocupaba que "si no ganamos en la IA, nos encontraremos en una situación muy mala"
Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete!
Preguntas frecuentes
¿Qué les dijo Sam Altman a los empleados de OpenAI?
En una reunión de toda la empresa celebrada esta semana, Altman dijo que OpenAI podría ralentizar el ritmo de su desarrollo de IA de vanguardia, posiblemente en coordinación con otros laboratorios líderes, aunque señaló que algunas empresas podrían no estar de acuerdo.
¿Qué reveló el informe de Anthropic sobre amenazas relacionadas con las armas biológicas?
El informe de Anthropic, de 154 páginas, describía cinco casos en los que investigadores, algunos vinculados a instituciones estatales, utilizaron Claude de maneras que podrían apoyar el desarrollo de armas biológicas, incluido un estudio sobre el chikungunya vinculado a un instituto de investigación militar; la empresa prohibió las cuentas implicadas.
¿Cómo están respondiendo los legisladores a las preocupaciones sobre la seguridad de la IA?
El gobernador de California, Gavin Newsom, firmó el miércoles varios proyectos de ley de supervisión de la IA, incluido uno que apunta a las amenazas biológicas habilitadas por la IA, mientras que el senador estadounidense Bernie Sanders presentó una legislación para frenar la IA avanzada y prohibir la superinteligencia artificial.
Aviso legal. La información proporcionada no constituye asesoramiento comercial. Cryptopolitanconsultar no se responsabiliza de las inversiones realizadas con base en la información proporcionada en esta página. Recomendamostronencarecidamente realizar una investigación independientedent un profesional cualificado antes de tomar cualquier decisión de inversión.
Hannah Collymore
Hannah es escritora y editora con casi una década de experiencia en redacción de blogs y reportajes sobre eventos en el ámbito de las criptomonedas. En Cryptopolitan, colabora en la sección de noticias, informando y analizando las últimas novedades en DeFi, RWA, regulación de criptomonedas, IA y tecnologías de vanguardia. Se graduó en Administración de Empresas por la Universidad de Arcadia.
