Los expertos en IA esperan un ataque devastador en los próximos 12 meses y ya están acercándose al Congreso
- Muchos expertos de la industria de la IA prevén un incidente importante impulsado por la IA dentro de seis a doce meses.
- Los ejecutivos de Anthropic y OpenAI están asesorando al Congreso para dar forma a las normas que seguirán a un primer desastre.
- OpenAI afirmó que sus ejercicios de preparación no consideran estos escenarios como inevitables.
Muchas personas en la industria de la IA anticipan un incidente importante impulsado por la IA dentro de seis a doce meses. Los ejecutivos de Anthropic, OpenAI y otros grandes desarrolladores ya están trabajando con los legisladores que redactarán las normas posteriores, según Axios.
Los ejecutivos reconocen que no hay forma de que cualquier proyecto de ley sobre IA sea aprobado ahora, por lo que están intentando adelantarse a la legislación de emergencia que Washington redactaría tras el primer desastre.
El proyecto de ley de Sanders prevé prisión de hasta 20 años para los infractores
Los planificadores esperan que los demócratas salgan fortalecidos de las elecciones intermedias del 3 de noviembre y actúen rápidamente contra la inteligencia artificial avanzada. Sin embargo, este impulso choca con un Congreso más antiguo que no comprende la tecnología, una economía que depende de los gastos en centros de datos y modelos de peso abierto que cualquiera puede descargar hoy.
Las empresas no creen que el control de ambas cámaras ponga fin a las disputas internas, incluidas las divisiones entre los demócratas.
Las propuestas van desde una prohibición de la superinteligencia hasta una pausa en el desarrollo avanzado. Una de ellas proviene del senador Bernie Sanders y el representante Greg Casar, y se denomina Ley de Prohibición de la Superinteligencia Artificial.
Prohibiría la IA que iguale o supere a los humanos en una amplia gama de tareas y detendría el trabajo avanzado hasta que una nueva agencia federal formule normas de seguridad. Las sanciones pueden incluir hasta 20 años de prisión.
Los interruptores de apagado obligatorios para los modelos avanzados cuentan con el apoyo de ambos partidos y de partes de la industria. Algunos expertos cuestionan si incluso todos los sistemas de inteligencia artificial pueden apagarse.
Un asistente demócrata citó la crisis financiera de 2008 y la COVID como ejemplos de cómo el Congreso actuó con rapidez en emergencias anteriores.
Los planificadores de Anthropic y OpenAI temen un ciberataque que corte el suministro de electricidad y agua
El escenario más probable es un ciberataque lo suficientemente grande como para dejar sin servicio a los bancos, a los proveedores de servicios de Internet o incluso a las empresas de suministro eléctrico y de agua. Los planificadores esperan que el primer daño real causado por una IA insegura solo aleje aún más a un público ya receloso hacia la industria.
El director ejecutivo de Anthropic, Dario Amodei; el director ejecutivo de OpenAI, Sam Altman; y el presidente Donald Trump, quien ha evitado regular la IA, terminarían bajo presión.
Las empresas también realizan pruebas de penetración (red-teaming) ante estos peores escenarios, atacando sus propias defensas para encontrar vulnerabilidades.
La simulación de conflictos bélicos (war-gaming) es una práctica estándar en los negocios y en la seguridad nacional. Aquí, muchos investigadores senior y ejecutivos creen que un incidente grave es inevitable.
«OpenAI realiza ejercicios de preparación en los que los equipos discuten y analizan una variedad de escenarios potenciales», dijo un portavoz de la empresa. «Estos escenarios no se consideran inevitables, sino que tienen como objetivo ayudarnos a prepararnos para diversas circunstancias». Anthropic declinó hacer comentarios.
En Corea del Sur, un atacante individual supuestamente utilizó modelos de inteligencia artificial chinos, incluidos DeepSeek, para atacar dos bancos allí y robar datos de decenas de miles de clientes.
CrowdStrike evalúa con moderada confianza que el atacante es probablemente un hablante de chino. Según la firma de seguridad, el atacante luego solicitó a Claude Code de Anthropic consejos sobre dónde venderlo.
Anthropic ha revelado cuatro ejemplos de modelos Claude que se conectaron a internet abierto durante las pruebas y accedieron a sistemas externos. Los laboratorios también están examinando decenas de miles de instancias de comportamiento inesperado del modelo.
Las mentes más inteligentes del mundo cripto ya leen nuestro boletín. ¿Quieres unirte? Únete a ellos.
Preguntas frecuentes
¿Qué evento están preparando las empresas de IA?
Un ciberataque a gran escala que derriba bancos, servicios de internet o incluso los servicios de energía y agua.
¿Cómo se utilizó la IA en la brecha bancaria de Corea del Sur?
Se alega que un atacante utilizó modelos de IA chinos, incluidos DeepSeek, para robar datos de decenas de miles de clientes bancarios.
¿Por qué las empresas están presionando al Congreso ahora?
Los ejecutivos aceptan que ningún proyecto de ley sobre IA puede aprobarse ahora, por lo que quieren dar forma a la legislación de emergencia redactada tras el primer desastre.
Descargo de responsabilidad. La información proporcionada no constituye asesoramiento financiero. Cryptopolitan.com no asume ninguna responsabilidad por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente realizar una investigación independiente y/o consultar con un profesional calificado antes de tomar cualquier decisión de inversión.
Randa Moses
Randa Moses es editora y reportera en Cryptopolitan, donde cubre tecnología, IA, robótica, criptomonedas, estafas y ciberataques. Ha trabajado en el espacio de las criptomonedas desde 2017. Ocupó cargos en Forward Protocol, AmaZix y Cryptosomniac. Randa posee un grado en Ingeniería Eléctrica y Electrónica de la Universidad de Bradford.
