Los modelos de IA pueden ser riesgosos si se dejan en manos de elementos rebeldes
- El gobierno de EE. UU. está estableciendo límites para restringir la exportación de modelos de IA a Rusia y China.
- Se considera que los deepfakes y las armas biológicas son riesgos urgentes.
- Una nueva ley ayudará a la administración Biden a controlar las exportaciones de IA, lo que ralentizará el progreso de China.
El Departamento de Comercio bajo la administración de Biden tiene como objetivo una nueva iniciativa de cumplimiento para restringir aún más la exportación de modelos de inteligencia artificial de código abierto o cerrado. La iniciativa es un esfuerzo para salvaguardar los intereses de EE. UU. y la tecnología de IA de Rusia y China y complementará los pasos tomados durante los últimos dos años para bloquear el acceso chino a los chips de computadora avanzados más recientes.
El esfuerzo de EE. UU. es poner barreras protectoras más estrictas alrededor del software central de los modelos de lenguaje grande que impulsan aplicaciones como ChatGPT, informó Reuters, citando a tres fuentes familiarizadas con el asunto. Mientras que el proveedor de noticias ha afirmado que los investigadores del sector privado y del gobierno están preocupados por el hecho de que los adversarios de EE. UU. puedan usar la tecnología para ciberataques agresivos y desarrollar armas biológicas, la Embajada de China se ha opuesto a la medida y la ha descrito como acoso unilateral y coerción económica.
Los deepfakes son un arma letal de desinformación
Las amenazas que teme EE. UU. son muchas y pueden ser utilizadas por actores no estatales respaldados por estados. Los deepfakes pueden usarse como un arma efectiva para la propaganda, ya que implican videos realistas pero falsos creados por herramientas de IA.
Este tipo de videos ya están emergiendo en las redes sociales. Si bien este tipo de contenido mediático ha existido durante los últimos años, desarrollado con software de animación y renderizado, las herramientas de IA generativa han facilitado su producción para cualquiera, y los actores rebeldes pueden aprovecharlas más fácilmente que nunca para manipular las opiniones públicas sobre temas sensibles, especialmente durante las campañas electorales.
Plataformas de redes sociales como YouTube, Facebook y Twitter ya han tomado medidas para reducir los deepfakes, pero las tácticas para desarrollarlos y publicarlos también están cambiando con el desarrollo de la tecnología. En este momento, herramientas de empresas como Microsoft y OpenAI pueden usarse para crear contenido para difundir desinformación.
Una preocupación mucho mayor es que los modelos de IA pueden filtrar información para desarrollar armas biológicas, según investigadores de Rand Corporation y Gryphon Scientific, y las agencias de inteligencia de EE. UU., expertos académicos y think tanks están preocupados por la posibilidad de que la IA caiga en manos de elementos rebeldes.
El estudio de Gryphon identificó cómo los LLMs pueden generar conocimiento experto y de nivel doctoral que puede ayudar a desarrollar virus con capacidades pandémicas, y esto puede ser utilizado por actores no estatales como armas biológicas.
Ciberataques amplificados con modelos de IA
El Departamento de Seguridad Nacional también ha expresado preocupaciones de que los ciberataques a infraestructuras críticas como ferrocarriles y oleoductos podrían ejecutarse con IA desarrollando nuevas herramientas que serán capaces de ataques cibernéticos a mayor escala y más complejos y más rápidamente.
La agencia también dijo que China está desarrollando software de inteligencia artificial que puede usarse para ataques de malware, y también está trabajando en tecnologías de IA que podrían potencialmente sabotear las defensas cibernéticas del país.
En febrero, Microsoft emitió un informe en el que señaló que ha identificado grupos cibernéticos involucrados en actividades de hacking que están perfeccionando sus campañas de hacking utilizando LLMs, y tienen afiliaciones con la inteligencia militar de Rusia, los gobiernos de Corea del Norte y China, y la Guardia Revolucionaria de Irán.
La compañía anunció una prohibición a los grupos cibernéticos financiados por el estado que utilizan sus productos y servicios de IA. El miércoles, un grupo de legisladores propuso un proyecto de ley que ayudará al gobierno de Biden a aplicar controles sobre la exportación de modelos de IA para evitar que caigan en manos de posibles adversarios.
Los expertos en el asunto han dicho que Washington está tratando de evitar regulaciones abrumadoras que podrían suprimir la innovación, ya que están tratando de fomentar la innovación junto con posibles soluciones para los riesgos asociados con la IA. También destacaron que aplicar regulaciones estrictas regulando estrictamente el avance de la IA creará un vacío para los competidores extranjeros y afectará negativamente a los campos de infraestructura, seguridad nacional y descubrimiento de medicamentos.
No te limites a leer noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.
Aviso de responsabilidad. La información proporcionada no es un consejo de trading. Cryptopolitan.com no asumimos responsabilidad alguna por las inversiones realizadas basándose en la información proporcionada en esta página. Recomendamos encarecidamente la investigación independiente y/o la consulta con un profesional calificado antes de tomar cualquier decisión de inversión.
Aamir Sheikh
Aamir es un periodista tecnológico con casi seis años de experiencia en los sectores de criptomonedas y tecnología. Se graduó de la Universidad MAJ con un MBA en Finanzas y Marketing. Ahora trabaja con Cryptopolitan, donde informa sobre los últimos desarrollos en los mercados de criptomonedas y predicciones de precios.
