El Departamento de Comercio, bajo la administración Biden, busca implementar una nueva iniciativa de cumplimiento para restringir aún más la exportación de modelos de inteligencia artificial de código abierto o cerrado. Esta iniciativa busca proteger los intereses estadounidenses y la tecnología de IA de Rusia y China, y complementará las medidas adoptadas en los últimos dos años para bloquear el acceso chino a los chips informáticos más avanzados.
El esfuerzo de EE. UU. consiste en establecer barreras de protección más estrictas alrededor del software principal de los grandes modelos de lenguaje que impulsan aplicaciones como ChatGPT, según informó Reuters, citando a tres fuentes familiarizadas con el asunto. Si bien el medio ha afirmado que investigadores del sector privado y del gobierno están preocupados por la posibilidad de que adversarios estadounidenses utilicen la tecnología para ciberataques agresivos y desarrollar armas biológicas, la Embajada de China se ha opuesto a la medida, calificándola de acoso unilateral y coerción económica.
Los deepfakes son un arma letal de desinformación
Las amenazas que teme Estados Unidos son numerosas y pueden ser utilizadas por actores no estatales respaldados por Estados. Los deepfakes pueden utilizarse como un arma eficaz de propaganda, ya que consisten en vídeos realistas pero falsos creados con herramientas de inteligencia artificial.
Este tipo de vídeos ya están apareciendo en redes sociales. Si bien este tipo de contenido multimedia ha existido durante los últimos años, desarrollado con software de animación y renderizado, las herramientas de IA generativa han facilitado su producción para cualquier persona, y los actores deshonestos pueden aprovecharlos con más facilidad que nunca para manipular la opinión pública sobre temas delicados, especialmente durante las campañas electorales.
Plataformas de redes sociales como YouTube, Facebook y Twitter ya han tomado medidas para reducir los deepfakes, pero las tácticas para desarrollarlos y publicarlos también están cambiando con el desarrollo tecnológico. Actualmente, herramientas de empresas como Microsoft y OpenAI permiten crear contenido para difundir desinformación.
Una preocupación mucho mayor es que los modelos de IA puedan filtrar información para el desarrollo de armas biológicas, según investigadores de Rand Corporation y Gryphon Scientific, y las agencias de inteligencia estadounidenses, expertos académicos y grupos de expertos están preocupados por la posibilidad de que la IA caiga en manos de elementos rebeldes.
El estudio Gryphondentcómo los LLM pueden generar conocimiento especializado y de nivel doctoral que puede ayudar a desarrollar virus con capacidades pandémicas, y estos pueden ser utilizados por actores no estatales como armas biológicas.
Ciberataques amplificados con modelos de IA
El Departamento de Seguridad Nacional también ha expresado su preocupación por que los ataques cibernéticos a infraestructura crucial, como ferrocarriles y oleoductos, podrían ejecutarse con IA mediante el desarrollo de nuevas herramientas que serán capaces de realizar ataques cibernéticos a mayor escala y más complejos, y con mayor rapidez.
La agencia también dijo que China está desarrollando un software de inteligencia artificial que puede utilizarse para ataques de malware y que también está trabajando en tecnologías de IA que potencialmente podrían sabotear las defensas cibernéticas del país.
En febrero, Microsoft publicó un informe en el que señaló que habíadentgrupos cibernéticos involucrados en actividades de piratería que están perfeccionando sus campañas de piratería utilizando LLM y que tienen afiliaciones con la inteligencia militar de Rusia, los gobiernos de Corea del Norte y China y la Guardia Revolucionaria de Irán.
financiados por el estado grupos cibernéticos que utilizan sus productos y servicios de IA. El miércoles, un grupo de estadistas propuso un proyecto de ley que ayudará al gobierno de Biden a aplicar controles sobre la exportación de modelos de IA para evitar su exposición a posibles adversarios.
Expertos en la materia han afirmado que Washington intenta evitar regulaciones excesivas que puedan frenar la innovación, ya que busca fomentarla junto con posibles soluciones a los riesgos asociados con la IA. También destacaron que la aplicación de regulaciones estrictas mediante la regulación estricta de los avances de la IA creará un vacío para la competencia extranjera y afectará negativamente los ámbitos de la infraestructura, la seguridad nacional y el descubrimiento de fármacos.
