La inteligencia artificial está haciendo que las amenazas de muerte sean muy realistas, revela activista australiana

La activista australiana Caitlin Roper ha revelado que la inteligencia artificial ahora se está desplegando para hacer amenazas muy realistas y abusos violentos en línea. Según Roper, a pesar de años de trabajo en internet como activista, se encontró traumatizada por la reciente oleada de amenazas impulsadas por IA que ha recibido.

Las amenazas generadas digitalmente han sido posibles durante los últimos años, y hasta hace poco, los modelos de inteligencia artificial no podían replicar a personas reales a menos que tuvieran una gran presencia en línea. Según un experto, los modelos ahora solo necesitan una foto de perfil para crear cualquier cosa que los usuarios deseen.

En 2023, a un juez en Florida le enviaron un video, creado utilizando una herramienta de personalización en el videojuego Grand Theft Auto. El video presentaba un avatar que se parecía y caminaba como el juez siendo hackeado hasta la muerte.

La activista australiana pide precaución sobre el uso de la inteligencia artificial

Según Roper, algunas de las publicaciones que ha recibido formaban parte de una campaña de vitriolo dirigida hacia ella y sus colegas en Collective Shout, un grupo activista australiano en X y otras plataformas de redes sociales. Ella señaló que en una de las imágenes enviadas a ella, había una foto de ella colgada de un lazo, mientras que otro video la mostraba ardiendo y gritando. Otros eran más gráficos, con los usuarios yendo a extremos para transmitir su mensaje.

Roper afirmó que en la mayoría de las imágenes y videos confeccionados con inteligencia artificial, ella llevaba un vestido floral azul que realmente posee. “Son estos pequeños detalles extraños los que hacen que se sienta más real y, de alguna manera, una violación de un tipo diferente”, dijo. “Estas cosas pueden pasar de la fantasía a algo más que fantasía”. Señaló que la avalancha de abuso en línea comenzó este verano después de su campaña para cerrar los videojuegos violentos que glorifican escenas para adultos y el abuso.

Mencionó que algunas de las cuentas e imágenes dirigidas a ella han sido eliminadas. Roper también mencionó que la empresa afirmó que otras publicaciones que representaban su muerte violenta no violaban los términos de servicio de la plataforma. De hecho, afirmó que X, en un momento dado, incluyó una de las cuentas que la acosan en una lista de personas recomendadas para seguir. Roper mencionó que algunos de sus acosadores también han afirmado usar Grok para investigar cómo encontrar mujeres en sus hogares y cafeterías.

Roper quiere que las plataformas aborden esta amenaza

Roper afirmó que después de hartarse, decidió publicar algunos ejemplos. Después de hacerlo, X le dijo que sus cuentas estaban en violación de las políticas de seguridad contra la gore gratuita y bloqueó temporalmente su cuenta.

Mientras tanto, ha habido una campaña global contra la inteligencia artificial debido a su uso para llevar a cabo estafas. Los criminales ahora utilizan la tecnología para imitar las voces de personas reales, usándola en sus numerosas actividades ilícitas. Otras actividades incluyen la creación de contenido para adultos con inteligencia artificial sin el permiso expreso del sujeto.

Además de este tipo de contenido, los informes afirman que la inteligencia artificial también está haciendo que otras amenazas sean más convincentes. Por ejemplo, el swatting es la práctica de realizar llamadas falsas de emergencia con el objetivo de provocar una gran respuesta de la policía y el personal de emergencia. En el verano, la Asociación Nacional de Fiscales Generales mencionó que la tecnología “ha intensificado significativamente la escala, la precisión y el anonimato” de tales ataques.

En una escala menor, un aumento en los videos hechos con inteligencia artificial que muestran supuestas invasiones al hogar ha causado que los residentes objetivo llamen a departamentos de policía en todo el país. El informe afirma que los perpetradores de swatting pueden convencer a las fuerzas del orden de informes falsos clonando voces y manipulando imágenes. Un delincuente serial utilizó disparos simulados para sugerir que un tirador estaba en el estacionamiento de una escuela secundaria en el estado de Washington. El campus fue bloqueado durante 20 minutos después de que la policía y los agentes federales se presentaron.