La inteligencia artificial hace que las amenazas de muerte sean muy realistas, revela un activista australiano

La activista australiana Caitlin Roper ha revelado que la inteligencia artificial se está utilizando para generar amenazas muy realistas y abusos violentos en línea. Según Roper, a pesar de sus años de trabajo como activista en internet, la reciente oleada de amenazas impulsadas por IA que ha recibido la ha traumatizado.

Las amenazas generadas digitalmente han sido posibles en los últimos años, y hasta hace poco, los modelos no podían replicar a personas reales a menos que tuvieran una gran presencia en línea. Según un experto, ahora los modelos solo necesitan una foto de perfil para crear lo que los usuarios deseen.

En 2023, un juez de Florida recibió un video creado con una herramienta de personalización del videojuego Grand Theft Auto. El video mostraba un avatar que se veía y caminaba como el juez mientras lo mataban a machetazos.

Activista australiano pide cautela en el uso de inteligencia artificial

Según Roper, algunas de las publicaciones que recibió formaban parte de una campaña de vitriolo dirigida contra ella y sus colegas de Collective Shout, un grupo activista australiano en X y otras plataformas de redes sociales. Señaló que en una de las fotos que le enviaron, aparecía colgada de una soga, mientras que en otro video aparecía en llamas y gritando. Otras eran más gráficas, y los usuarios se esforzaban por difundir su mensaje.

Roper afirmó que en la mayoría de las fotos y videos creados con inteligencia artificial, llevaba un vestido azul floral que, efectivamente, le pertenece. "Son estos pequeños detalles extraños los que lo hacen parecer más real y, de alguna manera, un tipo diferente de violación", dijo. "Estas cosas pueden pasar de ser fantasía a algo más que fantasía". Señaló que el torrente de abuso en línea comenzó este verano tras su campaña para prohibir los videojuegos violentos que glorifican escenas y abusos para adultos.

Mencionó que algunas de las cuentas e imágenes dirigidas a ella fueron eliminadas. Roper también mencionó que la compañía afirmó que otras publicaciones que mostraban su muerte violenta no infringían los términos de servicio de la plataforma. De hecho, afirmó que X, en algún momento, incluyó una de las cuentas que la acosaban en una lista de personas recomendadas para seguir. Roper mencionó que algunos de sus acosadores también afirmaron usar Grok para buscar información sobre cómo encontrar mujeres en casas y cafés.

Roper quiere plataformas para abordar esta amenaza

Roper afirmó que, tras hartarse, decidió publicar algunos ejemplos. Después, X le dijo que sus cuentas infringían las políticas de seguridad contra el contenido sangriento gratuito y bloqueó su cuenta temporalmente.

Mientras tanto, se ha desatado una campaña global contra la inteligencia artificial debido a su uso para realizar estafas. Los delincuentes ahora utilizan esta tecnología para imitar las voces de personas reales, utilizándola en sus numerosas actividades ilícitas. Otras actividades incluyen la creación de contenido para adultos con inteligencia artificial sin la autorización expresa del sujeto.

Además de este tipo de contenido, los informes afirman que la inteligencia artificial también está haciendo que otras amenazas sean más convincentes. Por ejemplo, el swatting consiste en realizar llamadas de emergencia falsas con el objetivo de provocar una respuesta masiva de la policía y el personal de emergencias. En verano, la Asociación Nacional de Fiscales Generales mencionó que la tecnología «ha intensificado significativamente la escala, la precisión y el anonimato» de estos ataques.

En menor escala, el aumento de videos creados con inteligencia artificial que muestran supuestos allanamientos de morada ha provocado que losdentafectados llamen a la policía de todo el país. El informe afirma que quienes cometen actos de violencia doméstica pueden convencer a las fuerzas del orden de denuncias falsas clonando voces y manipulando imágenes. Un delincuente reincidente utilizó disparos simulados para sugerir que un tirador se encontraba en el estacionamiento de una escuela secundaria del estado de Washington. El campus fue cerrado durante 20 minutos tras la llegada de la policía y agentes federales.