El uso de IA por parte del gobierno para escudriñar las redes sociales genera preocupaciones

En los últimos años, el uso de la inteligencia artificial (IA) en diversos aspectos de las operaciones gubernamentales se ha vuelto más prevalente. Sin embargo, ha generado debates significativos sobre privacidad, responsabilidad y equidad. Una revelación reciente sobre el uso de IA por parte de la agencia de Inmigración y Aduanas de los Estados Unidos (ICE) para monitorear la actividad en redes sociales de los solicitantes de visado ha encendido nuevas discusiones sobre el papel de los algoritmos en la determinación de quién se considera "riesgoso". 

La herramienta impulsada por IA: Giant Oak Search Technology (GOST)

Documentos obtenidos a través de una acción de la Ley de Libertad de Información (FOIA) han revelado que ICE ha estado utilizando una herramienta impulsada por IA conocida como Giant Oak Search Technology (GOST) desde 2014. GOST está diseñada para escanear las publicaciones en redes sociales de los solicitantes de visado y asignarles una "puntuación de redes sociales" que oscila entre 1 y 100. Esta puntuación se determina en función de si las publicaciones son "despectivas" hacia los Estados Unidos. Si la puntuación de un solicitante genera preocupaciones, los analistas de ICE pueden revisar las imágenes y perfiles marcados para evaluar si representan un riesgo potencial.

Una inversión de millones de dólares

El alcance de este programa de vigilancia por IA es significativo, con ICE habiendo pagado más de 10 millones de dólares a Giant Oak por la tecnología desde 2017. Además, el alcance de Giant Oak se extiende más allá de ICE, ya que la empresa también tiene contratos con otras agencias gubernamentales, incluida la Administración de Drogas (DEA), la Fuerza Aérea, el Departamento de Estado y el Departamento del Tesoro. El uso generalizado de esta tecnología en varias agencias gubernamentales ha llevado a los defensores de la privacidad a cuestionar sus implicaciones para las libertades civiles.

Los defensores de la privacidad suenan la alarma

Los defensores de la privacidad argumentan que el uso de algoritmos de IA para filtrar el contenido de las redes sociales plantea graves preocupaciones. Patrick Toomey, director adjunto del proyecto de seguridad nacional de la Unión Estadounidense de Libertades Civiles (ACLU), expresó sus preocupaciones, afirmando: “El gobierno no debería estar utilizando algoritmos para escudriñar nuestras publicaciones en redes sociales y decidir quiénes de nosotros son ‘de riesgo’”. Toomey pidió transparencia e instó al Departamento de Seguridad Nacional (DHS) a explicar cómo sus sistemas determinan el riesgo de un individuo y qué consecuencias pueden enfrentar aquellos señalados por sus algoritmos.

Los orígenes de la vigilancia en redes sociales

El programa de vigilancia en redes sociales bajo discusión comenzó como una prueba piloto en 2016, dirigido principalmente a posibles excedentes de visado. Concurrentemente, en 2016, la administración Trump implementó reglas que requerían que los solicitantes de visado proporcionaran cinco años de su historial de redes sociales como parte del proceso de selección. Estas medidas se introdujeron en un intento por mejorar la seguridad nacional, pero desde entonces se han convertido en un tema de controversia.

El riesgo de discriminación

Los expertos han planteado preocupaciones de que estas prácticas impulsadas por la IA puedan llevar inadvertidamente a la discriminación. Argumentan que los sistemas automatizados podrían marcar desproporcionadamente a solicitantes de ciertos países o antecedentes, lo que potencialmente resultaría en resultados injustos. Un caso notable en 2019 vio a un estudiante de Harvard denegado la entrada a los Estados Unidos debido a la actividad en redes sociales de sus amigos, destacando el potencial de consecuencias no deseadas.

El futuro de la IA en la aplicación de la inmigración

Aunque el contrato de ICE con Giant Oak reportedly terminó en 2022, el problema más amplio del uso de la IA para evaluar el contenido de las redes sociales de los solicitantes continúa siendo un tema de preocupación. La necesidad de una mayor supervisión y regulación para prevenir el abuso y proteger las libertades civiles es evidente. Las implicaciones de estas prácticas se extienden más allá de la aplicación de la inmigración y plantean preguntas fundamentales sobre el equilibrio entre la seguridad y la privacidad individual en la era digital.

El uso de algoritmos de IA para monitorear y evaluar el contenido de las redes sociales en el contexto de las solicitudes de visado ha encendido un debate sobre el papel del gobierno en la determinación de quién se considera un riesgo potencial. Los defensores de la privacidad argumentan que tales prácticas plantean preocupaciones significativas sobre las libertades civiles, y los expertos advierten sobre el riesgo de discriminación basada en la nacionalidad o el origen. A medida que la tecnología continúa evolucionando, se vuelve cada vez más importante encontrar un equilibrio entre la seguridad nacional y la protección de los derechos de privacidad individual. El caso de GOST y su uso por parte de ICE sirve como un recordatorio contundente de los desafíos y preguntas que quedan por delante en la era de la vigilancia impulsada por IA.