Mayorkas revela la estrategia del DHS para proteger la inteligencia artificial

La primera reunión del IA se celebró el lunes de esta semana. El objetivo del consejo es mejorar la gestión del despliegue de la tecnología de inteligencia artificial y protegerla contra amenazas externas.

Abordar los sesgos de la IA y los riesgos de seguridad

Durante una sesión de preguntas y respuestas con los periodistas en la conferencia de RSA y un discurso inaugural con los empleados, Mayorkas habló sobre la seguridad de la IA y los resultados de los debates de la primera reunión de la junta. Los miembros abordaron el tema de la seguridad de la IA en instalaciones esenciales. También abordaron las implicaciones para los derechos humanos de la implementación de la IA en las tareas del DHS, y algunos destacaron su potencial para ser utilizada como una extensión del sesgo implícito existente.

Los sistemas de IA que perpetúan el racismo por color de piel y el sexismo son problemas recurrentes que tanto expertos como el gobierno federal siguen abordando, ya que los líderes de opinión y el gobierno pertenecen a minorías que no se molestan en probar los productos para comprobar si los sistemas funcionan correctamente con mujeres y personas de color. Además, la Casa Blanca y el Departamento de Justicia también han puesto en marcha proyectos para eliminar los sesgos propios de los sistemas de IA.

Se dio a conocer la junta del DHS, que se reunirá trimestralmente. Incluye a personas como Sam Altman, director ejecutivo de OpenAI, funcionarios gubernamentales activos en IA y propietarios de infraestructuras críticas y cerveceras tecnológicas. Mayorkas afirmó que existen más de 20 usos de la IA, desde centrarse en reclamaciones de seguros por daños causados ​​por huracanes hasta la reciente ayuda a la Agencia Federal para el Manejo de Emergencias (FEMA) para capacitar a agentes de casos de refugiados.

Cooperación global contra las amenazas de la IA

Los funcionarios del DHS han destacado en sus informes la creación de un portal que lista dónde se ha implementado o cancelado tecnología de IA debido a la disparidad de preocupaciones entre las distintas partes interesadas. Los del DHS destacaron que el departamento busca ampliar su plantilla en áreas relacionadas con la IA, y que ya se han recibido 3000 solicitudes para puestos de trabajo en este campo.

Mayorkas comentó que la junta inició el proceso de elaboración de esquemas de estrategia y planes para prevenir posibles amenazas a la IA y reducir el riesgo de consecuencias indeseables durante su aplicación. El trabajo complementario de la Junta ya fue satisfactorio. El hecho de que esta sea la composición de líderes internacionales en IA también es crucial, ya que trabajará en la armonización legislativa con otros países.

Sin embargo, la defensa de los sistemas de IA no se logrará únicamente con la participación de actores globales. En tal escenario, se requiere la colaboración para construir un mecanismo de defensa sólido.