la primera reunión del IA . El objetivo del consejo es mejorar la gestión del despliegue de tecnología de inteligencia artificial y protegerla de amenazas externas.
Abordar los sesgos de la IA y los riesgos de seguridad
Durante una sesión de preguntas y respuestas con los periodistas en la conferencia de RSA y un discurso inaugural con los empleados, Mayorkas habló sobre la seguridad de la IA y los resultados de los debates de la primera reunión de la junta. Los miembros abordaron el tema de la seguridad de la IA en instalaciones esenciales. También abordaron las implicaciones para los derechos humanos de la implementación de la IA en las tareas del DHS, y algunos destacaron su potencial para ser utilizada como una extensión del sesgo implícito existente.
Los sistemas de IA que trabajan con el colorismo y el sexismo son dos problemas de larga data que los expertos y el gobierno federal siguen abordando, ya que los líderes de opinión y el gobierno son minorías que no se molestan en probar los productos para comprobar si los sistemas funcionan con mujeres y personas de color. Además, la Casa Blanca y el Departamento de Justicia también han iniciado proyectos para eliminar los sesgos generados por los sistemas de IA.
Se dio a conocer la junta del DHS, que se reunirá trimestralmente. Incluye a personas como Sam Altman, director ejecutivo de OpenAI, funcionarios gubernamentales activos en IA y propietarios de infraestructuras críticas y cerveceras tecnológicas. Mayorkas afirmó que existen más de 20 usos de la IA, desde centrarse en reclamaciones de seguros por daños causados por huracanes hasta la reciente ayuda a la Agencia Federal para el Manejo de Emergencias (FEMA) para capacitar a agentes de casos de refugiados.
Cooperación global contra las amenazas de la IA
Los funcionarios del DHS han destacado en sus informes la creación de un portal que lista dónde se ha implementado o cancelado tecnología de IA debido a la disparidad de preocupaciones entre las distintas partes interesadas. Los del DHS destacaron que el departamento busca ampliar su plantilla en áreas relacionadas con la IA, y que ya se han recibido 3000 solicitudes para puestos de trabajo en este campo.
Mayorkas comentó que la junta inició el proceso de elaboración de esquemas de estrategia y planes para prevenir posibles amenazas a la IA y reducir el riesgo de consecuencias indeseables durante su aplicación. El trabajo complementario de la Junta ya fue satisfactorio. El hecho de que esta sea la composición de líderes internacionales en IA también es crucial, ya que trabajará en la armonización legislativa con otros países.
Sin embargo, la defensa de los sistemas de IA no se logrará únicamente con la participación de actores globales. En tal escenario, se requiere la colaboración para construir un mecanismo de defensa sólido.
