- Conselho DHS AI reúne-se para discutir mitigação de viés na segurança da infraestrutura.
- Mayorkas detalha estratégias de prevenção de ameaças de IA para expansão da força de trabalho.
- A colaboração internacional é crucial para defender-se contra o roubo de tecnologia de IA.
A primeira reunião do Conselho Consultivo de IA do Departamento de Segurança Interna foi realizada na segunda-feira desta semana. O conselho visa melhorar o manejo da implantação de tecnologia de inteligência artificial e defender a tecnologia contra ameaças externas.
Enfrentando vieses de IA e riscos de segurança
Durante uma sessão de perguntas e respostas com os repórteres na conferência RSA e um discurso principal com os funcionários, Mayorkas discutiu a segurança da IA e os resultados da discussão da primeira reunião do conselho. Os membros estavam falando sobre a questão da segurança da IA em instalações essenciais. Eles também abordaram as implicações dos direitos humanos da implementação da IA nas tarefas do DHS, com alguns destacando seu potencial para ser usado como uma extensão do viés implícito existente.
Os sistemas de IA que trabalham com colorismo e sexismo são alguns dos problemas de longa data que especialistas e o governo federal continuam abordando, porque os líderes de pensamento e o governo são minorias que não se preocupam em testar os produtos para ver se os sistemas funcionam com mulheres e pessoas de cor. Além disso, a Casa Branca e o Departamento de Justiça também iniciaram projetos direcionados a eliminar os vieses trazidos pelos sistemas de IA.
O conselho do DHS, que se reunirá trimestralmente, foi divulgado. Inclui pessoas como o CEO da OpenAI, Sam Altman, funcionários do governo ativos em IA e proprietários de infraestrutura crítica e criadores de tecnologia. Mayorkas afirmou que existem mais de 20 usos de IA, desde focar em reclamações de seguros de danos de furacões até ajudar recentemente a Agência Federal de Gestão de Emergências (FEMA) a treinar agentes de casos de refugiados.
Cooperação global contra ameaças de IA
Funcionários do DHS destacaram em seus relatórios que criaram um portal listando onde a tecnologia de IA foi implantada ou rescindida devido a preocupações díspares entre várias partes interessadas. Os funcionários da DHS enfatizaram que o departamento está procurando expandir sua força de trabalho em áreas relacionadas à IA, e 3.000 candidaturas já foram recebidas para as funções nesta área.
Mayorkas compartilhou que o conselho iniciou o processo de elaboração de esboços de estratégia e planos para prevenir possíveis ameaças à IA e reduzir os riscos de consequências indesejáveis durante a aplicação da IA. O trabalho suplementar no Conselho já foi satisfatório. O fato de esta ser a composição de líderes internacionais de IA também é crítico, pois trabalhará na legislação prejudicial com outros países.
No entanto, defender os sistemas de IA não será alcançado apenas tendo jogadores globais a bordo. Tal cenário requer a parceria para construir um mecanismo de defesa sólido.
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal: As informações fornecidas não constituem aconselhamento de negociação. A Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações disponibilizadas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar qualquer decisão de investimento.
Brian Koome
Brian Koome tem mais de sete anos de experiência em reportagens sobre blockchain e criptomoedas, estando ativo no setor desde 2017. Ele contribuiu para publicações de destaque, incluindo BlockToday.com. Além disso, desenvolveu o curso Ethereum 101 para BitDegree.org antes de se juntar à Cryptopolitan como escritor em tempo integral. Brian cobre guias perenes (EGs), análises aprofundadas, entrevistas e análise de preços. Seu foco em DeFi, inovação em blockchain e projetos emergentes de criptomoedas encanta os leitores.
