O Instituto de Segurança do Reino Unido lança o Inspect, uma ferramenta de avaliação de segurança com IA

O progresso do Reino Unido na implementação de medidas éticas e de segurança relacionadas à inteligência artificial (IA) ganhou impulso com a introdução do conjunto de ferramentas Inspect, criado pelo Instituto de Segurança do Reino Unido. Concebido como uma ferramenta para garantir a segurança da IA, o Inspect oferece um algoritmo completo para a avaliação de de IA , representando, portanto, um marco crucial na busca por um desenvolvimento de IA transparente e responsável. 

Uma abordagem revolucionária para testes de segurança em IA

A principal característica do Inspect reside na sua capacidade de desvendar as autoridades de algoritmos complexos de IA. Devido à sua opacidade, que pode implicar a não divulgação de aspectos críticos como infraestruturas subjacentes e dados de treino, estes modelos representam um grande desafio. O Inspect supera este problema através da sua arquitetura altamente flexível, que permite complementar facilmente as tecnologias e métodos de teste já existentes. 

O Inspect inclui três módulos principais: conjuntos de dados, solucionadores e avaliadores. Os módulos são organizados para permitir um processo de testematic . Os conjuntos de dados são o recurso para testes avaliativos usando populações amostrais; os avaliadores, por sua vez, julgam o resultado da execução dos solucionadores e as pontuações são compiladas em métricas agregadas. Um ponto central é que a estrutura do Inspect pode ser aprimorada pela incorporação de pacotes Python externos, aumentando, assim, a eficiência e a utilidade do Inspect. 

Colaboração pioneira e impacto global

O lançamento do Inspect simboliza a união da comunidade de IA e a promoção da transparência e da cooperação em todo o planeta. Além de se basear em princípios de código aberto e fomentar uma cultura colaborativa, o AI Safety Institute UK tem como missão promover uma abordagem compartilhada para testes de segurança de IA, superando divisões geográficas e organizacionais. Ian Hogarth, presidente do Safety Institute, afirma que a abordagem coletiva é fundamental e que o Inspect deve ser a referência para avaliações padronizadas e de alta qualidade entre todas as partes envolvidas, incluindo setores e stakeholders. 

Deborah Raj, especialista em ética de IA e pesquisadora da Mozilla, acredita que o desenvolvimento do Inspect é uma das ilustrações dos efeitos transformadores do investimento público em ferramentas de IA de código aberto para responsabilidade. O lançamento do Inspect repercute além da academia e da indústria, já que Clément Delangue, CEO da startup de IA Hugging Face, defende sua inclusão nas bibliotecas de modelos atuais e a criação de um ranking público para exibir os resultados das avaliações.

Uma mudança de paradigma transatlântica na governança da IA

A apresentação do Inspect visa o amplo reconhecimento da necessidade de governança e responsabilização internacional em IA. Os EUA e o Reino Unido estão trabalhando juntos, tomando como exemplo os acordos da Cúpula de Segurança de IA em Bletchley Park, para desenvolver, em conjunto, protocolos de teste para modelos avançados de IA. Inicialmente, os Estados Unidos planejam criar um instituto de segurança de IA, cuja criação está alinhada ao objetivo geral dedente solucionar riscos relacionados à IA e à IA generativa. 

O Inspect, aplicativo de IA de última geração, representa um marco importante na jornada da IA, onde um tema central que conecta tudo é a transparência, a responsabilidade e a governança responsável. As preocupações com a responsabilidade na inteligência artificial, tanto por parte das nações quanto das organizações, inspiram iniciativas como o Inspect, que preveem um futuro promissor em que a IA será cada vez mais aceita pelos humanos devido àtronconsideração pelo desenvolvimento da confiança, da integridade e de valores centrados no ser humano.