UK Safety Institute Lança Inspect, Ferramenta de Avaliação de Segurança de IA

O progresso do Reino Unido (U.K.) na implementação de medidas éticas e de segurança em torno da inteligência artificial (IA) ganhou impulso com a introdução do conjunto de ferramentas Inspect, criado pelo UK Safety Institute. Proposto como um conjunto de ferramentas para garantir a segurança da IA, o Inspect oferece um algoritmo completo para a avaliação de modelos de IA, marcando assim um marco crítico na busca por um desenvolvimento de IA transparente e responsável.

Uma abordagem revolucionária para testes de segurança de IA

A principal característica do Inspect reside em sua capacidade de resolver as autoridades de algoritmos complexos de IA. Devido à sua opacidade, que pode implicar a não divulgação de aspectos críticos como infraestruturas subjacentes e dados de treinamento, esses modelos representam um grande desafio. A inspeção supera esse problema por meio de sua arquitetura extremamente flexível, que permite complementar prontamente as tecnologias e métodos de teste já existentes. 

Inclui três módulos principais: datasets (conjuntos de dados), solvers (solucionadores) e scorers (avaliadores). Os módulos são organizados para permitir um processo de teste sistemático. Os datasets são o recurso para testes avaliativos usando populações de amostra; os scorers então julgam o resultado da execução dos solucionadores e as pontuações são compiladas em métricas agregadas. Central a isso é que a estrutura do Inspect pode ser aprimorada pela incorporação de pacotes Python externos, aumentando assim a eficiência e a utilidade do Inspect. 

Colaboração pioneira e impacto global

O lançamento do Inspect é o símbolo de reunir a comunidade de IA e promover a transparência e a cooperação em todo o planeta. Além de depender de princípios de código aberto e fomentar uma cultura colaborativa, o AI Safety Institute UK tem a missão de trazer uma abordagem compartilhada para testes de segurança de IA, superando divisões geográficas e organizacionais. Ian Hogarth, Presidente do Safety Institute, afirma que a abordagem coletiva é fundamental; o Inspect deve ser o ponto de referência para avaliações padronizadas e de alta qualidade entre todas as partes envolvidas, incluindo setores e partes interessadas.

Deborah Raj, ética de IA e pesquisadora sênior na Mozilla, acredita que o desenvolvimento do Inspect é um dos exemplos dos efeitos transformadores do investimento público em ferramentas de responsabilidade de IA de código aberto. O lançamento do Inspect tem eco além da academia e da indústria, já que Clément Delangue, CEO da startup de IA Hugging Face, pede que ele faça parte das bibliotecas de modelos atuais e que seja criado um ranking público, onde os resultados das avaliações serão exibidos.

Uma mudança de paradigma transatlântica na governança de IA

A apresentação do Inspect visa parte de um amplo reconhecimento da necessidade de governança e responsabilidade internacionais de IA. Os EUA e o Reino Unido estão trabalhando juntos, olhando para os acordos da Cúpula de Segurança de IA em Bletchley Park como exemplo, para desenvolver conjuntamente os protocolos de teste para modelos avançados de IA. Para começar, os Estados Unidos planejam criar um instituto de segurança de IA, cujo estabelecimento corresponde ao objetivo geral de identificar e resolver riscos relacionados à IA e à IA generativa. 

Inspect, a aplicação de IA de próxima geração, significa um marco importante na jornada da IA, onde um tema central que conecta tudo é a transparência, a responsabilidade e a governança responsável. As preocupações em manter a inteligência artificial responsável, tanto por parte das nações quanto das organizações, inspiram iniciativas como o Inspect que preveem um futuro brilhante quando a IA será cada vez mais aceitável para os humanos devido à forte consideração do desenvolvimento de confiança, integridade e valores centrados no ser humano.