Navegando na Fronteira da Regulação da IA e o Apelo à Ação

Em março de 2023, a indústria da IA testemunhou um ponto de viragem significativo quando mais de 33.000 indivíduos envolvidos no desenvolvimento, design e uso da IA assinaram uma carta aberta do Future of Life Institute. A carta fez um pedido audacioso: uma pausa de seis meses no treino de sistemas de IA mais poderosos que o GPT-4, enfatizando a necessidade de abordar as preocupações crescentes em torno da IA generativa. Embora o pedido fosse sem precedentes, o seu objetivo final era impulsionar estas preocupações para o discurso mainstream.

Este artigo aprofunda os desenvolvimentos e preocupações em curso em torno da regulação da IA, particularmente nos Estados Unidos. Discute os compromissos voluntários feitos por sete empresas de IA proeminentes, explora os resultados positivos destas iniciativas e destaca os desafios que ainda estão por vir.

Resultados positivos e passos rumo ao desenvolvimento responsável de IA

A carta aberta de março de 2023 e as ações subsequentes desencadearam uma série de eventos que enfatizam a importância de regulamentar a IA para o bem maior. Notavelmente, a Casa Branca apresentou, em julho de 2023, um conjunto de compromissos voluntários para a regulamentação da IA. Este quadro prioriza 'segurança, proteção e confiança' e contou com o apoio de grandes players da IA, incluindo Amazon, Anthropic, Google, Inflection, Meta, Microsoft e OpenAI.

Essas empresas comprometeram-se a adotar diversas medidas, incluindo testes de segurança independentes internos e externos dos sistemas de IA antes do lançamento público, compartilhamento de melhores práticas, investimento em cibersegurança, marca d'água em conteúdo gerado por IA e divulgação pública de capacidades e limitações. Elas também se comprometem a mitigar riscos sociais, como viés e desinformação.

O anúncio envia uma mensagem forte de que o desenvolvimento da IA não deve comprometer o bem-estar da sociedade. Reflete as demandas de grupos da sociedade civil, especialistas líderes em IA e algumas empresas de IA por regulamentação necessária. Além disso, antecipa ordens executivas e legislação futuras sobre a regulamentação da IA e destaca a importância de consultas em nível internacional.

Preocupações e o caminho a seguir é incerto

Embora essas salvaguardas voluntárias representem um passo positivo, elas carecem de aplicabilidade. As empresas são incentivadas a agir, mas não há mecanismos para responsabilizá-las pelo descumprimento ou implementação relutante. Além disso, as salvaguardas listadas no anúncio são frequentemente encontradas nas políticas internas dessas empresas, levantando dúvidas sobre sua eficácia.

Uma omissão notável é a ausência de gigantes da indústria, como Apple e IBM, da lista de signatários. Para uma abordagem verdadeiramente coletiva e eficaz, todos os atores da IA, incluindo possíveis agentes mal-intencionados, devem ser responsabilizados e incentivados a cumprir os padrões da indústria.

Além disso, os compromissos voluntários podem não abordar de forma abrangente os inúmeros desafios impostos pelos modelos de IA. Por exemplo, embora haja foco em salvaguardas de cibersegurança e ameaças internas, vulnerabilidades podem surgir de dados tendenciosos ou incorretos usados no treinamento do modelo. Abordar essas questões intricadas requer salvaguardas adicionais e uma abordagem proativa.

O chamado por medidas regulatórias tangíveis

A ênfase nas empresas de investir em confiança e segurança permanece ambígua. A pesquisa de segurança da IA é significativamente ofuscada pela pesquisa de desenvolvimento, com apenas 2% dos artigos de IA publicados até maio de 2023 focando na segurança da IA, e apenas 11% dessa pesquisa originando-se de empresas privadas. Não está claro se diretrizes voluntárias sozinhas podem alterar esse padrão.

Os modelos de IA estão se proliferando rapidamente em todo o mundo, levantando preocupações sobre desinformação, informação falsa e fraude perpetuadas por modelos de IA não regulamentados em países estrangeiros. Isso não afeta apenas os EUA, mas também destaca a necessidade de cooperação internacional.

Para abordar esses desafios de forma abrangente, vários passos são imperativos:

• Testes de segurança padronizados: Um acordo sobre um padrão global para testar a segurança dos modelos de IA antes da implantação é crucial. Fóruns como a cúpula do G20 e a cúpula do Reino Unido sobre segurança da IA podem desempenhar um papel fundamental na estabelecimento desses padrões.

• Aplicabilidade: Os padrões devem ser respaldados por legislação nacional ou ação executiva, adaptados às necessidades de cada país. O AI Act da Europa fornece um modelo promissor para esse esforço.

• Salvaguardas de engenharia: Além de princípios e ética, as salvaguardas de engenharia são essenciais. A marca d'água em conteúdo gerado por IA para garantir a integridade da informação é um exemplo disso. Mecanismos de garantia de identidade em plataformas de mídia social e serviços de IA podem ajudar a identificar e abordar a presença de bots de IA, aumentando a confiança e a segurança do usuário.
• Investimento em pesquisa de segurança da IA: Governos nacionais devem desenvolver estratégias para financiar, incentivar e encorajar a pesquisa de segurança da IA tanto no setor público quanto no privado.

A intervenção da Casa Branca e os subsequentes compromissos voluntários das principais empresas de IA marcam um passo importante inicial rumo ao desenvolvimento e implantação responsáveis da IA. No entanto, para garantir um ecossistema de IA seguro, protegido e confiável, essas ações devem ser seguidas por medidas regulatórias mais tangíveis.

Como o anúncio enfatiza corretamente, a implementação de 'obrigações vinculativas' cuidadosamente elaboradas é crucial. Somente ao tomar medidas decisivas podemos navegar eficazmente pela complexa fronteira da regulamentação da IA, proteger a sociedade de possíveis danos e aproveitar o verdadeiro potencial da inteligência artificial para o bem maior. O futuro da regulamentação da IA está em jogo, e a hora de agir é agora.