A Microsoft insta o Congresso dos EUA a abordar a questão dos deepfakes gerados por IA

A Microsoft pediu ao Congresso que aprove uma nova legislação visando combater os deepfakes gerados por inteligência artificial. Brad Smith, vice-presidente edent da Microsoft, enfatizou a urgência de os legisladores abordarem a crescente ameaça da tecnologia deepfake. 

Em uma postagem recente em seu blog, Smith destacou a importância de adaptar as leis para combater a fraude com deepfakes e prevenir a exploração. Segundo Smith, deveria haver uma legislação que permitisse processar quem pratica golpes e fraudes com deepfakes. 

A Microsoft propõe uma lei federal contra fraudes com deepfakes

De acordo com o relatório da Microsoft, diversas intervenções legais podem ser tomadas para prevenir o uso indevido da tecnologia deepfake. Uma das sugestões é a criação de uma "lei federal contra fraudes com deepfake". Essa nova lei abordará as dimensões civis e criminais da fraude com conteúdo sintético e poderá incluir as seguintes medidas: acusações criminais, apreensão civil e medidas cautelares. 

O relatório também apoia a exigência dedentsintética de conteúdo. Através da regulamentação do uso de ferramentas avançadas de proveniência, o público poderá, portanto, compreender a origem do conteúdo que recebe online. Isso é importante para a credibilidade da informação digital e para impedir a disseminação de notícias falsas. 

“O Congresso deveria exigir que os fornecedores de sistemas de IA utilizem ferramentas de rastreabilidade de última geração para rotular conteúdo sintético. Isso é essencial para construir confiança no ecossistema da informação e ajudará o público a entender melhor se o conteúdo foi gerado por IA ou manipulado.”

Brad Smith

Além disso, a Microsoft sugere a alteração das leis atuais sobre exploração infantil e imagens explícitas não consensuais para abranger também imagens produzidas por IA. Isso garantiria que os marcos legais estejam em sintonia com os avanços tecnológicos, de modo a proteger também esse grupo vulnerável. 

O Senado dos EUA tomou medidas recentes nesse sentido, aprovando um projeto de lei que visa combater deepfakes com conteúdo sexual explícito. Essa nova lei permite que as vítimas de deepfakes com inteligência artificial de conteúdo sexual explícito não consensual processem os criadores do conteúdo. 

A FCC diz "não" às chamadas automáticas de voz com IA

A Microsoft também respondeu ao uso indevido de IA e reforçou as medidas de segurança em seus produtos. Recentemente, a empresa aprimorou o criador de imagens Designer AI após uma vulnerabilidade que havia sido explorada para produzir imagens obscenas de celebridades. Smith afirmou que o setor privado precisa implementar medidas para garantir que a IA não seja usada indevidamente e que cabe às empresas de tecnologia assegurar que os usuários não sejam prejudicados. 

A FCC já tomou medidas contra o uso indevido de IA, proibindo o uso de voz gerada por IA em chamadas automáticas. Mesmo assim, a IA generativa está se aprimorando cada vez mais na geração de áudios, imagens e vídeos falsos. Esse problema foi recentemente agravado por um vídeo deepfake da vice-dent dos EUA, Kamala Harris, que se espalhou nas redes sociais e exemplificou o crescente perigo da tecnologia deepfake.

Outras organizações sem fins lucrativos, como o Centro para a Democracia e a Tecnologia (CDT), também estão envolvidas no combate ao abuso de deepfakes. Como observou Tim Harper, analista sênior de políticas do CDT, o ano de 2024 marca um ponto de virada crucial para a IA nas eleições, e as pessoas precisam se preparar para isso. A atual reação contra os deepfakes é uma forma inicial do que pode ser uma lutatraccontra a manipulação tecnológica.