O Dilema da IA da Microsoft – Segura, mas Criando Imagens Perturbadoras?
- A IA da Microsoft, integrada em softwares populares como o Windows, está gerando imagens perturbadoras e violentas, levantando preocupações sobre a segurança.
- A IA, particularmente no Image Creator, é acusada de permitir a criação de imagens "deepfake", incluindo decapitações e violência contra vários grupos.
- Apesar das alegações de medidas de segurança, a Microsoft parece culpar os usuários, destacando uma possível falta de responsabilidade pelo uso não intencional de sua IA.
Em uma revelação assustadora, a inteligência artificial da Microsoft, tida como segura e integrada ao software do dia a dia, está sob escrutínio por gerar imagens grotescas e violentas. A preocupação centra-se no Image Creator, parte do Bing da Microsoft, recentemente adicionado ao amplamente utilizado Windows Paint. A tecnologia, conhecida como DALL-E 3 da parceira da Microsoft, OpenAI, agora está enfrentando perguntas sobre sua segurança e a responsabilidade de seus criadores.
Microsoft vs. o ‘prompt de morte’
As imagens perturbadoras foram trazidas à luz por Josh McDuffie, um artista canadense envolvido em uma comunidade online que explora as capacidades da IA em criar imagens provocativas e às vezes de mau gosto. Em outubro, McDuffie e seus colegas concentraram-se na IA da Microsoft, especificamente no Image Creator para o Bing, incorporando a tecnologia mais recente da OpenAI. A Microsoft afirma ter controles para prevenir a geração de imagens prejudiciais, mas McDuffie encontrou brechas significativas.
A Microsoft emprega duas estratégias para impedir a criação de imagens prejudiciais: a entrada, envolvendo o treinamento da IA com dados da internet, e a saída, criando barreiras de segurança para impedir a geração de conteúdo específico. McDuffie, por meio de experimentação, descobriu um prompt específico, denominado "prompt de morte", que permitia à IA criar imagens violentas. Isso levantou preocupações sobre a eficácia das medidas de segurança da Microsoft.
Apesar dos esforços de McDuffie para chamar a atenção para o problema por meio do programa de recompensa por bugs de IA da Microsoft, suas submissões foram rejeitadas, levantando questões sobre a capacidade da empresa de responder a possíveis vulnerabilidades de segurança. Os e-mails de rejeição citaram a falta de atendimento aos requisitos da Microsoft para uma vulnerabilidade de segurança, deixando McDuffie desmotivado e destacando possíveis falhas no sistema.
A Microsoft falha na supervisão de IA
Apesar do lançamento de um programa de recompensa por bugs de IA, a resposta da Microsoft às descobertas de McDuffie foi insatisfatória. A rejeição das submissões do "prompt de morte" e a falta de ação sobre as preocupações relatadas destacaram um possível desdém pela urgência do problema. Enquanto isso, a IA continuou a gerar imagens perturbadoras, mesmo após algumas modificações serem feitas no prompt original de McDuffie.
A falta de ação concreta da Microsoft levanta preocupações sobre o compromisso da empresa com uma IA responsável. Comparações com outros concorrentes de IA, incluindo a OpenAI, parcialmente controlada pela Microsoft, revelam disparidades na forma como diferentes empresas abordam questões semelhantes. As repetidas falhas da Microsoft em resolver o problema sinalizam uma possível lacuna na priorização das barreiras de segurança de IA, apesar dos compromissos públicos com o desenvolvimento responsável de IA.
O modelo para o desenvolvimento ético de IA
A relutância da Microsoft em tomar medidas rápidas e eficazes sugere um sinal de alerta na abordagem da empresa em relação à segurança da IA. Os experimentos de McDuffie com o "prompt de morte" revelaram que outros concorrentes de IA, incluindo pequenas startups, se recusaram a gerar imagens prejudiciais com base em prompts semelhantes. Até mesmo a OpenAI, parceira da Microsoft, implementou medidas para bloquear o prompt de McDuffie, enfatizando a necessidade de mecanismos de segurança robustos.
O argumento da Microsoft de que os usuários estão tentando usar a IA "de maneiras que não eram pretendidas" transfere a responsabilidade para os indivíduos, em vez de reconhecer possíveis falhas na tecnologia. A comparação com o Photoshop e a afirmação de que os usuários devem se abster de criar conteúdo prejudicial ecoa um padrão visto no passado, reminiscente das plataformas de mídia social que lutam para lidar com o uso indevido de sua tecnologia.
À medida que a Microsoft lida com as consequências de sua IA gerando imagens perturbadoras, a questão permanece: a empresa está fazendo o suficiente para garantir o uso responsável de sua tecnologia? A aparente relutância em abordar o problema de forma rápida e eficaz levanta preocupações sobre responsabilidade e a priorização das barreiras de segurança da IA. À medida que a sociedade navega pela paisagem em evolução da inteligência artificial, a responsabilidade recai não apenas sobre os usuários, mas também sobre os gigantes da tecnologia para garantir o deploy ético e seguro da IA. Como a Microsoft pode preencher a lacuna entre inovação e responsabilidade no domínio da inteligência artificial?
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
