A Segurança Será um Item Principal da Agenda na Cúpula de IA de Seul
Cúpula de IA de Seul
- A Coreia do Sul e a Grã-Bretanha estão coorganizando uma cúpula sobre segurança de IA em Seul nos dias 21 e 22 de maio.
- O primeiro-ministro britânico e o presidente sul-coreano também priorizaram a inovação e a inclusão.
- A conferência é uma continuação da Cúpula de Segurança de IA realizada pela Grã-Bretanha no Bletchley Park, em novembro.
Governos da Coreia do Sul e do Reino Unido pressionarão empresas de tecnologia a abordar a supervisão de segurança da inteligência artificial na cúpula internacional de IA desta semana.
Esta reunião é uma continuação da primeira cúpula global de segurança de IA realizada no Bletchley Park, na Grã-Bretanha, no ano passado, onde vários governos expressaram suas preocupações sobre os riscos da IA. Empresas de IA também estavam presentes lá, já que a tecnologia em que estão trabalhando apresenta esses riscos.
No meio das numerosas tentativas internacionais de criar barreiras para a tecnologia em rápido desenvolvimento que tem o potencial de revolucionar muitas facetas da sociedade, a cúpula de Seul acendeu preocupações sobre riscos emergentes para a vida cotidiana.
“Embora esforços positivos tenham sido feitos para moldar a governança global da IA, lacunas significativas ainda permanecem.”
A cúpula do Reino Unido em novembro reuniu pesquisadores, funcionários do governo, executivos de tecnologia e representantes de organizações da sociedade civil, muitos dos quais tinham opiniões divergentes sobre a inteligência artificial. As reuniões ocorreram a portas fechadas em Bletchley. Junto com políticos, incluindo o Primeiro-Ministro britânico Rishi Sunak, os CEOs da OpenAI Sam Altman e da Tesla, Elon Musk, também estiveram presentes, junto com muitos outros.
A Segurança Será uma Prioridade na Cúpula de IA
A segurança será novamente uma prioridade máxima na Cúpula de IA de Seul, que começa na terça-feira. Os governos do Reino Unido e da Coreia do Sul estão co-organizando a reunião em 21–22 de maio.
Empresas de IA proeminentes, como Microsoft, Anthropic, Google DeepMind, criadora do ChatGPT OpenAI e Mistral, uma startup francesa de IA, estão programadas para enviar representantes.
O Primeiro-Ministro britânico Rishi Sunak e o Presidente sul-coreano Yoon Suk Yeol também escreveram um artigo conjunto, publicado no INews na segunda-feira. Aceitando o potencial dessa tecnologia, eles expressaram sua vontade de garantir a segurança, dizendo:
“Juntos, estamos determinados a aproveitar o potencial desta tecnologia para transformar o mundo para melhor.”
Eles também enfatizaram que, à medida que novas tecnologias trazem novos riscos, a IA também os traz. Eles apontaram o uso indevido da IA por atores mal-intencionados que deliberadamente querem aproveitar a IA para fazer mal.
Recentemente, a OpenAI dissolveu sua equipe de segurança, chamada de equipe Superalignment, quando seu co-fundador Ilya Sutskever e alguns outros funcionários-chave deixaram a empresa. O desenvolvimento veio da principal empresa de IA do mundo apenas dias antes da cúpula de Seul, cujo foco é mitigar os riscos da IA.
Também leia: Cooperação Internacional Urgida para Abordar Riscos de IA na Cúpula de Bletchley Park
Em outro desenvolvimento, a Anthropic lançou hoje seu relatório sobre políticas de escalonamento responsável, que, de acordo com a empresa, mostrou bons resultados. No entanto, não podemos confirmar esses resultados. Embora não estejamos em posição de comentar sobre nenhum desses desenvolvimentos, eles fornecem algum material para reflexão.
A Inovação Deve Continuar
Após a ascensão meteórica do ChatGPT à popularidade logo após seu lançamento em 2022, empresas de tecnologia em todo o mundo começaram a investir bilhões de dólares na construção de seus próprios modelos de IA generativa. Sunak e Yeol mencionaram a inovação de ritmo acelerado, já que novos modelos de IA são lançados diariamente. Eles disseram:
“O governo pode fomentar essa inovação investindo bilhões, impulsionando a pesquisa de ponta em nossas universidades de classe mundial e garantindo que não regulamos excessivamente as startups que poderiam produzir a próxima grande ideia.”
Os defensores dos modelos de IA generativa aclamaram a tecnologia como um avanço que melhorará a vida das pessoas e dos negócios em todo o mundo, já que pode produzir texto, fotografias, música e até vídeo em resposta a instruções simples.
Alguns desses produtos que ganharam atenção pública têm seu próprio viés embutido, o que é motivo de preocupação.
Também leia: Trabalhar com IA é Essencial, Dizem Especialistas em IA no Fórum Global de Liderança da Fidic
E não são apenas esses; a tecnologia que funciona por trás desses produtos, chamada de modelos de linguagem grande (LLMs), também se tornou a tecnologia base por trás de muitas soluções em diferentes setores. De veículos de condução autônoma a soluções médicas, muitos dependem de LLMs de IA generativa para funcionar.
Ainda Há Vozes Preocupantes
Muitas pessoas exigiram diretrizes internacionais para controlar o avanço e a aplicação da IA. Por exemplo, um movimento baseado em Nova York chamado Ban the Scan está exigindo a interrupção do uso de reconhecimento facial nos níveis governamental e privado.
Eles argumentam que essas tecnologias interferem na liberdade pessoal e têm uma alta taxa de falsos positivos. Uma página da Electronic Frontier Foundation diz:
“O reconhecimento facial é uma ameaça à privacidade, à justiça racial, à liberdade de expressão e à segurança da informação. O reconhecimento facial em todas as suas formas, incluindo varredura facial e rastreamento em tempo real, representa ameaças às liberdades civis e à privacidade individual.”
Eles não são os únicos. Defensores dos direitos humanos, governos e críticos alertaram que a IA pode ser abusada de muitas maneiras. Por exemplo, atores não estatais podem usá-la para influenciar eleitores com notícias fictícias ou imagens e vídeos de “deepfake” de funcionários eleitos. Outra preocupação crescente são os relatos emergentes de estados apoiando elementos mal-intencionados por seus interesses.
“Também daremos os próximos passos na moldagem dos padrões globais que evitarão uma corrida para o fundo do poço.”
O artigo do duo mencionou a declaração acima e enfatizou que discutir normas internacionais para a IA em um fórum mais aberto seria útil. Ao mesmo tempo, algumas organizações de direitos civis sul-coreanas criticaram os organizadores por não convidarem países em desenvolvimento suficientes.
A França também realizará uma conferência “Viva Technology” esta semana, apoiada pela LVMH, o maior grupo de luxo do mundo. No último ano, a França tentou atrair startups de IA para se posicionar como a campeã europeia de IA.
Reportagem da Cryptopolitan por Aamir Sheikh
Não apenas leia notícias sobre criptomoedas. Entenda-as. Inscreva-se em nossa newsletter. É grátis.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
