Google, OpenAI e 13 Outros Comprometem-se a Não Implantar Modelos de IA Arriscados
Google, OpenAI e mais 13 empresas comprometem-se a não implantar modelos de IA 'intoleráveis'
- OpenAI, Microsoft, Google e outras 13 empresas de IA concordaram com um novo compromisso de segurança de IA pelas autoridades do Reino Unido.
- O compromisso exige que as empresas parem o desenvolvimento de qualquer modelo considerado extremamente arriscado.
- O Primeiro-Ministro do Reino Unido afirma que é a primeira vez que empresas globais de IA se comprometem com o mesmo padrão de segurança.
Google, OpenAI e Meta concordaram em parar de desenvolver qualquer modelo de IA se não puderem conter os riscos. As empresas se inscreveram para os “Compromissos de Segurança de IA” na terça-feira na Cúpula de IA de Seul, sediada pelo Reino Unido e Coreia do Sul.
Também leia: Reino Unido e República da Coreia Colaboram na Cúpula de IA
É a primeira vez no mundo que tantas empresas líderes de IA de tantas partes do globo concordam com os mesmos compromissos de segurança de IA.
— Primeiro-Ministro do Reino Unido, Rishi Sunak
16 Empresas de IA Concordam com Compromissos de Segurança de IA
De acordo com o relatório, um total de 16 empresas de IA concordaram com o compromisso de segurança, abrangendo os EUA, China e Oriente Médio.
Microsoft, Amazon, Anthropic, Samsung Electronics e desenvolvedora chinesa Zhipu.ai também estão entre as empresas que concordam com os padrões de segurança.
Leia também: Alibaba e Tencent Investem $342 Milhões na Startup de IA Zhipu
O compromisso de segurança de IA exige que todas as empresas publiquem seus respectivos frameworks de segurança antes de outra Cúpula de Ação de IA na França no início de 2025. O framework explicará como as empresas determinam os riscos de seus modelos e quais riscos são “considerados intoleráveis.”
Empresas de IA Desligarão Modelos de IA Arriscados
Nos casos mais extremos, as empresas “não desenvolverão ou implantarão um modelo ou sistema de forma alguma” se os riscos não puderem ser contidos, de acordo com o relatório.
O verdadeiro potencial da IA só será desbloqueado se conseguirmos controlar os riscos. É responsabilidade de todos garantir que a IA seja desenvolvida com segurança.
— Michelle Donelan, Secretária de Tecnologia do Reino Unido
Em julho de 2023, o governo dos EUA fez um esforço semelhante para abordar os riscos e benefícios da IA. O presidente Joe Biden se reuniu com Google, Microsoft, Meta, OpenAI, Amazon, Anthropic e Inflection para discutir salvaguardas de IA que garantam que seus produtos de IA sejam seguros antes de serem lançados.
Debate sobre Segurança de IA Aquece em Torno da OpenAI
A conversa sobre segurança de IA tem aquecido nos últimos meses, particularmente em torno das AGIs, que visam imitar a inteligência geral semelhante à humana.
Uma das empresas que a OpenAI estava no centro desta conversa na semana passada foi após o co-fundador, Ilya Sutskever, e a executiva de alto nível, Jan Leike, renunciarem à empresa. A dupla estava à frente da equipe Superalignment da OpenAI, criada para impedir que seus modelos ficassem fora de controle.
Também leia: Outro Executivo da OpenAI, Jan Leike, Demite
Em sua publicação, Leike disse que “nos últimos anos, a cultura e os processos de segurança ficaram em segundo plano em relação aos produtos brilhantes” na empresa.
Leike acrescentou que “a OpenAI deve se tornar uma empresa de AGI com segurança em primeiro lugar” e que devemos priorizar nos preparar para elas da melhor forma possível para garantir que a AGI beneficie toda a humanidade.
Reportagem da Cryptopolitan por Ibiam Wayas
Se você está lendo isso, já está à frente. Mantenha-se assim com nosso boletim informativo.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Ibiam Wayas
Ibiam Wayas cobre notícias sobre criptomoedas desde 2019. Estudou Ciência da Computação na Universidade Aberta Nacional da Nigéria. Seu trabalho apareceu em várias plataformas de notícias sobre cripto, incluindo Coinfomania, Crypto News Australia e AltcoinBuzz. Com base em sua formação em Ciência da Computação, ele agora se concentra em notícias sobre cripto, robótica e longevidade.
