Principais Mentes da IA Instam Governos e Empresas a Investir 33% dos Orçamentos de IA em Segurança da IA
- Pesquisadores de IA defendem fortemente a alocação de 33% dos fundos de P&D em IA para garantir a segurança e a ética das tecnologias emergentes.
- Uma carta, assinada por vencedores do Prêmio Turing e um laureado com o Nobel, faz um chamado convincente para que responsabilidades legais sejam impostas aos sistemas de IA por possíveis danos.
- A comunidade global de IA destaca a questão urgente da falta de regulamentações abrangentes de segurança em IA, enquanto líderes de todo o mundo se reúnem na Cúpula de Segurança de IA.
No reino em rápida evolução da inteligência artificial, os principais pesquisadores e luminares estão soando o alarme, exigindo uma mudança de paradigma na abordagem da segurança da IA. Uma carta, assinada por três vencedores do Prêmio Turing, um laureado com o Nobel e mais de uma dezena de acadêmicos de IA respeitados, enfatiza a necessidade crítica de que governos e empresas alocem uma parte substancial de seus fundos de pesquisa e desenvolvimento de IA para garantir a segurança e o uso ético desses sistemas avançados.
Aproxima-se a Cúpula Internacional de Segurança da IA
À medida que o mundo se prepara para a próxima Cúpula Internacional de Segurança da IA em Londres, a urgência de abordar os riscos da IA assume o centro das atenções. A carta delineia um conjunto abrangente de medidas, instando governos e empresas de IA a comprometer um mínimo de um terço de seus fundos de pesquisa e desenvolvimento para a segurança da IA. Geoffrey Hinton, Andrew Yao, Daniel Kahneman, Dawn Song e Yuval Noah Harari, entre outros luminares, destacam a necessidade de medidas proativas para prevenir danos potenciais dos sistemas de IA de fronteira em constante avanço.
De acordo com a carta assinada por figuras proeminentes da comunidade de pesquisa em IA, há um sentimento compartilhado de que os governos devem assumir um papel fundamental na imposição de responsabilidade legal por danos previsíveis e evitáveis causados por sistemas de IA. O chamado por responsabilidade busca preencher o vazio deixado pela ausência de regulamentações abrangentes que abordem especificamente as preocupações com a segurança da IA.
Governos são instados a responsabilizar as empresas de IA por danos aos sistemas
Atualmente, existe uma lacuna notável em termos de regulamentações abrangentes focadas na segurança da IA. O conjunto inicial de legislações da União Europeia, embora em andamento, ainda não se tornou lei, à medida que os legisladores lidam com questões não resolvidas. A carta defende uma resolução rápida para esse vácuo regulatório, enfatizando que o rápido progresso da IA exige precauções igualmente rápidas para garantir o desenvolvimento ético.
Yoshua Bengio, frequentemente referido como um dos pais fundadores da IA, destaca a urgência dos investimentos em segurança da IA. Na carta, expressa-se o sentimento de que os modelos de IA mais recentes e de ponta são considerados excessivamente poderosos e significativos, justificando a necessidade de supervisão democrática, conforme alertado pelo autor. O ritmo do avanço da IA, muito além das medidas precaucionárias, exige um compromisso imediato e substancial para se proteger contra riscos potenciais.
Modelos de IA poderosos levantam alarmes
Os signatários da carta, que incluem luminares como Geoffrey Hinton e o laureado com o Nobel Daniel Kahneman, chamam a atenção para as capacidades impressionantes dos modelos de IA recentes. Eles argumentam que esses modelos são influentes demais para serem deixados sem controle e enfatizam a importância da supervisão democrática em seu desenvolvimento.
Stuart Russell, um cientista da computação britânico, descarta as preocupações das empresas sobre os custos de conformidade, enfatizando a necessidade de regulamentações. Russell desafia a noção de que a regulamentação sufoca a inovação, apontando que há mais regulamentações para sanduícharias do que para empresas de IA, de acordo com o conteúdo da carta. O chamado por ação rápida e decisiva está fundamentado na compreensão de que o progresso descontrolado da IA apresenta riscos sem precedentes que exigem atenção imediata.
O debate sobre a segurança da IA está atingindo um ponto crítico, com os principais pesquisadores e influenciadores instando governos e empresas a priorizar considerações éticas e alocar recursos para garantir o desenvolvimento responsável da IA. À medida que o mundo se prepara para a Cúpula Internacional de Segurança da IA, a pergunta permanece: esses apelos urgentes por ação serão atendidos, ou os riscos potenciais do desenvolvimento descontrolado da IA continuarão a se intensificar?
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Aviso Legal. As informações fornecidas não constituem aconselhamento de investimento. Cryptopolitan.com não assume responsabilidade por quaisquer investimentos realizados com base nas informações fornecidas nesta página. Recomendamos fortemente a realização de pesquisa independente e/ou consulta com um profissional qualificado antes de tomar quaisquer decisões de investimento.
Aamir Sheikh
Aamir é um jornalista de tecnologia com quase seis anos de experiência nos setores de criptomoedas e tecnologia. Formou-se na MAJ University com um MBA em Finanças e Marketing. Atualmente trabalha na Cryptopolitan, onde relata os últimos desenvolvimentos nos mercados de criptomoedas e previsões de preços.
