O rei Carlos vai convocar chefes da inteligência artificial na Escócia devido a questões de segurança

O Rei Carlos vai reunir os líderes da Nvidia, Google DeepMind, OpenAI e Anthropic na Escócia esta semana para discutir se o setor precisa de um código de conduta partilhado. O encontro está marcado para acontecer após recentes declarações de investigadores e executivos de topo a alertar que a tecnologia de IA está a avançar mais rapidamente do que qualquer pessoa consegue controlar. 

O encontro está marcado para decorrer em Dumfries House, em Ayrshire, e vai reunir o ministro britânico para a Inteligência Artificial e delegações das quatro empresas. Segundo a Reuters, as discussões vão focar-se nos princípios que devem orientar o desenvolvimento da tecnologia de IA.

Uma fonte do Palácio Real de Buckingham afirmou que o Rei Carlos atuou como mediador, com o objetivo de criar um espaço neutro para conversas e levantar a questão: "Como podemos desenvolver a IA para o bem da humanidade?"

A fonte afirmou que o Rei Carlos está interessado em perceber se um conjunto de princípios poderia ajudar, acrescentando que "não é uma tarefa fácil, mas isso não significa que não devamos tentar"

Como Príncipe de Gales, o monarca organizava encontros semelhantes, embora estes se centrassem mais no clima e no ambiente. Odent noticiou que o CEO da Nvidia, Jensen Huang, o fundador da DeepMind, Sir Demis Hassabis, e o CEO da IonQ, Niccolò de Masi, deverão estar presentes, juntamente com Paolo Benanti, consultor de ética em IA do Papa.

Elaboração da carta para o encontro do Rei Carlos

A Fundação Ditchley, que está a organizar o encontro com o Rei Carlos, preparou uma carta para os executivos analisarem. Estabelece um "conjunto de princípios partilhados" com o objetivo de manter o desenvolvimento da IA ​​fundamentado na dignidade humana, em vez de encarar a tecnologia unicamente na perspetiva da capacidade e da eficiência.

O Palácio descreveu o objetivo da carta como estando focado no fortalecimento das comunidades e na melhoria da qualidade de vida, contribuindo simultaneamente para “o florescimento tanto das pessoas como do planeta”

No entanto, permanece incerto se os delegados presentes assinarão algum acordo durante o evento. Um teste crucial para a cimeira será se os laboratórios de IA concorrentes e os governos conseguirão ultrapassar as suas diferenças e chegar a um consenso sobre uma posição comum.

O horário da reunião é importante

O anúncio da reunião surge após uma nova onda de alertas provenientes do próprio setor da IA. O CEO da Anthropic, Dario Amodei, publicou um ensaio intitulado "Precisamos de acompanhar o ritmo da fronteira", instando as empresas a abrandar para que o trabalho de segurança possa acompanhar o desenvolvimento da IA.

Defendeu que o desenvolvimento tem apresentado um ritmo de crescimento assustador desde o verão e alertou que, dentro de seis a doze meses, um sistema poderá ser capaz de direcionar um enxame capaz de assumir o controlo de toda a internet. Elon Musk, que dirige a SpaceX, e Sam Altman, da OpenAI, apoiaram o artigo.

Dois investigadores da revista Anthropic emitiram um alerta ainda maistron, afirmando que os avanços descontrolados na IA podem representar uma ameaça existencial para a humanidade num futuro não muito distante.

Na semana passada, a empresa revelou ainda que vários grupos utilizaram os seus modelos Claude nos esforços para desenvolver armas, realizar operações cibernéticas, conduzir vigilância e cometer fraudes.

Em julho, a OpenAI afirmou que um dos seus sistemas tinha invadido o sistema de outra empresa por conta própria, um episódio que classificou como umdentcibernéticodent.

Governos a seguir rumos diferentes

dos EUA,dent Donald Trump, rejeitou os apelos para travar o desenvolvimento da inteligência artificial. O jornal estatal chinês Global Times, por sua vez, classificou as propostas de desaceleração como uma manobra típica da Guerra Fria dirigida a Pequim.

O Reino Unido procura posicionar-se entre abordagens concorrentes em relação à política de IA, combinando um ecossistema de investimento e startupstroncom uma regulamentação relativamente leve.

O Reino Unido lidera a Europa em termos de financiamento de IA e número de startups, enquanto o seu Instituto de Segurança de IA, criado após a Cimeira de Segurança de IA de 2023, garantiu o acesso antecipado a modelos de importantes laboratórios de IA através de acordos voluntários. Isto permite ao instituto avaliar os potenciais riscos antes de os modelos serem disponibilizados ao público.

A cimeira do Rei Carlos parece ser mais uma tentativa de pressionar por regras gerais para o desenvolvimento da IA, onde os principais intervenientes e os seus governos, infelizmente, ainda não conseguem chegar a acordo sobre o que é demasiado rápido.