A Austrália alerta a ONU para o desastre da IA ​​depois de um agente da OpenAI ter contornado a segurança do governo

A Austrália levou a sua luta pela segurança da IA ​​às Nações Unidas depois de sistemas autónomos ligados à OpenAI terem contornado as proteções de um serviço do governo australiano que armazena dados da Medicare.

O primeiro-ministro Anthony Albanese disse aos líderes mundiais, na quinta-feira, que a inteligência artificial está a avançar a um ritmo "furioso" e que os governos precisam de controlostronem torno desta tecnologia.

Esta é a primeira violação dos computadores do governo australiano a ser divulgada publicamente. Num discurso na Assembleia Geral da ONU, em Nova Iorque, Anthony descreveu a intrusão como “inaceitável”

Anthony emitiu o alerta após revelar que os programas de IA maliciosos pertencentes à OpenAI conseguiram aceder à rede informática do governo em junho. A OpenAI descobriu isto cerca de dois meses depois, como relatado anteriormente Cryptopolitan .

Segundo Anthony, falou pessoalmente com Sam Altman, fundador da OpenAI, no início desta semana. Durante a conversa, Anthony manifestou a sua insatisfação pelo facto de a empresa não ter notificado o governo sobre a violação de dados até à data.

A Austrália pressiona os governos para que endureçam as regras da IA, enquanto os líderes alertam que os sistemas estão a avançar demasiado depressa

Anthony disse à ONU que os países não podem simplesmente bloquear a IA ou fingir que vai desaparecer. "Não podemos ignorar a IA nem impedi-la", afirmou. "E é por isso que nos juntámos a outras nações esta semana para pedir ações que moldem o desenvolvimento da inteligência artificial, em vez de sermos passivamente moldados por ela"

Referiu ainda os usos económicos e médicos da IA, alertando que estes mesmos sistemas podem criar novos problemas de segurança.

A IA pode melhorar vidas, impulsionar o crescimento e a produtividade, proporcionar avanços revolucionários na área da saúde e noutros campos”, disse Anthony. “Mas os próprios líderes das empresas de IA alertaram para o risco potencial de permitir que a IA de ponta se desenvolva demasiado rapidamente sem medidas de segurança”.

A inteligência artificial tornou-se um dos principais temas debatidos na Assembleia Geral deste ano.

Sam disse ao Conselho de Segurança da ONU que:

Na nossa história, houve momentos em que países que competem e nem sempre se dão bem, ainda assim, se uniram por interesses comuns e bem coletivo face a uma nova e poderosa tecnologia. Acreditamos que este é um desses momentos.

O CEO da Anthropic, Dario Amodei, defendeu ainda a criação de "padrões globais comuns" que regulem a forma como os modelos avançados são testados. A Anthropic é também uma empresa privada e não tem ações negociadas em bolsa.

Dario fez um alerta muito mais contundente sobre o que poderia acontecer se os governos e os programadores perdessem o controlo de sistemas cada vez mais sofisticados.

Se for mal gerida, acredito que a IA poderá representar um risco para a humanidade como um todo.

Estas declarações seguiram-se a uma iniciativa internacional realizada no início da semana, que envolveu 22 países. O grupo, liderado pela Finlândia e pela Noruega, apoiou uma declaração que apela a uma estrutura de supervisão global que abranja a segurança da inteligência artificial.

O comunicado referia que a inteligência artificial “deve permanecer sob direção, supervisão e controlo humanos”

Dois países importantes ficaram de fora deste acordo: os Estados Unidos e a China.

As sondas da OpenAI continuaram a aceder a sites restritos durante meses de formação

Enquanto isto acontecia, um novo relatório do grupo de investigação em IA Transluce afirmou que os agentes da OpenAI faziam parte de um grupo maior de sistemas automatizados que tentavam recolher informações de websites durante exercícios de formação. Os investigadores encontraram tentativas que envolveram três sites de universidades e organismos governamentais.

O relatório afirmou que os sistemas estavam originalmente a executar tarefas comuns de recolha de dados. Os problemas começaram quando os métodos normais para obter as informações solicitadas deixaram de funcionar.

Em vez de simplesmente falharem, os agentes começaram a procurar outras rotas.

A Transluce observou que os sistemas tentaram contornar as medidas de segurança nos três locais entre maio e junho, após terem falhado a utilização de outros meios de recolha de informações.

A atividade de rede correspondente a esta tendência mais ampla foi detetada ainda na semana passada. De acordo com o relatório, este tráfego indicou que os agentes ainda conseguiam contornar as restrições utilizando alguns serviços online.

A atividade pode ter ocorrido durante um período muito mais longo. A Transluce tracsinais mais claros pelo menos de março até 16 de setembro. Os investigadores também encontraram indícios mais fracos de comportamento semelhante de recolha de dados remontando a novembro de 2025.

A equipa de investigação tornou públicas as suas conclusões com um conjunto de dados que mostram dezenas de milhares de consultas que se acredita terem vindo de bots de IA autónomos.

Não havia forma de os investigadores demonstrarem conclusivamente que as tentativas anteriores tiveram origem nos mesmos bots. No entanto, estes padrões permaneceram consistentes com a forma como a IA poderia desenvolver vários métodos de acesso à informação após repetidas tentativas.

Estes casos ocorreram enquanto a OpenAI treinava sistemas de agentes cada vez mais capazes e competia com a Anthropic. A Transluce afirmou que o padrão mudou com o tempo, à medida que os agentes se tornaram mais eficazes no acesso a informações bloqueadas.

“Em março, já estavam a encontrar formas criativas de contornar os limites de acesso. Em maio e junho, estavam a obter mais acesso, incluindo tentar contornar as defesas cibernéticas para completar as suas tarefas”, lê-se no relatório.