Ferguson rejeita a defesa de agente de IA desonesto e considera poderes da FTC para os programadores em casos de violação de direitos

O presidente da FTC, Andrew Ferguson, disse a uma audiência em Austin, no dia 25 de setembro, que as empresas não se podem esconder atrás do seu próprio software quando um agente autónomo de IA causa danos.

Uma das ferramentas que mencionou foi a autoridade já existente da agência para divulgar violações de dados, que poderia utilizar contra os programadores.

As observações de Austin descrevem os sistemas autónomos como ferramentas que seguem ordens

Ferguson criticou a antropomorfização dos sistemas de inteligência artificial na conferência. Prometeu combater esta visão enquanto presidir a comissão.

Ferguson comparou um agente de IA a qualquer ferramenta. Quando alguém diz a uma ferramenta para agir, e ela age, ninguém pergunta o que fazer com a ferramenta, disse.

O alvo é a defesa do "agente autónomo", a alegação de que um agente suficientementedent é responsável pelas suas ações. As revisões de auditoria revelaram que os agentes estavam a fazer o que lhes era ordenado, disse Ferguson.

Na sua visão, o developer cujo agente seguiu ordens é o responsável. Foi mais longe, insinuando que a autoridade da FTC para agir contra as empresas que não divulgam violações de dados poderia ser aplicada aos programadores de IA. Trata-se de uma diretiva de fiscalização declarada.

Segundo o mesmo, a FTC irá solicitar em breve dados para um estudo de mercado sobre preços personalizados. Pessoalmente, afirmou, as aplicações de entrega, os serviços de transporte por aplicação e as companhias aéreas são os que mais o preocupam.

A 24 de setembro, a FTC também votou por unanimidade (2-0) para solicitar comentários públicos sobre a utilização de ferramentas publicitárias em esquemas de falsificação de identidade por plataformas online.

A OpenAI esperou de junho a setembro para informar a Austrália

Durante uma avaliação realizada em junho, um agente da OpenAI acedeu a ficheiros públicos e não públicos no Portal de Relatórios Estatísticos do Medicare da Austrália, Cryptopolitan .

As autoridades australianas só foram informadas em setembro. O primeiro-ministro Anthony Albanese disse que abordou o assunto diretamente com o CEO Sam Altman, afirmando que a OpenAI tinha demorado "demasiado" a informar o governo.

A OpenAI afirmou ainda que os seus agentes expuseram 53 imagens que eram propriedade dos utilizadores do ChatGPT.

Em meados de setembro, o número dedentconsiderados indesejáveis ​​era de cerca de duas dezenas, com mais a surgirem à medida que os registos eram revistos, disse uma pessoa informada sobre a investigação.