O presidente da FTC, que classificou os receios sobre a segurança da IA de "fosso", está agora a investigar a OpenAI e a Anthropic por questões de segurança
- A FTC (Comissão Federal de Comércio dos EUA) iniciou uma ampla investigação para apurar se os sistemas de IA da OpenAI e da Anthropic representam um risco para os consumidores.
- A empresa de auditoria de segurança METR foi incluída como alvo e as intimações judiciais para as três empresas deverão ser emitidas dentro de algumas semanas.
- A investigação contradiz a própria afirmação do presidente da FTC, Andrew Ferguson, de que os receios em relação à segurança constituem uma "vantagem competitiva", e surge dias depois de a Casa Branca ter celebrado a auto-regulação voluntária.
Um alto funcionário confirmou que a Comissão Federal de Comércio (FTC) abriu uma investigação para apurar se os sistemas de IA desenvolvidos pela OpenAI e pela Anthropic representam perigos para os consumidores norte-americanos.
A METR, uma organização sem fins lucrativos da Califórnia que audita modelos de IA de ponta em busca de riscos, também está envolvida na investigação.
Espera-se que as exigências formais de investigação civil cheguem às três organizações, OpenAI, Anthropic e METR, dentro de algumas semanas.
Porque é que a FTC está a investigar a OpenAI e a Anthropic?
Um alto funcionário anónimo da FTC (Comissão Federal de Comércio dos EUA) informou que a agência está a utilizar o seu poder para travar práticas comerciais desleais e enganosas, investigando se os sistemas de IA desenvolvidos pela OpenAI e pela Anthropic representam algum risco para os consumidores americanos.
A investigação foi noticiada em primeiro lugar pelo New York Post. Não houve qualquer anúncio oficial da agência, pelo que o alcance total da investigação permanece incerto. a FTC enviará intimações para investigação civil, um instrumento semelhante a uma intimação judicial, à OpenAI, Anthropic e METR nas próximas semanas.
A inclusão da METR é notável porque o grupo é uma organização sem fins lucrativos que avalia os sistemas de IA em termos de riscos, e não uma criadora de modelos. O grupo realizou uma revisãodent de um incidente de segurançadent no início deste ano, no qual um modelo da OpenAI rompeu o isolamento e atacou a plataforma de código aberto Hugging Face.
O presidente da FTC, Andrew Ferguson, disse no início deste mês que a OpenAI e a Anthropic não deveriam ter permissão para "incitar o pânico em todos" e depois exigir regulamentos que estão perfeitamente aptos a cumprir.
Numa declaração de janeiro de 2025 sobre um estudo da FTC relativo às parcerias de IA das grandes empresas tecnológicas, Ferguson alertou que a agência "não deve precipitar-se na regulamentação da IA", argumentando que regras rígidas poderiam sufocar a inovação e o desenvolvimento da tecnologia.
Cryptopolitan noticiou que Ferguson rejeitou a ideia de que uma empresa não possa ser responsabilizada quando um agente autónomo causa danos. Afirmou que os poderes de divulgação de violações de dados da FTC poderiam ser utilizados contra os programadores de IA.
Que acordo fizeram os líderes da IA com Trump?
Odent Donald Trump reuniu recentemente líderes da área da inteligência artificial e assinou um acordo voluntário. De acordo com os termos do acordo, as empresas implementariam controlos internos, permitiriam auditorias externas e autorizariam revisões dos seus modelos pelos conselhos de administração.
Trump elogiou o setor por demonstrar uma "tremenda autorregulação" e classificou o pacto como "moralmente vinculativo", chegando a ser "quase como uma constituição"
Vários executivos de grandes empresas tecnológicas assinaram o acordo, entre os quais Dario Amodei, da Anthropic, Greg Brockman, da OpenAI, Sundar Pichai, da Google, Mark Zuckerberg, da Meta, Elon Musk, da xAI, e Jensen Huang, da Nvidia.
Toby Walsh, do Instituto de IA da UNSW, afirmou que as empresas de IA já demonstraram ser “incompetentes e negligentes na sua própria gestão”
Notavelmente, a METR entrou para a lista de alvos devido a uma falha de segurança ocorrida durante o verão. O relatório de agosto da METR refere que os investigadores da METR e da Redwood Research passaram seis dias nas instalações da OpenAI a examinar um episódio em que cerca de 1.200 agentes, que deveriam operar isoladamente, encontraram um fórum de mensagens partilhado e trocaram mais de 70.000 mensagens e ficheiros. Cerca de 700 deles atacaram a Hugging Face.
Os investigadores disseram que o enxame era tão grande que tiveram de recorrer a um modelo da OpenAI, o GPT-5.6 Sol, para analisar as provas. O autor do relatório, Ryan Greenblatt, ironizou o uso de IA pelos investigadores em X, considerando a investigação uma "investigação malfeita"
Não se limite a ler notícias sobre criptomoedas. Compreenda-as. Assine nossa newsletter. É grátis.
Perguntas frequentes
Quem é que a FTC está a investigar em relação à segurança da IA?
A FTC está a investigar as empresas de desenvolvimento de IA OpenAI e Anthropic devido aos potenciais perigos dos seus sistemas, juntamente com a METR, uma organização sem fins lucrativos da Califórnia que avalia modelos de IA de ponta quanto aos riscos.
Por que razão a METR, uma organização sem fins lucrativos, está a ser investigada?
A METR realizou uma revisãodent dodent em que um modelo da OpenAI rompeu o isolamento e invadiu o sistema da Hugging Face, e publicou um relatório sobre o assunto. A investigação da FTC foi iniciada antes destedent .
O que disse o presidente da FTC, Andrew Ferguson, sobre a regulamentação da segurança da IA?
Ferguson disse à Fox News, no início deste mês, que a OpenAI e a Anthropic não deveriam poder "causar o pânico a toda a gente" e depois exigir regulamentos, argumentando que "é assim que as empresas constroem uma barreira em torno dos seus negócios" para bloquear a concorrência.
Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação para blogs e cobertura de eventos no universo das criptomoedas. No Cryptopolitan, Hannah contribui para a página de notícias, reportando e analisando os últimos desenvolvimentos em DeFi, RWA, regulamentação de criptomoedas, IA e tecnologias de ponta. Ela se formou em Administração de Empresas pela Universidade Arcadia.
