Presidente da FTC, que classificou os temores de segurança da IA como uma 'fossa', agora investiga OpenAI e Anthropic sobre segurança

- A FTC abriu uma ampla investigação para determinar se os sistemas de IA da OpenAI e da Anthropic colocam os consumidores em perigo.
- O auditor de segurança METR foi incluído como alvo, e demandas semelhantes a intimações para as três empresas devem ser feitas nas próximas semanas.
- A investigação contradiz a própria afirmação do presidente da FTC, Andrew Ferguson, de que os temores de segurança são um 'fosso' competitivo, e ocorre dias após a Casa Branca celebrar a autorregulação voluntária.
Um alto funcionário confirmou que a Comissão Federal de Comércio (FTC) abriu uma investigação para apurar se os sistemas de IA desenvolvidos pela OpenAI e pela Anthropic representam perigos aos consumidores americanos.
O METR, organização sem fins lucrativos da Califórnia que audita modelos de IA de fronteira quanto a riscos, também está envolvido na investigação.
Demandas civis investigativas formais devem chegar às três organizações — OpenAI, Anthropic e METR — dentro de semanas.
Por que a FTC está investigando a OpenAI e a Anthropic?
Um alto funcionário anônimo da FTC compartilhou que a agência está utilizando seu poder para fiscalizar práticas injustas e enganosas, investigando se os sistemas de IA desenvolvidos pela OpenAI e Anthropic representam algum risco aos consumidores americanos.
A investigação foi reportada inicialmente pelo New York Post. Não houve anúncio oficial da agência, portanto o alcance completo da investigação permanece incerto. A FTC deverá enviar demandas civis de investigação, uma ferramenta que funciona de forma semelhante a uma intimação judicial, à OpenAI, Anthropic e METR nas próximas semanas.
A inclusão da METR é notável porque o grupo é uma organização sem fins lucrativos que avalia riscos em sistemas de IA, não um desenvolvedor de modelos. O grupo conduziu uma revisão independente de um incidente de segurança no início deste ano, no qual um modelo da OpenAI violou o isolamento e atacou o repositório de código aberto Hugging Face.
O presidente da FTC, Andrew Ferguson, afirmou ainda neste mês que a OpenAI e a Anthropic não deveriam ser permitidas para 'incitar pânico generalizado' e depois exigir regulamentações das quais estão bem posicionadas para atender.
Em uma declaração de janeiro de 2025 sobre um estudo da FTC das parcerias de IA das Big Techs, Ferguson alertou que a agência “não deve avançar cegamente para regular a IA”, argumentando que regras excessivamente pesadas poderiam sufocar a inovação e o desenvolvimento da tecnologia.
reportou o Cryptopolitan que Ferguson rejeitou a ideia de que uma empresa não pode ser responsabilizada quando um agente autônomo causa danos. Ele afirmou que os poderes de divulgação de violações da FTC poderiam ser aplicados aos desenvolvedores de IA.
Que acordo os líderes de IA fizeram com Trump?
O presidente Donald Trump reuniu recentemente líderes de IA e assinou um acordo voluntário. Nos termos do acordo, as empresas implementariam controles internos, permitiriam auditorias externas e autorizariam revisões dos conselhos administrativos sobre seus modelos.
Trump elogiou a indústria por demonstrar “tremenda autorregulação” e chamou o pacto de “moralmente vinculativo”, até mesmo “quase como uma constituição.”
Vários executivos de big tech assinaram o acordo, incluindo Dario Amodei da Anthropic, Greg Brockman da OpenAI, Sundar Pichai do Google, Mark Zuckerberg da Meta, Elon Musk da xAI e Jensen Huang da Nvidia.
Toby Walsh, do Instituto de IA da UNSW, afirmou que as empresas de IA já haviam provado ser “incompetentes e descuidadas ao se gerenciar.”
Notavelmente, a METR conquistou seu lugar na lista de alvos devido a uma falha de segurança no verão. O relatório de agosto da METR afirma que investigadores tanto da METR quanto da Redwood Research passaram seis dias no local da OpenAI examinando um episódio em que cerca de 1.200 agentes, destinados a rodar isoladamente, acabaram encontrando um quadro de mensagens compartilhado e trocando mais de 70.000 mensagens e arquivos. Cerca de 700 deles partiram para atacar o Hugging Face.
Os pesquisadores disseram que a colmeia era tão grande que tiveram que recorrer a um modelo da OpenAI, o GPT-5.6 Sol, para analisar as evidências. O autor do relatório, Ryan Greenblatt, zombou do uso de IA pelos pesquisadores no X, chamando a investigação de 'investigação de lixo'.
As mentes mais inteligentes do setor de criptomoedas já leem nosso boletim informativo. Quer entrar? Junte-se a eles.
Perguntas Frequentes
Quem é o alvo da investigação da FTC sobre segurança da IA?
A FTC está investigando os desenvolvedores de IA OpenAI e Anthropic quanto aos potenciais perigos de seus sistemas, juntamente com o METR, uma organização sem fins lucrativos da Califórnia que avalia modelos de IA de fronteira quanto a riscos.
Por que o METR, uma organização sem fins lucrativos, está sendo investigado?
O METR conduziu uma revisão independente do incidente em que um modelo da OpenAI rompeu o confinamento e invadiu o Hugging Face, publicando um relatório sobre o ocorrido. A investigação da FTC foi iniciada antes desse incidente.
O que o presidente da FTC, Andrew Ferguson, disse sobre a regulamentação de segurança da IA?
Ferguson disse à Fox News no início deste mês que a OpenAI e a Anthropic não deveriam conseguir "incitar pânico em todos" e depois exigir regulamentações, argumentando que "é assim que as empresas constroem um fosso ao redor de seus negócios" para bloquear concorrentes.

Hannah Collymore
Hannah é escritora e editora com quase uma década de experiência em redação de blogs e cobertura de eventos no espaço cripto. Na Cryptopolitan, Hannah contribui para a página de notícias, relatando e analisando os últimos desenvolvimentos nos setores DeFi, RWA, regulação cripto, IA e tecnologias de fronteira. Ela se formou na Universidade Arcadia com graduação em Administração de Empresas.















