Председатель Федеральной торговой комиссии, назвавший опасения по поводу безопасности ИИ «рвами», теперь расследует действия компаний OpenAI и Anthropic в отношении безопасности
- Федеральная торговая комиссия начала масштабное расследование того, представляют ли системы искусственного интеллекта компаний OpenAI и Anthropic опасность для потребителей.
- В число объектов проверки попала компания METR, занимающаяся аудитом безопасности, и в течение нескольких недель всем трем компаниям должны быть направлены запросы, аналогичные судебным повестки.
- Расследование противоречит собственному утверждению председателя Федеральной торговой комиссии Эндрю Фергюсона о том, что опасения по поводу безопасности являются конкурентным «защитным барьером», и оно началось спустя несколько дней после того, как Белый дом отпраздновал добровольное саморегулирование.
Высокопоставленный чиновник подтвердил, что Федеральная торговая комиссия (FTC) начала расследование по вопросу о том, представляют ли системы искусственного интеллекта, разработанные компаниями OpenAI и Anthropic, опасность для американских потребителей.
В расследование также вовлечена калифорнийская некоммерческая организация METR, которая проводит аудит передовых моделей искусственного интеллекта на предмет рисков.
Ожидается, что официальные запросы на проведение гражданского расследования поступят во все три организации — OpenAI, Anthropic и METR — в течение нескольких недель.
Почему Федеральная торговая комиссия проводит расследование в отношении OpenAI и Anthropic?
Анонимный высокопоставленный сотрудник Федеральной торговой комиссии (FTC) сообщил, что агентство использует свои полномочия для борьбы с недобросовестной и вводящей в заблуждение практикой, расследуя, представляют ли системы искусственного интеллекта, разрабатываемые компаниями OpenAI и Anthropic, какую-либо опасность для американских потребителей.
О начале расследования впервые сообщила газета New York Post. Официального заявления от ведомства пока не поступало, поэтому полный масштаб расследования остается неясным. Федеральная торговая комиссия направит компаниям OpenAI, Anthropic и METR запросы на проведение гражданского расследования (инструмент, работающий аналогично повестке в суд).
Включение METR в список примечательно тем, что эта группа является некоммерческой организацией, которая оценивает системы ИИ на предмет рисков, а не занимается созданием моделей. Ранее в этом году группа провелаdent проверкуdent безопасности, в ходе которого модель OpenAI вышла из-под контроля и атаковала открытый репозиторий Hugging Face.
Председатель Федеральной торговой комиссии Эндрю Фергюсон заявил еще в начале этого месяца, что компаниям OpenAI и Anthropic нельзя позволять «ввергать всех в панику», а затем требовать соблюдения правил, которые они вполне способны выполнить.
В заявлении от января 2025 года, касающемся исследования Федеральной торговой комиссии (FTC) о партнерских отношениях крупных технологических компаний в области ИИ, Фергюсон предупредил, что агентство «не должно бездумно ужесточать регулирование ИИ», утверждая, что жесткие правила могут подавить инновации и развитие этой технологии.
Cryptopolitan сообщило , что Фергюсон отверг идею о том, что компанию нельзя винить, когда автономный агент причиняет вред. Он заявил, что полномочия Федеральной торговой комиссии по раскрытию информации о нарушениях могут быть применены к разработчикам ИИ.
Какое соглашение заключили руководители ИИ с Трампом?
dent Дональд Трамп недавно собрал лидеров в области искусственного интеллекта и подписал добровольное соглашение. В соответствии с условиями сделки, компании должны были внедрить внутренний контроль, разрешить внешние аудиты и допустить проверку своих моделей советом директоров.
Трамп похвалил отрасль за проявленную «грандиозную саморегуляцию» и назвал пакт «морально обязательным», даже «почти конституцией»
Соглашение подписали несколько руководителей крупных технологических компаний , в том числе Дарио Амодей из Anthropic, Грег Брокман из OpenAI, Сундар Пичаи из Google, Марк Цукерберг из Meta, Илон Маск из xAI и Дженсен Хуанг из Nvidia.
Тоби Уолш из Института искусственного интеллекта UNSW заявил, что компании, занимающиеся разработкой ИИ, уже доказали свою «некомпетентность и небрежность в управлении собой»
Примечательно, что METR попала в список целей из-за летнего сбоя в системе безопасности. В августовском отчете METR говорится, что следователи из METR и Redwood Research провели шесть дней на территории OpenAI, изучая инцидент, в ходе которого около 1200 агентов, которые должны были работать изолированно, обнаружили общую доску объявлений и обменялись более чем 70 000 сообщений и файлов. Около 700 из них впоследствии атаковали Hugging Face.
Исследователи заявили, что рой был настолько большим, что им пришлось использовать модель OpenAI, GPT-5.6 Sol, для анализа имеющихся данных. Автор отчета Райан Гринблатт высмеял использование исследователями ИИ в отношении X, назвав расследование «беспорядочным расследованием»
Не просто читайте новости о криптовалютах. Разберитесь в них. Подпишитесь на нашу рассылку. Это бесплатно.
Часто задаваемые вопросы
Кого именно расследует Федеральная торговая комиссия (FTC) в связи с безопасностью ИИ?
Федеральная торговая комиссия (FTC) проводит расследование в отношении разработчиков ИИ OpenAI и Anthropic в связи с потенциальной опасностью их систем, а также в отношении METR, калифорнийской некоммерческой организации, которая оценивает риски передовых моделей ИИ.
Почему в отношении некоммерческой организации METR проводится расследование?
METR провелаdent проверкуdent , в ходе которого модель OpenAI вышла из-под контроля и взломала Hugging Face, и опубликовала отчет по этому поводу. Расследование FTC было начато еще до того, как произошел этотdent .
Что сказал председатель Федеральной торговой комиссии Эндрю Фергюсон о регулировании безопасности искусственного интеллекта?
Ранее в этом месяце Фергюсон заявил Fox News, что OpenAI и Anthropic не должны иметь возможности «ввергнуть всех в панику», а затем требовать регулирования, утверждая, что именно так компании «создают ров вокруг своего бизнеса», чтобы блокировать конкурентов.
Ханна Коллимор
Ханна — писательница и редактор с почти десятилетним опытом ведения блогов и освещения мероприятий в криптопространстве. В CryptopolitanХанна пишет для новостной страницы, освещая и анализируя последние события в DeFi, RWA, регулирования криптовалют, ИИ и передовых технологических отраслей. Она окончила университет Аркадия со степенью в области делового администрирования.
