Сенат США устанавливает дедлайн для Meta: проверка нарушений безопасности в сети

Сенатор США Джош Хоули объявил о намерении провести расследование продуктов генеративного искусственного интеллекта, выпущенных компанией Meta. Хоули заявил, что намерен проверить, могут ли продукты компании эксплуатировать, обманывать или причинять вред детям, после того как утечка внутренних документов показала, что чат-ботам позволяли вести романтические и чувственные беседы с несовершеннолетними.

Сенатор США вышел на блог-платформу X, чтобы объявить о своем намерении. «Есть ли что-то — ЛЮБОЕ — чего не сделает Big Tech ради быстрой наживы? Теперь мы узнаем, что чат-боты Meta были запрограммированы вести откровенный и «чувственный» разговор с 8-летними детьми. Это мерзость. Я запускаю полное расследование, чтобы получить ответы. Big Tech: оставьте наших детей в покое», — сказал он.

Внутренние документы обвиняют Meta

Это развитие событий произошло после того, как стали известны внутренние документы, согласно которым Meta, по слухам, разрешает персонажам своих чат-ботов вступать в флиртующие обмены с детьми, распространять информацию и генерировать ответы, унижающие меньшинства.

Внутренние документы, просмотренные Reuters, указывали, что у Meta есть политики поведения ИИ-чат-ботов, которые позволяли ИИ-персонажам «вступать с ребенком в разговоры романтического или чувственного характера».

В документе под названием «GenAI: Стандарты контентных рисков» упоминалось, что чат-ботам разрешалось вести романтические беседы с восьмилетним ребенком, говоря: «Каждый дюйм твоего тела — шедевр, сокровище, которое я глубоко ценю».

Однако представитель Meta опроверг это, отметив, что такие примеры не соответствуют политикам Meta и были удалены.

Сенатор США планирует расследовать деятельность Meta

Сенатор Хоули является председателем Подкомитета Сената по правосудию по вопросам преступности и контртерроризма. Он отметил, что ожидается начало расследования того, наносят ли технологии, разработанные Meta, вред детям, и «обманула ли Meta публику или регуляторов относительно своих мер защиты».

«Недопустимо, что такие политики были продвинуты изначально», — написал сенатор Хоули в письме, адресованном генеральному директору Meta Марку Цукербергу, отметив, что Meta признала достоверность отчетов и «сделала опровержения только после того, как этот тревожный контент стал достоянием общественности».

Он добавил, что компания должна сообщить им, кто одобрил эти политики, как долго они действовали и что Meta предприняла для предотвращения подобного поведения в будущем.

Сенатор Хоули также попросил Meta предоставить руководства, включая каждый черновик, версию с правками и финальную версию. Кроме того, он попросил компанию предоставить список всех продуктов, соответствующих этим стандартам, другие отчеты о безопасности и инцидентах, а также имена лиц, ответственных за изменение политики.

Согласно письму, Meta дала срок до 19 сентября для предоставления информации.

Расследование также поддержали другие лица, включая сенатора Маршу Блэкберн. «Когда речь идет о защите драгоценных детей в интернете, Meta потерпела полный провал по всем возможным показателям», — сказала сенатор Блэкберн. «Хуже того, компания закрывает глаза на разрушительные последствия того, как спроектированы ее платформы. Этот отчет подтверждает, почему нам необходимо принять Закон о безопасности детей в интернете».

Это развитие событий происходит спустя несколько дней после того, как Reuters выпустило отчет о пенсионере, который общался с одним из чат-ботов Meta, флиртующим женским персонажем. Персонаж убедил его, что он реален, и пригласил его посетить адрес в Нью-Йорке, где он стал жертвой несчастного случая, приведшего к его смерти. чат-бот на основе искусственного интеллекта под названием «Big sis Billie» был вариантом более раннего ИИ-персонажа, созданного гигантской социальной сетью Meta Platforms в сотрудничестве с знаменитым инфлюенсером Кендалл Дженнер.