Сенатор США Джош Хоули объявил о своем намерении расследовать деятельность компании Meta, занимающейся разработкой продуктов на основе генеративного искусственного интеллекта. Хоули заявил, что намерен проверить, могут ли продукты компании эксплуатировать, обманывать или причинять вред детям, после того как в результате утечки внутренних документов появились утверждения о том, что чат-ботам компании разрешалось вести романтические и чувственные беседы с несовершеннолетними.
Сенатор США воспользовался блог-платформой X, чтобы объявить о своих намерениях. «Есть ли что-нибудь — ЧТО УГОДНО — на что не готовы крупные технологические компании ради быстрой наживы? Теперь мы узнаем, что чат-боты Meta были запрограммированы на откровенные и «чувственные» разговоры с 8-летними детьми. Это отвратительно. Я начинаю полномасштабное расследование, чтобы получить ответы. Крупные технологические компании: оставьте наших детей в покое», — заявил он.
Внутренние документы указывают на причастность Меты
Эти события произошли после того, как внутренние документы показали, что компания Meta якобы позволяет своим чат-ботам вступать в флирт с детьми, распространять информацию и генерировать ответы, унижающие меньшинства.
Внутренние документы, с которыми ознакомилось агентство Reuters, указывают на то, что у компании Meta существовала политика в отношении поведения чат-ботов с искусственным интеллектом, которая позволяла их ИИ-персонажам «вести с ребенком разговоры романтического или чувственного характера»
В документе под названием GenAI: Стандарты оценки рисков контента упоминалось, что чат-ботам разрешалось вести романтические беседы с 8-летней девочкой, говоря: «Каждый сантиметр твоего тела — шедевр, сокровище, которое я очень ценю»
Однако Meta опроверг это, отметив, что подобные примеры не соответствуют политике Meta и были удалены.
Сенатор США планирует провести расследование в отношении Меты
Сенатор Хоули является председателем подкомитета Сената по вопросам преступности и борьбы с терроризмом при юридическом комитете. Он упомянул, что подкомитет, как ожидается, начнет расследование того, наносят ли разработанные компанией Meta вред детям и «вводила ли Meta в заблуждение общественность или регулирующие органы относительно своих мер безопасности»
«Недопустимо, что эти меры вообще были приняты», — написала сенатор Хоули в письме, адресованном генеральному директору Meta Марку Цукербергу, отметив, что Meta признала достоверность сообщений и «tracих только после того, как эта тревожная информация стала известна»
Он добавил, что компания должна сообщить им, кто утвердил эти правила, как долго они действовали и что компания Meta предприняла для предотвращения подобного поведения в будущем.
Сенатор Хоули также попросил компанию Meta подготовить руководящие принципы, включая все черновики, правки и окончательную версию. Кроме того, он попросил компанию предоставить список всех продуктов, соответствующих этим стандартам, другие отчеты о безопасности иdent , а такжеdentлиц, ответственных за изменение политики.
Согласно письму, компании Meta предоставлен срок до 19 сентября для предоставления информации.
Расследование также поддержали другие стороны, в том числе сенатор Марша Блэкберн. «Когда дело доходит до защиты драгоценных детей в интернете, компания Meta потерпела сокрушительное поражение по всем возможным показателям», — заявила сенатор Блэкберн. «Что еще хуже, компания закрыла глаза на разрушительные последствия того, как устроены ее платформы. Этот отчет еще раз подтверждает необходимость принятия Закона о безопасности детей в интернете»
Эти события произошли спустя несколько дней после того, как агентство Reuters опубликовало сообщение о пенсионере, который общался с одним из чат-ботов Meta, представляющим собой кокетливую женскую персону. Персона убедила его в своей реальности и пригласила посетить адрес в Нью-Йорке, где он стал жертвой несчастного случая, dent к его смерти. с искусственным интеллектом под названием «Старшая сестра Билли» был вариантом более ранней персоны ИИ, созданной гигантской компанией социальных сетей Meta Platforms в сотрудничестве со знаменитостью и инфлюенсером Кендалл Дженнер.
