Человеческие подрядчики обрабатывали некоторые звонки Muse AI во внутреннем тесте Meta

На прошлой неделе Meta включила тест для половины своих сотрудников, в котором колл-центры тихо совершали некоторые телефонные звонки, запрошенные через его ИИ-агента Muse, согласно внутренним постами данным, увиденным Reuters.

Компания временно отклонила этот тест.

Звонки, совершаемые людьми, достигли 95% до 98% успеха в ранних испытаниях

Muse, запущенный 8 сентября, создан для самостоятельной отправки электронных писем, совершения покупок и бронирования путешествий. Его функция звонков набирает номера американских компаний для записи на стрижку, проверки наличия товара в магазине или получения котировок от подрядчиков.

Meta начала тестирование звонков с сотрудниками в августе и постепенно распространила его на пользователей Muse после запуска приложения.

Некоторые компании сбрасывали вызов агенту. Один сотрудник сказал, что страховая компания постоянно сбрасывала телефон, как только слышала, что Muse — это ИИ.

На прошлой неделе Meta затем включила «звонки человеческих агентов» для половины своих сотрудников. Сотрудники могли присоединиться к группе отказа, и Muse могла передать запрос обученному агенту, который совершал звонок и обрабатывал его.

Вице-президент Meta Superintelligence Labs сказала сотрудникам, что тесты показали, что уровень успеха звонков, совершаемых людьми, может быть повышен до 95–98%. Звонки только с помощью ИИ были менее успешными, сказала она.

Расистское замечание в звонке по счету за кабельное телевидение предшествовало отмене

Сотрудники предупредили, что конфиденциальная информация, которую пользователи предоставляют Muse, может быть утечена подрядчикам колл-центров. Некоторые указали на презентацию запуска Meta, в которой говорилось, что каждый агент Muse работает в своей собственной изолированной виртуальной машине.

Один сотрудник, который использовал Muse для переговоров по счету за кабельное телевидение, сказал, что в транскрипции звонка подрядчик сделал расистское замечание.

Вице-президент сказала, что это упущение — начинать звонки, размещенные подрядчиками, без надлежащих раскрытий информации, и Meta временно отклонила эту функцию. Подрядчик, о котором идет речь, больше не будет работать над проектами Meta, сказала она .

Представитель Meta Дэниел Робертс сказал, что тест проводится для сбора отзывов, чтобы Meta могла внедрить защиты для безопасности и конфиденциальности перед любым публичным выпуском.

«Мы работаем с торговцами, чтобы продолжать улучшать эту потенциальную функцию звонков, и запустим ее только тогда, когда она будет готова и с надлежащими раскрытиями информации», — сказал Робертс .

Muse преодолела отметку в 2,5 миллиона загрузок. С момента запуска акции Meta выросли более чем на 20%, добавив более 200 миллиардов долларов к ее рыночной стоимости.