План Илона Маска по внедрению ИИ в систему социального обеспечения создает серьезные проблемы

В пятницу Управление социального обеспечения запустило новый чат-бот в стиле ChatGPT под названием «Agency Support Companion». Инструмент должен был помочь сотрудникам справляться с рутинными задачами и повысить производительность. Однако, по словам сотрудников, он практически не работает, а неудачный запуск заставил многих задуматься, является ли автоматизация правильным путем для крупнейшего в Америке агентства социальных услуг.

В последние месяцы организация Маска, известная внутри как DOGE, активно сокращала штаты и бюджеты федеральных агентств. Стремление к модели «искусственный интеллект прежде всего» направлено на замену человеческих работников программным обеспечением везде, где это возможно. В рамках этой стратегии, как сообщает Wired, новый чат-бот был интегрирован в повседневные рабочие процессы сотрудников агентств, обещая облегчить их рабочую нагрузку.

Внутреннее электронное письмо описывало приложение как способ «помочь сотрудникам в повседневных задачах и повысить производительность», но на практике оно получило мало внимания.

Источники в агентстве утверждают, что запуск приложения сопровождался крайне некачественным обучающим видеороликом с плохо анимированной женщиной с четырьмя пальцами. Ролик должен был ознакомить пользователей с функциями приложения, но в нем не было предупреждения о недопустимости загрузки конфиденциальных личных данных. Эта ошибка вынудила агентство разослать дополнительное электронное письмо со словами: «Приносим свои извинения за недочет в нашем обучающем видеоролике», чтобы предупредить сотрудников о риске.

Мало кто воспринял обучающее видео SSA AI всерьез

«Я не уверен, что большинство моих коллег вообще смотрели обучающее видео», — сказал Wired один из сотрудников Управления социального обеспечения. Он добавил, что при тестировании чат-бота «некоторые из полученных ответов были невероятно расплывчатыми и/или неточными». Другие сотрудники, как сообщается, высмеивали примитивную графику. «Никто из моих знакомых им не пользуется. Он такой неуклюжий и плохой», — сказал источник.

Критики предупреждают, что это неуверенное начало может предвещать более масштабные неудачи.

Аналогичным образом, в Бразилии в 2018 году государственная компания Dataprev запустила приложение Meu INSS, предназначенное для обработки заявлений на получение пособий по социальному обеспечению с использованием компьютерного зрения и обработки естественного языка. Однако система часто отклоняла обоснованные заявления из-за незначительных ошибок, что приводило к длительным судебным разбирательствам.

Один из примеров касается 55-летней Жозелии де Брито, бывшей работницы сахарного тростника, чье заявление на пенсию было отклонено, потому что автоматизированная системаdentопределила ее пол. «У меня есть все документы, подтверждающие состояние моего здоровья, все, что нужно, и [в получении пособия] мне все равно отказывают. Это унижение», — сказала она изданию Rest of World.

Сельские сельскохозяйственные рабочие, многие из которых не обладают базовыми цифровыми навыками, столкнулись с трудностями при переходе на онлайн-сервисы. «Люди здесь даже не могут работать с Gmail, Facebook, Instagram», — сказал Франсиско Сантана,dent Союза сельских рабочих в Барра-ду-Корда. «Процессы все больше автоматизируются, а общество к этому не готово, особенно в отдаленных районах, на окраинах, для людей, живущих в сельской местности»

Эти препятствия за рубежом указывают на потенциальные ловушки для США.

Социальные службы уже находятся под давлением необходимости «модернизации», и этот процесс начался еще при администрации Трампа, когда к власти пришла команда так называемых технократов.

Министерство энергетики и промышленной стратегии Маска пошло еще дальше, стремясь сократить численность федеральных служащих вдвое. «Все, что можно автоматизировать с помощью машин, будет автоматизировано. И технократы заменят бюрократов», — сообщил Washington Post источник, знакомый с планами Министерства энергетики и промышленной стратегии.

Акцент DOGE на автоматизации породил скорее путаницу, чем эффективность.

Недавний инцидент в Управлении социального обеспечения (SSA) наглядно демонстрирует масштаб проблемы. Сообщается, что сотрудники DOGE отметили «бесчисленное количество» получателей пособий по случаю смерти как «умерших», прекратив их выплаты. «Около 4 миллионов человек были отмечены как умершие», — сказал Ренни Глазго, многолетний технический аналитик по обработке заявок в агентстве, в интервью The Daily Beast. «Они присылают нам электронные письма, в которых говорится: „Если эти люди придут в офис со своимиdent, вы можете восстановить их выплаты“». Этот процесс восстановления может занять «примерно три-четыре дня», добавил Глазго, поскольку сотрудникам необходимо вручную «воскресить» каждого получателя в системе.

Помимо прекращения выплаты пособий, DOGE также планирует в течение нескольких месяцев полностью переписать весь программный код SSA. Источники сообщают, что для соблюдения этого срока команда почти наверняка будет использовать ИИ для написания кода, что требует тщательного контроля из-за высокой частоты ошибок в коде, генерируемом машинами.

DOGE tracисторию . , автоматическая модернизация может привести к еще большему хаосу

Некоторые наблюдатели подозревают, что эти ошибки могли быть преднамеренными. Одна из групп критиков утверждает, что цель DOGE — не подлинная реформа, а скорее дестабилизация SSA, чтобы подготовить почву для приватизации. Если это так, то эти промахи и хаос могут быть именно тем, к чему стремится команда Маска.