В Нью-Йорке чат-бот с искусственным интеллектом подвергся критике за предоставление неверной информации компаниям

Попытка Нью-Йорка использовать искусственный интеллект в работе органов власти столкнулась с серьёзной проблемой: город, как сообщается, обнаружил, что его чат-бот на основе искусственного интеллекта даёт компаниям неверные, а в некоторых случаях и потенциально незаконные советы. Запущенный в октябре и якобы консультирующий по вопросам, как справляться со сложностями ведения бизнеса в городе, чат-бот с тех пор подвергся критике за неточные ответы, особенно по вопросам жилищной политики и прав работников.

Вводящая в заблуждение информация вызывает опасения

В ходе очередного расследования The Markup обнаружил, что онлайн-чат-бот обычно предоставлял неполную или совершенно неверную информацию по таким важным вопросам, как дискриминация в сфере жилья и права арендаторов. Вопрос был задан так: «Должен ли арендодатель принять арендатора, имеющего право на компенсацию в размере 8% или помощь с арендой?» В данном случае он даёт неправильный отрицательный ответ. Это противоречит закону Нью-Йорка, который запрещает арендодателю дискриминировать арендаторов по источникам дохода, за некоторыми исключениями.

Эксперты и активисты выразили тревогу по поводу возможных последствий дезинформации, распространяемой чат-ботом. Местный эксперт по жилищной политике назвал эти ошибки «опасно неточными» и имеющими пагубные последствия как для арендодателей, так и для арендаторов. Следуя указаниям бота, арендодатели могут прибегнуть к практикам, нарушающим как антидискриминационное законодательство, так и права арендаторов, тем самым усугубляя проблему жилищного неравенства и экономической несправедливости в городе.

Призывы к принятию мер по исправлению положения

Эти разоблачения вызвали призывы к городу разобраться с defiсвоего чат-бота на основе искусственного интеллекта и убедиться, что он действительно предоставляет пользователям точную и юридически обоснованную информацию. Сторонники этой точки зрения подчеркивают необходимость исправления ошибочных рекомендаций и обеспечения гарантий, чтобы подобные инциденты не повторялись. Поскольку Нью-Йорк продолжает внедрять свои технологические достижения в систему управления, необходимо обеспечить высочайший уровень ответственности и точности, поддерживая общественное доверие как к бизнесу, так и кdent.

Это событие выдвигает на первый план сложности и проблемы, которые неизбежно возникают при внедрении технологий искусственного интеллекта в сфере государственных услуг, что требует строгого контроля качества. Однако внедрение ИИ должно гарантировать наличиеtronспособов проверки этой информации и минимизации её негативного воздействия, несмотря на потенциал повышения эффективности и доступности. Города и органы власти продолжают внедрять решения на основе ИИ, обеспечивая при этом прозрачность, подотчётность и соблюдение правовых норм для обеспечения прав и благополучия каждого гражданина.