чат-бот Нью-Йорка на основе искусственного интеллекта подвергается резкой критике за предоставление неточных и вводящих в заблуждение рекомендаций. Несмотря на сообщения о некачественных рекомендациях, мэр Эрик Адамс сохранил инструмент на официальном правительственном сайте, защищая это решение и признавая его недостатки.
Критика в адрес неточных советов усиливается
Чат-бот, запущенный в октябре в качестве информационного центра для ориентирования в бюрократической системе города, подвергся критике за предоставление ошибочной информации по различным темам, включая жилищную политику, права трудящихся и правила ведения бизнеса. Критики утверждают, что ошибочные ответы бота подчеркивают риски, связанные с внедрением правительствами искусственного интеллекта без достаточного контроля.
Профессор компьютерных наук Джулия Стоянович из Центра ответственного ИИ Нью-Йоркского университета раскритиковала подход города, назвав его безрассудным и безответственным. Она утверждает, что внедрение непроверенного программного обеспечения без надлежащего контроля создает значительные проблемы. Между тем, мэр Адамс считает, что возникновение проблем — это естественная часть внедрения новых технологий, и полагает, что их решение имеет решающее значение для улучшения.
Призывы к подотчетности и совершенствованию
По мере роста обеспокоенности по поводу неточностей, предоставляемых чат-ботом, эксперты подчеркивают необходимость подотчетности и совершенствования. Розалинд Блэк, директор по жилищным вопросам в организации Legal Services NYC, указывает на дезинформацию бота относительно жилищной политики, подчеркивая важность предоставления точных рекомендаций. Аналогичным образом, профессионалы отрасли, такие как Эндрю Риджи из NYC Hospitality Alliance, предупреждают о потенциальной ответственности за предоставление предприятиям неверной юридической информации.
Несмотря на критику, Управление технологий и инноваций Нью-Йорка по-прежнему стремится к повышению точности и эффективности чат-бота. Признавая недостатки пилотной программы, её представитель Лесли Браун подчёркивает её положительное влияние на предоставление своевременной помощи тысячам пользователей. Городские власти обещают продолжить совершенствование инструмента для более эффективной поддержки малого бизнеса по всему Нью-Йорку .
В Нью-Йорке чат-бот на базе искусственного интеллекта, предназначенный для помощи владельцам малого бизнеса, подвергается критике за распространение неточной и вводящей в заблуждение информации. Критики выражают обеспокоенность по поводу потенциальных рисков внедрения технологий ИИ без надлежащего контроля. Однако городские власти по-прежнему привержены улучшению работы чат-бота и обеспечению его точности в удовлетворении потребностей предпринимателей по всему городу.
