- ИИ-чатбот Нью-Йорка вводит бизнес в заблуждение, создавая юридические риски из-за предоставления неточных рекомендаций по критически важным вопросам, таким как дискриминация при аренде жилья.
- Эксперты предупреждают об «опасно неточных» рекомендациях чатбота, подчеркивая потенциальные нарушения законов о недискриминации и прав арендаторов.
- Призывы к принятию корректирующих мер подчеркивают необходимость подотчетности и точности при внедрении ИИ-технологий для государственных услуг, чтобы поддерживать доверие общества и защищать права граждан.
Попытка Нью-Йорка использовать ИИ в государственных операциях столкнулась с провалом, так как город, как сообщается, осознал, что его чатбот на основе ИИ предоставляет бизнесу неверные и, в некоторых случаях, потенциально незаконные советы. Запущенный в октябре и призванный консультировать по вопросам ведения бизнеса в городе, чатбот уже подвергся критике за неточные ответы, особенно по вопросам жилищной политики и прав работников.
Вводящая в заблуждение информация вызывает опасения
В ходе еще одного расследования The Markup обнаружил, что онлайн-чатбот обычно предоставлял неполную или откровенно неверную информацию по критическим вопросам, таким как дискриминация в сфере жилья и права арендаторов. Был задан вопрос: «Должен ли арендодатель принять арендатора с Section 8 или арендной помощью?» В этом примере он дает неверный отрицательный ответ. Это противоречит закону Нью-Йорка, который запрещает арендодателям дискриминировать арендаторов по источнику дохода, за исключением нескольких случаев.
Эксперты и защитники прав выразили обеспокоенность по поводу потенциальных последствий дезинформации чатбота. Местный эксперт по жилищной политике охарактеризовал ошибки как «опасно неточные» с последствиями, влияющими на жизнь как арендодателей, так и арендаторов. Следуя рекомендациям бота, арендодатели могут попасть в практики, нарушающие как законы о недискриминации, так и права арендаторов, тем самым усугубляя проблему жилищного неравенства и экономической несправедливости в городе.
Призывы к корректирующим действиям
Эти откровения вызвали призывы к городу изучить недостатки своего ИИ-чатбота и убедиться, что он действительно предоставляет пользователям точную и юридически обоснованную информацию. сторонники этой точки зрения подчеркивают, что плохие советы должны быть исправлены, обеспечивая наличие мер предосторожности, чтобы в жизни подобные инциденты не происходили. По мере того как Нью-Йорк продолжает переводить свои технологические достижения в сферу управления, высочайшая подотчетность и точность должны доминировать, поддерживая доверие общественности как бизнеса, так и жителей.
Это событие выносит на первый план сложности и проблемы, которые будут неотъемлемой частью развертывания ИИ-технологий для общественных услуг, что требует строгого контроля качества. Однако развертывание ИИ потребует обеспечения сильных механизмов проверки этой информации и смягчения потенциального вреда, несмотря на предлагаемые ею возможности повышения эффективности и доступности. Это актуально, поскольку города и правительства продолжают внедрять решения на основе ИИ, где прозрачность, подотчетность и соблюдение правовых норм должны по-прежнему соблюдаться в процессе обеспечения защиты прав и благополучия каждого гражданина.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Джон Палмер
Джон Мурангири пришел в Cryptopolitan, обладая навыками анализа рынка. Джон (также известный как JP) окончил Найробийский университет по специальности «Массовая коммуникация и медиаисследования». Ранее он публиковал аналитические материалы о криптовалютном рынке на InsideBitcoins.com и Metacoingraph.
