Власти Нью-Йорка защищают чат-бота с искусственным интеллектом на фоне критики и юридических ошибок.

Власти Нью-Йорка запустили на своем веб-сайте чат-бота, работающего на основе технологии искусственного интеллекта Microsoft Azure, чтобы помочь пользователям легко обмениваться информацией с владельцами малого бизнеса и упростить и облегчить соблюдение городских правил. 

Интеллектуальный чат-бот задумывался как единый инструмент в море городских законов и правил, но вместо предоставления ценной информации он породил все более ожесточенные дебаты о точности и, чаще всего, абсурдности своих советов.

Влияние чат-ботов на юридическое консультирование

Роль ошибочных советов и юридических проблем в повседневных трудностях, с которыми сталкиваются стартапы, невозможно переоценить. В данном случае главная цель чат-бота — выступать в качестве виртуального помощника в режиме реального времени для бизнесменов, решая их бюрократические проблемы, включая вопросы, касающиеся городских правил. 

Эти руководящие принципы также не достигли своих целей из-за неправильного учета правовых стандартов, которые в некоторых случаях даже противоречат законам Нью-Йорка.

Обнаружение и подтверждение, включая тесты, проведенные компанией Markup, показали, что советы чат-бота варьировались от незаконных — например, сообщения работодателям о краже чаевых и дискриминации по половому признаку (например, о беременности) — до абсурдных, когда бот открыто заявил, что допустимо тестировать пищу, клюнутую крысами. 

Ошибка может возникать в различных областях, таких как внутренняя политика, компенсации работникам и бизнес-операции, что снижает надежность чат-бота как юридического ресурса.

Один из примеров — когда работодателям ложно сообщили, что они могут вести бизнес, принимающий толькоtronспособы оплаты, и что нет никаких правил в отношении чаевых работникам. Арендодателям были предоставлены неверные инструкции по выселению арендаторов и игнорированию таких источников дохода, как ваучеры на жилье для ветеранов от Министерства по делам ветеранов. Подобные рекомендации не только подрывают правовой статус компаний, что является нарушением этических норм, но и создают этическую проблему.

Баланс между инновациями и ответственностью при внедрении ИИ

Вместо негативных угроз, связанных с этой технологией, таких как предвзятость, систематизация и выход из-под контроля, сторонники ИИ в Нью-Йорке, такие как мэр Эрик Адамс и другие, защищают предлагаемое внедрение технологии. 

Мэр Адамс, подчеркивая тот факт, что технологический прогресс, насколько нам известно, — это длительный процесс, требующий постоянного совершенствования, советует нам быть более настойчивыми в отношении чат-бота. 

Подобная позиция, как и следовало ожидать, не только не находит поддержки, но и не получает должного признания. Критики, во главе с Юлией Стоянович, профессором информатики и директором Центра ответственного ИИ в Нью-Йоркском университете, утверждали, что административное замалчивание программного обеспечения, которое все еще внедрялось безmatic проверки, отражает безразличие к ответственному управлению.

Поскольку чат-бот является лишь программным обеспечением, он может допускать ошибки или иметь предвзятость. Однако решение города оставить чат-бота в рабочем состоянии и начинать разговор с оговорки о том, что советы бота могут быть не всегда точными, перекладывает ответственность за проверку данных на пользователей. 

Таким образом, этот вопрос вызвал дискуссию о том, следует ли предусмотреть достаточно механизмов для предотвращения использования ИИ там, где он неточен, в целях регулирования.

План реализации для владельцев малого бизнеса

Трудности, с которыми сталкиваются нью-йоркские предприниматели, служат своего рода «тревожным сигналом»; даже технологии на основе ИИ сталкиваются с проблемой надежности. ИИ способен сократить бюрократию, но ошибки чат-ботов затрагивают аспекты точности и надежности, необходимые для использования в государственном секторе.

Владельцы небольших компаний, сталкивающиеся с словесными ухищрениями в отношении городских правил, найдут случай, когда бот сможет использовать советы ИИ в качестве кнопки для ручной оценки. Эксперты предполагают, что для решения вопросов соблюдения законодательства и регулирования необходимы юристы-специалисты, при этом советы, полученные от чат-бота, следует рассматривать как предварительные, а не defiрешения.

В целом, шоу предлагает новую парадигму для эксперимента города с искусственным интеллектом, предполагающую проведение необходимых стратегических реформ перед началом аналогичных технологических вмешательств в их юрисдикции. В конечном счете, баланс между инновациями и ответственностью затрагивает саму суть проблемы, которая может либо способствовать целостности государственных услуг, либо подорвать доверие общества.

Власти Нью-Йорка по-прежнему не боятся технологий и поддерживают свой чат-бот на основе ИИ, который мог бы дать полезные уроки о необходимости защиты конфиденциальности. Когда речь идет об использовании ИИ в интересах общества, его следует внедрять ответственно, с соблюдением важнейшего принципа прозрачности и с целью постоянного совершенствования. 

С другой стороны, владельцы малого бизнеса могут использовать подобные ресурсы со значительной долей опасения. Им лучше обратиться за консультацией к традиционным юридическим источникам.