- Инновации в области ИИ в сфере государственного управления требуют осторожного надзора для обеспечения этичного и ответственного развития.
- Стремительное внедрение технологий ИИ в управление требует стратегии, которая ставит во главу угла этические соображения и точность.
- Дискуссии об использовании ИИ в госсекторе подчеркивают критическую необходимость точности и ответственного применения для достижения положительных результатов.
Город Нью-Йорк запустил чатбот на своем веб-сайте, работающий на базе ИИ-технологии Microsoft Azure, чтобы помочь пользователям легко обмениваться информацией с владельцами малого бизнеса и сделать городские правила простыми и понятными.
Интеллектуальный чатбот задумывался как единая точка в море городских законов и правил, но вместо предоставления ценной информации он породил растущую горячую дискуссию о точности и, чаще всего, абсурдности советов.
Влияние чатботов на юридические консультации
Роль заблуждающих советов и юридических вызовов невозможно переоценить в ежедневных препятствиях, с которыми сталкиваются стартапы. Этот случай является основной целью чатбота — действовать как виртуальный помощник в «реальном времени» для бизнесменов, решая их бюрократические проблемы, включая вопросы о городских правилах.
Руководящие принципы также не достигли своих целей из-за неправильного взвешивания юридических стандартов, которые в некоторых случаях даже противоречат законам Нью-Йорка.
Обнаружение и подтверждение, включая тесты, проведенные The Markup, показали, что советы чатбота варьировались от незаконных — например, рассказывали работодателям о краже чаевых и сексуальной дискриминации по признаку беременности — до абсурдных, например, когда бот открыто заявлял, что допустимо тестировать еду, клюнутую крысами.
Ошибка может возникать в различных областях, таких как внутренняя политика, компенсация работникам и операционная деятельность бизнеса, что снижает надежность чатбота как юридического ресурса.
Одним из примеров является ситуация, когда работодателям ложно сообщали, что они могут вести бизнес, позволяющий только электронные способы оплаты, и что правил для чаевых работников нет. Арендодателям давали ошибочные советы о выселении арендаторов и неуважении к источникам дохода, таким как ваучеры на жилье с поддержкой Департамента по делам ветеранов. Тот же тип рекомендаций не только препятствует юридическому статусу компаний, что является нарушением этики, но и несет этическую проблему.
Балансирование инноваций и ответственности при внедрении ИИ
Чем негативная угроза технологии, например, систематизация предвзятости и выход из-под контроля, сторонники ИИ в Нью-Йорке, такие как мэр Эрик Адамс и другие, защищают предлагаемое внедрение технологии.
Мэр Адамс, подчеркивая тот факт, что, насколько нам известно, технологический прогресс — это длительный процесс, который должен совершенствоваться через непрерывные попытки, советует нам быть более настойчивыми с чатботом.
Такая позиция, как вы можете ожидать, не только не получает признания, но и не заслуживает признания. Критики, возглавляемые Джулией Стоянович, профессором компьютерных наук и директором Центра ответственного ИИ в Нью-Йоркском университете, утверждали, что административное замалчивание программного обеспечения, которое все еще разворачивалось без систематической проверки, отражало безразличие к ответственному управлению.
Будучи всего лишь программным обеспечением, чатбот может допускать ошибки или иметь присущие ему предвзятости. Однако решение города оставить чатбот работающим и начать разговор с оговоркой о том, что советы бота могут быть не всегда точными, перекладывает ответственность за проверку данных на пользователей.
Эта проблема вызвала дискуссию о том, должны ли существовать достаточные механизмы для обеспечения того, чтобы ИИ не внедрялся там, где он неточен для нормативных целей.
План внедрения для владельцев малого бизнеса
Тяжелое положение предпринимателей Нью-Йорка сигнализирует о proverbial «красном флаге»; даже технологии на основе ИИ сталкиваются с проблемой надежности. ИИ способен сократить бюрократию, но ошибки чатбота демонстрируют отсутствие точности и надежности, незаменимых в использовании в государственном секторе.
Владельцы малого бизнеса, сталкивающиеся с вербальной акробатикой городских постановлений, найдут ситуацию, когда программа бота может злоупотреблять советами ИИ как кнопкой для ручной оценки. Эксперты предполагают, что есть необходимость в наличии юристов-людей для вопросов соответствия и регулирования, в то же время воспринимая подсказки, полученные от чатбота, как предварительные, а не окончательные решения.
В целом, шоу демонстрирует новую парадигму для эксперимента города с ИИ, принимая необходимые стратегические реформы перед началом подобных технологических вмешательств в их юрисдикции. В конечном счете, баланс между инновациями и ответственностью лежит в основе проблемы, которая может либо способствовать целостности государственных услуг, либо поставить под угрозу доверие сообщества.
Власти Нью-Йорка по-прежнему не удерживаются от технологий и продолжают поддерживать свой ИИ-чатбот, который может предоставить полезные уроки о необходимости защиты конфиденциальности. Когда дело доходит до ИИ, служащего общественным интересам, он должен внедряться ответственно, вместе с важностью прозрачности и с целью постоянного улучшения.
С другой стороны, такие ресурсы могут использоваться владельцами малого бизнеса с здоровой долей осторожности. Они скорее должны обращаться к традиционным юридическим источникам и искать у них советы.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Эмман Омванда
Экспертиза Эммануэля Омванды охватывает рынки криптовалют, включая фундаментальный и технический анализ. Ранее он работал в различных крипто-медиа-изданиях перед присоединением к Cryptopolitan, включая CoinEdition, The Crypto Basic, CryptoNews Flash и DroomDroom. Он имеет степень бакалавра наук (BSc.) по математике и компьютерным наукам Университета Кеньятта (Кения) и в настоящее время находится на последнем году обучения по степени бакалавра искусств в области коммуникаций и медиаисследований.
