Компания Microsoft запретила полицейским силам США использовать сервисы генеративного искусственного интеллекта, работающие на платформе Azure OpenAI Service. Это новый подход, описанный в обновленных условиях предоставления услуг в среду, и он направлен на решение растущей этической дилеммы, с которой сталкивается ИИ в правоохранительных органах.
В обновленной политике освещаются этические проблемы
В пересмотренных условиях прямо указано, что подобные интеграции не могут использоваться «полицейскими органами или для» полицейских управлений в Соединенных Штатах. Это ограничение распространяется и на модели анализа текста и речи, что подчеркивает Microsoft к ответственному использованию ИИ. В качестве дополнительного правила был введен отдельный пункт, специально запрещающий использование технологии распознавания лиц в реальном времени на мобильных камерах, включая нательные камеры и видеорегистраторы, в неконтролируемых условиях.
Причиной этих движений могутdentнедавние достижения технологической индустрии. Компания Axon, известная своими технологиями для военных и правоохранительных органов, только что анонсировала продукт, использующий модель вербализатора OpenAI с генеративным текстом GPT-4 для обработки аудиозаписей, регистрируемых нательными камерами. Выявление ложной информации и её предвзятости в отношении расовых предрассудков в обучающих данных стало одним из поводов для критики.
Последствия и возможности для интерпретации
Хотя обновленная политика является решительной позицией Microsoft, она все же допускает различные интерпретации. Запрет на использование сервиса Azure OpenAI распространяется только на полицию США, поскольку международное развертывание продолжается. Кроме того, ограничения на использование технологии распознавания лиц применяются исключительно к ее использованию правоохранительными органами США, за исключением стационарных камер в контролируемых условиях.
Такая сбалансированная методология хорошо согласуется с широкой стратегией Microsoft в области ИИ для правоохранительных органов и обороны. Между тем, несмотря на запреты на определенные виды использования, постепенно развивается сотрудничество между OpenAI и государственными учреждениями, ярким примером которых является Пентагон. Подобные партнерства свидетельствуют об изменении позиции как OpenAI, так и Microsoft, которая ищет возможности применения ИИ в военных технологиях.
Взаимодействие с правительством и динамика отрасли
Внедрение Microsoft Azure OpenAI государственными учреждениями ускорилось, поскольку Azure Government включает в себя дополнительные инструменты обеспечения соответствия требованиям и управления для использования правоохранительными органами. Кэндис Линг, старший вице-президент dent Federal, будет отвечать за получение дополнительных разрешений от Министерства обороны для сервиса Azure OpenAI, что покажет полезность платформы в срочных задачах.
Динамичная сфера этики и регулирования ИИ создает необходимость для технологических компаний принимать взвешенные решения заранее. Своим решением отказаться от использования ИИ в правоохранительных органах Microsoft демонстрирует более широкую тенденцию в отрасли к повышению подотчетности и прозрачности при внедрении ИИ. В ходе обсуждений регулирования ИИ поставщикам технологий, политикам и группам активистов придется работать вместе, чтобы этически решить вновь возникшие проблемы.
Решение Microsoft запретить полицейским управлениям США использовать Azure OpenAI Service в определенных сценариях свидетельствует о целенаправленном и продуманном подходе компании к решению этических проблем внедрения ИИ. Действительно, эта поправка демонстрирует искренность политиков и сложность этого баланса. Учитывая эволюцию дискуссий об этичном использовании ИИ, заинтересованные стороны всегда должны участвовать в конструктивном диалоге для обеспечения ответственного развития и внедрения ИИ.
