Microsoft запрещает полицейским департаментам США использовать корпоративный инструмент ИИ

Microsoft запретил полицейским силам в Соединенных Штатах получать доступ к сервисам генеративного ИИ, работающим на базе сервиса Azure OpenAI. Это новый подход, представленный в обновленных условиях обслуживания в среду, и он направлен на решение растущей этической дилеммы, с которой сталкивается ИИ в правоохранительных органах.

Обновление политики подчеркивает этические проблемы

Пересмотренные условия явно предусматривают, что такие интеграции не могут использоваться «по или для» полицейских агентств в Соединенных Штатах. Это ограничение включает в себя также модели анализа текста и речи, подчеркивая акцент Microsoft на ответственном использовании ИИ. В качестве дополнительного регулирования был введен отдельный пункт, специально запрещающий использование технологии распознавания лиц в реальном времени на мобильных камерах, включая камеры на теле и видеорегистраторы, в неконтролируемых средах.

Триггером для этих движений могут быть недавние достижения в технологической отрасли. Axon, известная технологическая компания, специализирующаяся на военном и правоохранительном оборудовании, только что анонсировала продукт, использующий вербализаторную модель OpenAI с генеративным текстом GPT-4 для помощи в суммировании аудио, записываемого камерами на теле. Сгенерированная ложная информация и ее предвзятость в расовой предвзятости в обучающих данных были рассмотрены, чтобы сразу показать опасения некоторых критиков.

Последствия и возможности для интерпретации

Хотя обновленная политика является решительной позицией Microsoft, она все же допускает интерпретацию. Запрет на использование сервиса Azure OpenAI применяется только к полиции США, поскольку международное развертывание продолжается. Кроме того, ограничения на использование технологии распознавания лиц применяются исключительно к ее использованию подразделениями правоохранительных органов США, исключая стационарные камеры в контролируемых средах.

Такой сбалансированный метод хорошо соответствует широкой стратегии Microsoft в области ИИ для правоохранительных органов и обороны. Тем временем, несмотря на запреты на определенные виды использования, сотрудничество между OpenAI и государственными агентствами, среди которых Пентагон является ярким примером, медленно возникло. Такие партнерства указывают на изменение позиции OpenAI, а также Microsoft, которые ищут приложения для ИИ в военных технологиях.

Взаимодействие с государством и динамика отрасли

Принятие сервиса Azure OpenAI от Microsoft государственными агентствами ускорилось, поскольку Azure Government включает дополнительные инструменты соответствия и управления для использования правоохранительными органами. Кэндис Линг, старший вице-президент Microsoft Federal, будет отвечать за получение большего количества одобрений от Министерства обороны для сервиса Azure OpenAI, тем самым показывая, что платформа может быть полезна в срочных миссиях.

Динамичная область этики и регулирования ИИ создает необходимость для технологических компаний принимать продуманные действия заранее. Своем решением избежать использования ИИ в правоохранительных органах Microsoft демонстрирует более широкую тенденцию отрасли к повышению подотчетности и прозрачности при развертывании ИИ. Во время разговоров о регулировании ИИ технологические поставщики, политики и активистские группы должны работать вместе, чтобы этически решать вновь возникшие проблемы.

Шаг Microsoft по остановке использования департаментами полиции США сервиса Azure OpenAI для определенных сценариев является доказательством преднамеренного и сфокусированного подхода, который компания принимает для решения этических проблем развертывания ИИ. Действительно, поправка раскрывает искренность политиков и сложности, связанные с этим балансом. Учитывая эволюцию дискуссий об этичном ИИ, заинтересованные стороны должны всегда участвовать в конструктивном диалоге для создания ответственного роста и доставки ИИ.