Майоркас представил стратегию Министерства внутренней безопасности США по обеспечению безопасности ИИ

В понедельник на этой неделе состоялось первое заседание Консультативного совета по искусственному интеллекту Министерства внутренней безопасности США . Цель совета — улучшить управление внедрением технологий искусственного интеллекта и защитить эти технологии от внешних угроз.

Борьба с предвзятостью ИИ и рисками безопасности

В ходе сессии вопросов и ответов с журналистами на конференции RSA и вступительной речи перед сотрудниками Майоркас обсудил вопросы безопасности ИИ и результаты первого заседания совета директоров. Члены совета говорили о проблеме безопасности ИИ на объектах первостепенной важности. Они также затронули вопросы, касающиеся прав человека, в связи с внедрением ИИ в задачи Министерства внутренней безопасности, при этом некоторые подчеркнули его потенциальную возможность использования в качестве продолжения существующей скрытой предвзятости.

Системы искусственного интеллекта, использующие предвзятость по отношению к цвету кожи и сексизму, — это две давние проблемы, которые эксперты и федеральное правительство продолжают решать, потому что ведущие специалисты и правительство — это меньшинство, которое не утруждает себя тестированием продуктов на предмет их эффективности в отношении женщин и людей с другим цветом кожи. Кроме того, Белый дом и Министерство юстиции также начали проекты, направленные на устранение предвзятости, привносимой системами ИИ.

Был обнародован состав совета DHS, заседания которого будут проводиться ежеквартально. В него входят такие люди, как генеральный директор OpenAI Сэм Альтман, государственные чиновники, активно работающие в сфере ИИ, а также владельцы предприятий, занимающихся критической инфраструктурой и технологиями. Майоркас заявил, что существует более 20 применений ИИ, от обработки страховых случаев, связанных с ущербом от ураганов, до недавней помощи Федеральному агентству по управлению чрезвычайными ситуациями (FEMA) в обучении агентов по работе с беженцами.

Глобальное сотрудничество в борьбе с угрозами со стороны ИИ

В своих отчетах представители Министерства внутренней безопасности (DHS) подчеркнули, что создали портал, на котором размещены списки внедренных или отмененных технологий искусственного интеллекта из-за различных опасений со стороны заинтересованных сторон. DHS отметили, что ведомство стремится расширить штат сотрудников в областях, связанных с ИИ, и уже получено 3000 заявок на вакансии в этой сфере.

Майоркас сообщил, что совет начал процесс разработки кратких стратегических планов по предотвращению возможных угроз для ИИ и снижению рисков нежелательных последствий при его применении. Дополнительная работа совета уже показала удовлетворительные результаты. Тот факт, что в его состав входят международные области ИИ, также имеет решающее значение, поскольку он будет работать над противодействием законодательному регулированию в других странах.

Однако защита систем искусственного интеллекта не будет достигнута исключительно за счет участия глобальных игроков. Такой сценарий требует от партнерства создания надежного механизма защиты.