Майоркас раскрывает стратегию DHS по обеспечению безопасности ИИ

Первое заседание Консультативного совета по искусственному интеллекту Министерства внутренней безопасности ИИ состоялось в понедельник на этой неделе. Совет стремится улучшить управление развертыванием технологий искусственного интеллекта и защитить технологию от внешних угроз.

Борьба с предвзятостью ИИ и рисками безопасности

Во время сессии вопросов и ответов с репортерами на конференции RSA и ключевого выступления с сотрудниками Майоркас обсудил безопасность ИИ и результаты первого заседания совета. Участники говорили о проблеме безопасности ИИ в критически важных объектах. Они также затронули вопросы прав человека, связанные с внедрением ИИ в задачи DHS, при этом некоторые отметили его потенциал быть использованным как расширение существующей неявной предвзятости.

Системы ИИ, работающие в условиях колоризма и сексизма, являются давними проблемами, которые эксперты и федеральное правительство продолжают решать, поскольку лидеры мнений и правительство представляют меньшинства, которые не заботятся о тестировании продуктов, чтобы увидеть, работают ли системы с женщинами и людьми других рас. Кроме того, Белый дом и Министерство юстиции также начали проекты, направленные на устранение предвзятости, вызванной системами ИИ.

Совет DHS, который будет собираться ежеквартально, был раскрыт. В него входят такие люди, как генеральный директор OpenAI Сэм Альтман, государственные чиновники, активно занимающиеся ИИ, и владельцы критической инфраструктуры и создатели технологий. Майоркас заявил, что существует более 20 применений ИИ, от фокусировки на страховыхclaimах по ущербу от ураганов до недавней помощи Агентству по чрезвычайным ситуациям (FEMA) в обучении агентов по делам беженцев.

Глобальное сотрудничество против угроз ИИ

Чиновники DHS выделили в своих отчетах, что они создали портал, в котором перечислено, где технологии ИИ были развернуты или отменены из-за различных опасений среди различных заинтересованных сторон. Чиновники DHS подчеркнули, что министерство стремится расширить свой штат в областях, связанных с ИИ, и уже получено 3000 заявок на должности в этой сфере.

Майоркас сообщил, что совет инициировал процесс разработки стратегических планов и мер по предотвращению возможных угроз для ИИ и снижению рисков нежелательных последствий при применении ИИ. Дополнительная работа совета уже была удовлетворительной. Тот факт, что это состав международных лидеров ИИ, также имеет решающее значение, поскольку они будут работать над законодательным вредом с другими странами.

Однако защита систем ИИ не может быть достигнута исключительно наличием глобальных игроков в составе совета. Такой сценарий требует партнерства для создания надежного механизма защиты.