НАС.Министерство обороны США предпринимает активные шаги для обеспечения справедливости и прозрачности систем искусственного интеллекта (ИИ). В смелом шаге Управление по цифровым технологиям и искусственному интеллекту (CDAO) запустило программу вознаграждения за выявление предвзятости в системах ИИ (AI Bias Bounty), представляющую собой краудсорсинговую инициативу, направленную на выявление dent в системах ИИ , начиная с больших языковых моделей (LLM).
Краудсорсинг для выявления предвзятости
Официально стартовал первый этап программы вознаграждения за выявление предвзятости в искусственном интеллекте (AI Bias Bounty), и к участию приглашается любой желающий. Программа, которая продлится с 29 января по 27 февраля 2024 года, призывает к регистрации людей из всех слоев общества. Важно отметить, что наличие навыков программирования не является обязательным условием для участия.
Основная цель первого этапа программы вознаграждения за обнаружение уязвимостей —dentранее неизвестных областей риска в больших языковых моделях, в частности, в чат-ботах с открытым исходным кодом. Эта программа призвана способствовать снижению и контролю потенциальных рисков, связанных с системами искусственного интеллекта.
Влияние на будущую политику Министерства обороны США
Результаты этих программ вознаграждения могут существенно повлиять на будущую политику и внедрение ИИ в Министерстве обороны. По словам Крейга Мартелла, главного специалиста по цифровым технологиям и искусственному интеллекту, эти инициативы находятся под пристальным наблюдением в рамках обязательств министерства по устранению рисков, связанных с программами магистратуры в области прикладных наук.
Помимо формирования политики, Министерство обороны может использовать результаты этих программ вознаграждения для дальнейших исследований, анализа, внедрения передовых методов и выработки рекомендаций по политике. Это подчеркивает приверженность Министерства обороны поддержанию беспристрастности систем искусственного интеллекта во всех оперативных областях.
Комплексный подход к стратегии в области ИИ
В ноябре 2023 года Министерство обороны представило комплексную стратегию по ускорению интеграции передовых возможностей искусственного интеллекта. Основная цель – обеспечить устойчивое превосходство в принятии решений для американских солдат на поле боя в ближайшие годы. Эта стратегия превосходит предыдущие стратегии в области ИИ и данных, создавая основу для развития возможностей министерства, использующих искусственный интеллект.
Эти учения направлены не только наdentпредвзятости, но и на разработку инновационных подходов к алгоритмическому аудиту и проверке моделей ИИ на наличие уязвимостей. Такой подход позволяет Министерству обороны экспериментировать сdentрисками, гарантируя беспристрастность систем ИИ при их внедрении.
Управление по цифровым технологиям и искусственному интеллекту (CDAO), созданное в июне 2022 года, играет ключевую роль в интеграции и оптимизации возможностей ИИ в Министерстве обороны. Его задача — ускорить внедрение данных, аналитики и ИИ, одновременно обеспечивая защиту от возникающих угроз.
Подавая пример этичного использования ИИ
Запуск Министерством обороны США программы вознаграждения за выявление предвзятости в области ИИ служит новаторским примером для других организаций. Он демонстрирует приверженность приоритетному использованию беспристрастных систем ИИ, содействуя этичному и справедливому использованию ИИ на благо общества.
Программа вознаграждения за выявление предвзятости в сфере ИИ, реализуемая Министерством обороны США, знаменует собой важный шаг в стремлении к созданию беспристрастных систем искусственного интеллекта. Основанная на краудсорсинге, эта инициатива открывает двери для активного участия людей из самых разных слоев общества. Результаты этих программ вознаграждения могут изменить будущее политики в области ИИ в Министерстве обороны, став мощным примером для организаций по всему миру в продвижении справедливого и этичного использования ИИ.
