Ориентирование в сфере регулирования ИИ и призыв к действию

В марте 2023 года индустрия ИИ стала свидетелем значительной поворотной точки, когда более 33 000 человек, вовлеченных в разработку, проектирование и использование ИИ, подписали открытое письмо от Института будущего жизни (Future of Life Institute). В письме было сделано смелое требование: шестимесячная пауза в обучении систем ИИ, более мощных, чем GPT-4, с акцентом на необходимость решения растущих проблем, связанных с генеративным ИИ. Хотя это требование было беспрецедентным, его конечной целью было вывести эти проблемы в основной дискурс.

Эта статья углубляется в текущие разработки и проблемы, связанные с регулированием ИИ, особенно в Соединенных Штатах. В ней обсуждаются добровольные обязательства, принятые семью ведущими компаниями ИИ, исследуются положительные результаты этих инициатив и подчеркиваются вызовы, которые все еще предстоит преодолеть.

Положительные результаты и шаги к ответственному развитию ИИ

Открытое письмо марта 2023 года и последующие действия запустили серию событий, подчеркивающих важность регулирования ИИ в интересах общества. В частности, Белый дом представил в июле 2023 года рамки добровольных обязательств по регулированию ИИ. Эти рамки приоритизируют «безопасность, защиту и доверие» и получили поддержку от крупных игроков в области ИИ, включая Amazon, Anthropic, Google, Inflection, Meta, Microsoft и OpenAI.

Эти компании обязались принять различные меры, включая внутреннее и внешнее независимое тестирование безопасности систем ИИ перед их публичным выпуском, обмен лучшими практиками, инвестиции в кибербезопасность, водяные знаки для контента генеративного ИИ и публичное раскрытие возможностей и ограничений. Они также обязались смягчать социальные риски, такие как предвзятость и дезинформация.

Это объявление посылает сильный сигнал о том, что разработка ИИ не должна подрывать благополучие общества. Это отражает требования групп гражданского общества, ведущих экспертов в области ИИ и некоторых компаний ИИ в отношении необходимого регулирования. Кроме того, это предвосхищает forthcoming исполнительные указы и законодательство по регулированию ИИ и подчеркивает важность консультаций на международном уровне.

Проблемы и неопределенный путь вперед

Хотя эти добровольные меры защиты представляют собой положительный шаг, они не имеют обязательной силы. Компаниям предлагается предпринимать действия, но нет механизмов для привлечения их к ответственности за несоблюдение или неохотное внедрение. Более того, меры защиты, перечисленные в объявлении, часто содержатся во внутренних политиках этих компаний, что вызывает вопросы об их эффективности.

Одним из заметных упущений является отсутствие таких технологических гигантов, как Apple и IBM, в списке подписантов. Для по-настоящему коллективного и эффективного подхода все игроки в области ИИ, включая потенциальных злоумышленников, должны нести ответственность и иметь стимулы для соблюдения отраслевых стандартов.

Более того, добровольные обязательства могут не всесторонне решать многочисленные проблемы, posed моделями ИИ. Например, хотя делается акцент на кибербезопасности и мерах защиты от внутренних угроз, уязвимости могут возникать из-за предвзятых или неверных данных, используемых при обучении моделей. Решение этих сложных вопросов требует дополнительных мер защиты и проактивного подхода.

Призыв к конкретным регуляторным мерам

Акцент на инвестициях компаний в доверие и безопасность остается неоднозначным. Исследования в области безопасности ИИ значительно затмеваются исследованиями в области разработки, и только 2% статей об ИИ, опубликованных к маю 2023 года, были посвящены безопасности ИИ, и лишь 11% этих исследований исходили от частных компаний. Неясно, смогут ли добровольные руководства изменить эту ситуацию.

Модели ИИ быстро распространяются по всему миру, вызывая опасения по поводу дезинформации, недостоверной информации и мошенничества, распространяемых нерегулируемыми моделями ИИ в иностранных странах. Это влияет не только на США, но и подчеркивает необходимость международного сотрудничества.

Для всестороннего решения этих проблем необходимы несколько шагов:

• Стандартизированное тестирование безопасности: Соглашение о глобальном стандарте тестирования безопасности моделей ИИ перед развертыванием имеет решающее значение. Форумы, такие как саммит G20 и саммит Великобритании по безопасности ИИ, могут сыграть ключевую роль в установлении этих стандартов.

• Обязательность: Стандарты должны поддерживаться национальным законодательством или исполнительными действиями, адаптированными к потребностям каждой страны. Европейский закон об ИИ предоставляет многообещающую модель для этого начинания.

• Инженерные меры защиты: Помимо принципов и этики, необходимы инженерные меры защиты. Водяные знаки для контента генеративного ИИ для обеспечения целостности информации является одним из таких примеров. Механизмы подтверждения личности на платформах социальных сетей и сервисах ИИ могут помочь выявить и устранить присутствие ботов ИИ, повышая доверие пользователей и безопасность.
• Инвестиции в исследования безопасности ИИ: Национальные правительства должны разработать стратегии финансирования, стимулирования и поощрения исследований в области безопасности ИИ как в государственном, так и в частном секторах.

Вмешательство Белого дома и последующие добровольные обязательства крупных компаний ИИ отмечают важный начальный шаг к ответственному развитию и развертыванию ИИ. Однако, чтобы обеспечить безопасную, защищенную и надежную экосистему ИИ, эти действия должны сопровождаться более конкретными регуляторными мерами.

Как справедливо подчеркивается в объявлении, внедрение тщательно подобранных «обязывающих обязательств» имеет решающее значение. Только предприняв решительные шаги, мы сможем эффективно ориентироваться в сложном ландшафте регулирования ИИ, защитить общество от потенциального вреда и использовать истинный потенциал искусственного интеллекта во благо общества. Будущее регулирования ИИ висит на волоске, и время для действий настало.