Национальная безопасность под угрозой – Британский институт ИИ призывает к осторожности при развертывании технологий генеративного ИИ

В ходе этого шага Алан Тьюринг, ведущий национальный институт искусственного интеллекта Великобритании, выпустил всеобъемлющий отчет, призывающий правительство установить «красные линии» для развертывания генеративного ИИ, особенно в контекстах, где технология может принимать необратимые действия без прямого человеческого надзора. Отчет, опубликованный поздно вечером в пятницу, подчеркивает обеспокоенность института ненадежностью и склонностью к ошибкам современных инструментов генеративного ИИ, особенно в ситуациях высокого риска в сфере национальной безопасности.

Ненадежность генеративного ИИ и риски для национальной безопасности

Отчет Алана Тьюринга выделяет текущие недостатки инструментов генеративного ИИ, подчеркивая их ненадежность и склонность к ошибкам, особенно в критических контекстах национальной безопасности. Это подчеркивает необходимость фундаментального сдвига в мышлении, чтобы учесть непреднамеренные или случайные способы, которыми генеративный ИИ представляет риски для национальной безопасности. В отчете предлагается, что чрезмерная зависимость пользователей от выводов, сгенерированных ИИ, может привести к нежеланию оспаривать потенциально ошибочную информацию.

В отчете конкретно выделяются автономные агенты как основное применение генеративного ИИ, требующее тщательного надзора в контексте национальной безопасности. Признавая потенциал технологии для ускорения анализа в сфере национальной безопасности, он предупреждает, что автономные агенты не обладают человеческим уровнем рассуждения и не могут воспроизвести врожденное понимание риска, критически важное для предотвращения сбоев. 

Предлагаемые меры по смягчению последствий включают запись действий и решений, принятых автономными агентами, прикрепление предупреждений к каждому этапу вывода генеративного ИИ и документирование наихудших сценариев.

Рекомендации правительства и строгие ограничения

Алан Тьюринг рекомендует строгие ограничения в областях, где требуется «идеальное доверие», таких как ядерное командование и контроль, и потенциально в менее экзистенциальных областях, таких как полицейская деятельность и уголовное правосудие. В отчете предлагается внедрение «тормозов безопасности» для систем ИИ, контролирующих критическую инфраструктуру, аналогично тормозным системам в других технологиях. Однако он подчеркивает важность учета ограничений и рисков, особенно для старших должностных лиц, которые могут не разделять осторожность оперативного персонала.

В отчете также отмечается злоупотребление генеративным ИИ как проблема безопасности, указывая на то, что технология усиливает существующие социальные риски, такие как дезинформация, мошенничество и материалы сексуальной эксплуатации детей. Злоумышленники, не ограниченные требованиями точности и прозрачности, представляют угрозу. В отчете рекомендуется государственная поддержка функций водяных знаков, устойчивых к изменению, требующих обязательств от производителей GPU, таких как NVIDIA, и международной координации правительств. Признаются серьезные трудности с внедрением.

Срочный призыв к «Красным Линиям для Генеративного ИИ» от Алана Тьюринга, отчет исследует тонкое пересечение технологических инноваций и национальной безопасности. Акцент института на смене парадигмы признает ненадежность современных инструментов генеративного ИИ, особенно в ситуациях высокого риска, и подчеркивает необходимость строгих ограничений и мер безопасности. 

По мере того как правительство Великобритании борется с регулированием ИИ, рекомендации служат дорожной картой, призывая к проактивному подходу для снижения рисков, связанных с автономными агентами и злонамеренным использованием. Вопрос остается: как регуляторные рамки могут адаптироваться, чтобы сбалансировать инновации и безопасность, обеспечивая ответственную эволюцию генеративного ИИ в нашем сложном социально-техническом ландшафте? Задача заключается в переводе этих рекомендаций в эффективную политику, которая защищает от потенциальных угроз, одновременно способствуя дальнейшему технологическому развитию.