Ван дер Лейен из ЕС поддерживает замедление развития ИИ и пригласит ведущие лаборатории для переговоров о безопасности

Президент Европейской комиссии Урсула фон дер Ляйен планирует пригласить ведущие компании в области искусственного интеллекта в Брюссель для переговоров о замедлении темпов развития ИИ, поскольку среди технологических руководителей растет обеспокоенность тем, что самые мощные модели продвигаются быстрее, чем их можно эффективно контролировать.

Выступая на своем ежегодном обращении «Состояние Европейского Союза» в Страсбурге, фон дер Ляйен сказала, что Европа готова помочь индустрии ИИ замедлить темпы развития. Она сказала законодателям ЕС, что планирует пригласить основные лаборатории передового ИИ для обсуждения того, как регуляторы могут поддержать усилия по «управлению передним краем», согласно Politico.

Фон дер Ляйен очень прямо высказалась о рисках, создаваемых все более способными системами ИИ, и сказала, что опасности самоусовершенствующихся моделей становятся «все более очевидными».

Президент также указала на предупреждения лидеров индустрии ИИ во время ее выступления, сказав, что руководители, разрабатывающие технологию, считают, что продвижение к само-рекурсивным системам следует замедлить, и этого достаточно, чтобы регуляторы отнеслись к опасениям серьезно.

Технологические руководители звучат тревогу

Комментарии фон дер Ляйен последовали за растущей обеспокоенностью среди некоторых самых известных фигур индустрии. Генеральный директор Anthropic Дарио Амодей недавно призвал разработчиков ИИ замедлить продвижение к все более способным моделям из-за проблем безопасности. Илон Маск из xAI и Сэм Альтман из OpenAI впоследствии поддержали этот призыв.

Однако индустрия ИИ по-прежнему разделена во мнениях о том, следует ли замедлять разработку. Генеральный директор Nvidia Дженсен Хуанг и генеральный директор Meta Марк Цукерберг выступили против призывов к замедлению.

«Каждая лаборатория несет ответственность и имеет стимул двигаться с темпом, необходимым для безопасного обучения своих моделей, и имеет возможность предпринимать собственные действия, чтобы обеспечить это», — сказал Цукерберг. Генеральный директор утверждал, что угроза ответственности уже дает разработчикам ИИ достаточный стимул для предотвращения выпуска вредных систем в руки широкой публики.

Дебаты о безопасности ИИ также имеют политическое разделение через Атлантику. Позиция фон дер Ляйен контрастирует с позицией президента США Дональда Трампа, который отмахнулся от опасений по поводу безопасности ИИ.

Есть ли у Брюсселя какие-либо козыри?

В ЕС уже есть обязательные правила ИИ, при этом его Закон об ИИ дает регуляторам право останавливать модели, признанные небезопасными, и позволяет независимым оценщикам тестировать продвинутые системы.

Фон дер Ляйен описала закон об ИИ как «решающий» и заявила, что он дает Европе важную роль в формировании глобального подхода к ИИ.

Она также призвала к увеличению уровня трансграничного сотрудничества в отношении тестирования и оценки моделей передового ИИ и упомянула планы расширить приглашение на Канаду и Соединенное Королевство. Однако США и Китай не были включены в ее выступление, и эти страны остаются двумя ведущими игроками в гонке ИИ.

Интересы ЕС в области ИИ

Вместо того чтобы пытаться возглавить гонку ИИ на переднем крае, Европа должна сосредоточиться на захвате экономической ценности технологии, сказала фон дер Ляйен. Она выделила пять приоритетных областей, включая здравоохранение, транспорт, агропродовольственный сектор, передовое производство, оборону и космос.

В речи также затронуто использование социальных сетей детьми, при этом президент Европейской комиссии предложил запретить доступ к социальным сетям детям младше 13 лет и личные аккаунты тем, кому меньше 15 лет. Платформы также будут обязаны доказать, что их услуги безопасны для несовершеннолетних.

Ожидается, что фон дер Ляйен предоставит больше деталей о мерах в четверг.