Безопасность станет одним из ключевых вопросов повестки саммита ИИ в Сеуле

Правительства Южной Кореи и Великобритании будут призывать технологические компании решить вопросы надзора за безопасностью искусственного интеллекта на предстоящей международной саммите по ИИ на этой неделе.

Эта встреча является продолжением первого в истории глобального саммита по безопасности ИИ, который прошел в прошлом году в британском поместье Блетчли-Парк, где ряд правительств выразили обеспокоенность по поводу рисков, связанных с ИИ. Там также присутствовали представители ИИ-компаний, поскольку технологии, над которыми они работают, несут эти риски.

На фоне многочисленных международных попыток создать рамки регулирования для быстро развивающейся технологии, способной революционизировать многие аспекты общества, саммит в Сеуле вызвал опасения по поводу новых рисков для повседневной жизни. 

«Хотя были предприняты позитивные усилия по формированию глобального управления ИИ, значительные пробелы все еще сохраняются».

Саммит в Великобритании в ноябре объединил исследователей, государственных чиновников, руководителей технологических компаний и представителей организаций гражданского общества, многие из которых имели различные мнения об искусственном интеллекте. Встречи проходили за закрытыми дверями в Блетчли. Вместе с политиками, включая премьер-министра Великобритании Риши Сунака, на саммите присутствовали генеральные директора OpenAI Сэм Альтман и Tesla Илон Маск, а также многие другие.

Безопасность будет в приоритете на саммите по ИИ

Безопасность снова станет главным приоритетом на саммите по ИИ в Сеуле, который начинается во вторник. Правительства Великобритании и Южной Кореи совместно организуют встречу 21–22 мая.

Ожидается, что видные ИИ-компании, такие как Microsoft, Anthropic, Google DeepMind, создатель ChatGPT OpenAI и французский стартап Mistral, направят своих представителей.

Премьер-министр Великобритании Риши Сунак и президент Южной Кореи Юн Сок Ёль также написали совместную статью, опубликованную в INews в понедельник. Признавая потенциал этой технологии, они выразили желание обеспечить безопасность, сказав,

«Вместе мы полны решимости использовать потенциал этой технологии для преобразования мира к лучшему».

Они также подчеркнули, что, как и новые технологии, ИИ несет новые риски. Они указали на злоупотребление ИИ со стороны недобросовестных субъектов, которые намеренно хотят использовать ИИ для противоправных действий.

Сообщалось, что OpenAI недавно распустила свою команду по безопасности, называемую командой Superalignment, после того как ее сооснователь Илья Сутскевер и некоторые другие ключевые сотрудники покинули компанию. Это развитие событий произошло в ведущей мировой ИИ-компании всего за несколько дней до саммита в Сеуле, фокус которого заключается в смягчении рисков ИИ.

Также читайте: Призыв к международному сотрудничеству для решения рисков ИИ на саммите в Блетчли-Парк

В другом развитии событий Anthropic сегодня опубликовала свой отчет о политиках ответственного масштабирования, который, по словам компании, показал хорошие результаты. Однако мы не можем подтвердить эти результаты. Хотя мы не можем комментировать эти события, они все же заставляют задуматься.

Инновации должны продолжаться

После стремительного роста популярности ChatGPT вскоре после его запуска в 2022 году технологические компании по всему миру начали инвестировать миллиарды долларов в создание своих моделей генеративного ИИ. Сунак и Ёль упомянули быстрые темпы инноваций, поскольку ежедневно появляются новые модели ИИ. Они сказали,

«Правительство может способствовать этим инновациям, инвестируя миллиарды долларов, поддерживая передовые исследования в наших университетах мирового класса и обеспечивая, чтобы мы не чрезмерно регулировали стартапы, которые могут создать следующую большую идею».

Сторонники моделей генеративного ИИ называют эту технологию прорывом, который улучшит жизнь людей и бизнес по всему миру, поскольку она может создавать текст, фотографии, музыку и даже видео в ответ на простые запросы.

Некоторые из этих продуктов, привлёкших внимание общественности, имеют встроенную предвзятость, что вызывает обеспокоенность. 

Также читайте: Работа с ИИ необходима, говорят эксперты по ИИ на глобальном форуме лидерства Fidic

И это не только эти продукты; технология, стоящая за ними, называемая большими языковыми моделями (LLM), также стала базовой технологией для многих решений в различных секторах. От автономных транспортных средств до медицинских решений, многие полагаются на генеративные LLM для функционирования.

Все еще есть обеспокоенные голоса

Многие люди требуют международных руководящих принципов для контроля развития и применения ИИ. Например, движение Ban the Scan, базирующееся в Нью-Йорке, требует прекратить использование распознавания лиц на государственном и частном уровнях. 

Они утверждают, что эти технологии вмешиваются в личную свободу и имеют высокий уровень ложных срабатываний. На странице Фонда электронных границ (Electronic Frontier Foundation) говорится,

«Распознавание лиц представляет угрозу для конфиденциальности, расовой справедливости, свободы выражения мнений и информационной безопасности. Распознавание лиц во всех его формах, включая сканирование лиц и отслеживание в реальном времени, представляет угрозу для гражданских свобод и личной конфиденциальности».

Они не единственные. Защитники прав человека, правительства и критики предупреждали, что ИИ может быть использован во многих злоупотреблениях. Например, негосударственные субъекты могут использовать его для влияния на избирателей с помощью фиктивных новостных отчетов или так называемых «глубоких подделок» (deepfake) изображений и видео избранных должностных лиц. Еще одной углубляющейся проблемой являются сообщения о том, что государства поддерживают недобросовестные элементы в своих интересах.

«Мы также предпримем следующие шаги по формированию глобальных стандартов, которые предотвратят гонку ко дну».

В совместной статье упоминалось вышеуказанное заявление и подчеркивалось, что обсуждение международных норм для ИИ в более открытом форуме было бы полезным. В то же время некоторые южнокорейские организации по защите прав человека критиковали организаторов за недостаточное приглашение развивающихся стран.

На этой неделе Франция также проведет конференцию «Viva Technology», поддерживаемую LVMH, крупнейшей в мире группой предметов роскоши. За последний год Франция пыталась привлечь стартапы в сфере ИИ, чтобы позиционировать себя как европейского лидера в этой области.

Материал Cryptopolitan от Амира Шейха