Приложения ИИ будут оснащены «метками безопасности», указывающими на риски и результаты тестирования

В ближайшем будущем пользователи приложений генеративного ИИ могут найти метки, которые четко описывают, как следует использовать ИИ, связанные с ним риски и процесс тестирования. В соответствии с новыми рекомендациями метки станут обязательными, чтобы сделать технологию более понятной для масс.

Также читайте: Европейский Союз (ЕС) берет на себя лидирующую роль в регулировании ИИ

Министр связи и информации Сингапура мисс Джозефин Тео заявила, что новая мера является попыткой определить стандарт прозрачности и тестирования для технологических компаний. Она выступала на технологической конференции по защите персональных данных 15 июля, согласно отчету газеты Strait Times.

Разработчики приложений ИИ должны быть прозрачны в отношении своих инноваций

Как и практика, когда лекарства или бытовая техника имеют метки безопасности, в той же практике разработчики приложений генеративного ИИ должны четко информировать пользователей об использовании и разработке моделей ИИ. Мисс Тео, которая также является министром по делам Умной нации и инициативы кибербезопасности, сказала:

«Мы порекомендуем разработчикам и операторам быть прозрачными с пользователями, предоставляя информацию о том, как работают модели и приложения генеративного ИИ».

Объясняя предстоящие правила, министр сказала, что они аналогичны тому, когда пользователь открывает «коробку безрецептурных лекарств». Они находят лист бумаги, на котором четко указано, как следует использовать лекарство и какие возможные «побочные эффекты» могут возникнуть.

Тео утверждала, что «такой уровень прозрачности» необходим для систем ИИ, построенных на основе одного генеративного искусственного интеллекта. Новый набор правил определит стандарты безопасности, которые должны соблюдаться до того, как модель ИИ станет доступна публике. 

Руководство по анонимизации данных будет выпущено в 2025

Генеративный искусственный интеллект — это жанр ИИ, способный генерировать новый текст и изображения, и он менее предсказуем, чем традиционный ИИ. Согласно новым рекомендациям, создатели будут обязаны указывать риски распространения лжи, враждебных комментариев и предвзятых нарративов в контенте.

Тео сказала, что бытовая техника поставляется с метками, которые четко указывают, что товар протестирован на безопасное использование; в противном случае покупатель не будет знать, безопасен ли прибор. То же самое будет применяться к приложениям ИИ. Управление по вопросам инфокоммуникаций и медиа Сингапура (IMDA) начнет консультации с отраслью по новым правилам. Однако Тео не назвала дату выхода рекомендаций.

IMDA также опубликовала руководство по вопросам конфиденциальности в технологиях, которое будет отвечать на растущий спрос на данные для обучения моделей ИИ при защите конфиденциальности пользователей, сказала Тео.

Также читайте: Демократический круглый стол пригласит Марка Кьюбана и Брэда Гарлингхауса обсудить регулирование криптовалют

Помощник главного исполнительного директора IMDA Дениз Вонг сказала: «Обеспечение безопасности данных в генеративном ИИ является более сложной задачей для отрасли». Она высказала свое мнение на отдельной панельной дискуссии об ИИ и конфиденциальности данных в ходе мероприятия. В панельную дискуссию вошли представители различных технологических компаний, включая создателя ChatGPT OpenAI и консалтинговую фирму Accenture. 

Руководитель юридического отдела по вопросам конфиденциальности OpenAI Джессика Ган Ли заявила, что на всех этапах разработки и внедрения ИИ должны быть предусмотрены механизмы защиты данных. Она отметила, что модели ИИ следует обучать на разнообразных наборах данных из «всех уголков мира». Ли подчеркнула, что в процесс обучения ИИ необходимо включать различные культуры, языки и источники, а также найти способы ограничения обработки персональных данных.

Тео сообщил, что в начале 2025 года для компаний, работающих в АСЕАН, будет представлен руководство по анонимизации данных. Это руководство станет результатом встречи региональных чиновников в феврале, на которой обсуждались способы создания безопасной глобальной цифровой экосистемы.