В целях обеспечения прозрачности и подотчетности в сфере искусственного интеллекта (ИИ) Комиссия по защите персональных данных (PDPC) выпустила новые руководящие принципы, устанавливающие меры по информированию потребителей об использовании их персональных данных при обучении систем ИИ. Эти руководящие принципы, озаглавленные «Рекомендательные указания по использованию персональных данных в системах рекомендаций и принятия решений на основе ИИ», направлены на решение проблем, связанных с конфиденциальностью данных и этическими последствиями технологий ИИ.
Обучение систем искусственного интеллекта – Руководство по прозрачному использованию данных
В рекомендациях, опубликованных 1 марта, подчеркивается важность информирования пользователей о причинах использования их персональных данных и о том, как именно они влияют на функциональность систем искусственного интеллекта. Компании обязаны раскрывать потребителям информацию о связи их данных с предоставляемыми услугами и разъяснять факторы, влияющие на решения, принимаемые системами искусственного интеллекта. Например, пользователей потоковых сервисов следует информировать о том, что данные об истории просмотров используются для улучшения рекомендаций фильмов, адаптированных к их предпочтениям на основе жанров или часто просматриваемых фильмов.
Эти рекомендации разъясняют допустимое использование персональных данных без получения дополнительного согласия после их сбора в соответствии с Законом о защите персональных данных. Компании могут использовать такие данные для различных целей, включая исследования и мероприятия по улучшению бизнеса, например, совершенствование моделей ИИ для понимания предпочтений клиентов или оптимизацию систем управления персоналом для рекомендаций кандидатов. Важно отметить, что в рекомендациях подчеркивается необходимость анонимизации и минимизации данных для снижения рисков кибербезопасности и защиты конфиденциальности пользователей.
Кроме того, в рекомендациях подчеркивается важность постоянного мониторинга и анализа для обеспечения соответствия принципам защиты данных и передовым практикам. Компаниям рекомендуется регулярно оценивать эффективность своих процедур обработки данных, особенно в отношении систем искусственного интеллекта, и вносить необходимые корректировки для обеспечения конфиденциальности пользователей и доверия.
Рассмотрение замечаний и предложений отрасли
Выпуск этих рекомендаций стал ответом на опасения отрасли, высказанные во время Сингапурской конференции по ИИ в декабре 2023 года. Заинтересованные стороны, включая технологические, юридические и финансовые организации, выразили обеспокоенность по поводу конфиденциальности данных в сфере ИИ, что побудило к проведению публичных консультаций под руководством PDPC, которые завершились в августе 2023 года. В частности, компания по кибербезопасности Kaspersky подчеркнула общее отсутствие осведомленности потребителей о сборе данных для целей обучения ИИ. Они рекомендовали получать явное согласие на этапах разработки и тестирования моделей ИИ, а также предоставлять пользователям возможность отказаться от использования их данных для обучения ИИ.
Кроме того, участники отрасли приветствовали эти рекомендации как шаг к укреплению доверия и прозрачности в системах искусственного интеллекта. Теперь компании лучше подготовлены к этичному и ответственному использованию данных в ИИ, что способствует формированию культуры подотчетности и расширению прав и возможностей потребителей.
Поскольку искусственный интеллект продолжает проникать в различные сектора, обеспечение прозрачности и подотчетности в использовании персональных данных остается первостепенной задачей. Выпуская эти рекомендации, Комиссия по защите персональных данных (PDPC) стремится найти баланс между содействием инновациям в области ИИ и защитой конфиденциальности пользователей. Однако сохраняются проблемы с эффективным информированием потребителей о тонкостях использования данных в ИИ. Как компании могут повысить понимание и согласие пользователей на использование персональных данных при обучении систем ИИ , сохраняя при этом доверие пользователей?
