«Галлюцинации» искусственного интеллекта стали поводом для жалобы на нарушение конфиденциальности

Австрийская независимая организация по защите данных Noybdent основанная юристом Максом Шремсом, подала жалобу в орган ЕС по защите персональных данных в связи с деятельностью компании OpenAI – нарушением GDPR и непредоставлением средств защиты от неверной информации.

Подана жалоба на нарушение конфиденциальности

Шремс, известный юрист по вопросам конфиденциальности и активист, инициировал ряд важнейших жалоб на нарушение конфиденциальности в ЕС. OpenAI сталкивается с DSB (Австрийским обществом по борьбе с доминированием и дискриминацией), чей иск сосредоточен на «галлюцинациях» – неверных ответах, которые, как правило, дают большие языковые модели искусственного интеллекта (ИИ). Судебное решение, предусмотренное судебным решением, включает расследование нарушения, вынесение декларативного решения, наложение штрафа и изучение корректирующих мер.

Компания OpenAI, как утверждается, знает о нарушении конфиденциальности, но это не имеет значения. Согласно пресс-релизу, заявление Нойба содержится в объявлении о подаче иска.

Большие модели, включая ChatGPT, выполняют вычисления, чтобы предсказать наиболее осмысленные слова для определённых вариантов ответа. Бывают случаи, когда модель выбирает неправильные слова из-за неспособности определить контекст, давая неверный ответ или «галлюцинацию», как это принято называть на профессиональном жаргоне.

Однако это не соответствует традициям «конфиденциальности» в отношении индивидуальных прав, поэтому, по мнению Нойба, европейское регулирование не продвинулось далеко в утверждении необходимости точности персональных данных с 1995 года, а GDPR, новейший закон ЕС о конфиденциальности, берет на себя обязанность точной защиты персональных данных.

Нацеливание на «галлюцинации» ИИ

В связи с этим Нойб отметил, что личная информация любого публичного эксперта, не указавшего дату рождения, доступна в интернете. ChatGPT ошибочно указал дату рождения из-за ошибки в вопросе.

Компания OpenAI также не удовлетворилась своим несанкционированным ответом относительно доступа к данным и их удаления в ходе расследования по запросу, проведенного в декабре 2023 года. В соответствии с GDPR контролеры данных обязаны сообщать субъекту персональной информации об обработке своих данных и удалять данные субъекта по запросу, при этом допускаются ограничения на удаление.

Нойб, выступавший в качестве истца по делу, установил, что сервис предоставлял пользователю статистические данные; тем не менее, никакой информации об использовании данных системой предоставлено не было.

Запросы данных обработаны неправильно

Как заявили в OpenAI, помимо предоставления образовательного сообщения, они пообещали сделать все возможное, чтобы помешать модели сообщать год рождения в ответ на запрос; однако, согласно жалобе, они не могут исправить неверный отображаемый ответ.

Это, в свою очередь, привело к блокировке доступа к более подробной информации о субъекте данных в ChatGPT. По сути, это ограничило бы право общественности на получение информации об этом человеке — известной личности, — на которую OpenAI подала жалобу.

В иске говорится: «Никакие действия чат-бота не могут исправить информацию, никакой фильтр не может выборочно ее отфильтровать, или просто ни один субъект данных не может соответствовать этой ситуации, по мнению контролера».

Нойб сообщил главе антимонопольного ведомства ЕС Маргрет Вестагер, что речь идёт только об ирландском филиале, а штаб-квартира по-прежнему находится в США. Этот ответчик был упомянут в иске, поскольку является юридическим лицом американской корпорации OpenAI OpCo LLC, что указано в условиях её деятельности.