На компанию ChatGPT поступил иск о нарушении конфиденциальности из-за клеветнических высказываний о галлюцинациях

Чат-бот ChatGPT от Open AI находится под следствием в Европе из-за нарушений правил конфиденциальности. Он продемонстрировал склонность к выдаче ложной информации. Опасно, не правда ли? Регуляторам будет трудно игнорировать эту информацию.

Житель Норвегии получил помощь от Европейского центра по защите цифровых прав ( Noyb) после того, как обнаружил, что чат-бот ChatGPT выдает ложную информацию. Чат-бот заявил, что его признали виновным в убийстве двух своих детей и попытке убийства третьего. Эта информация может аукнуться ему в будущем.

Самое безумное в том, что OpenAI не предоставляет людям возможности исправить неверную информацию, которую ИИ выдумывает о них. Вместо этого OpenAI предлагает блокировать ответы на подобные вопросы. Главный вопрос в том, будет ли эта информация отброшена или её можно будет сгенерировать позже.

С другой стороны, Общий регламент по защите данных (GDPR) Европейского союза предоставляет людям доступ к своим данным и право на исправление персональных данных. Другая часть этого закона о защите данных гласит, что лица, ответственные за персональные данные, должны убедиться в их корректности. Это делает данный вопрос актуальным.

Йоаким Сёдерберг, юрист по защите данных из компании Noyb, сказал: «GDPR четко определяет персональные данные . […] Если они неточны, пользователи имеют право потребовать внесения изменений, отражающих правду».

Он добавил: «Показывать пользователям ChatGPT крошечное предупреждение о том, что чат-бот может ошибаться, явно недостаточно. Нельзя просто распространять ложную информацию и в конце добавлять небольшое предупреждение о том, что все сказанное может быть неправдой».

Подробности текущих расследований

В ответ на вопрос о том, кто такой Арве Хьялмар Хольмен, чат-бот рассказывает печальную историю. Он сообщает, что тот был признан виновным в убийстве ребенка и приговорен к 21 году тюрьмы за убийство двух собственных детей.

Почему же это еще опаснее? Хотя утверждение о том, что Хьялмар Хольмен — детоубийца, не соответствует действительности, Нойб отмечает, что ответ ChatGPT содержит некоторые правдивые моменты. Например, у этого человека действительно трое детей.

Чат-бот также правильноdentпол его детей и правильно назвал его родной город. Однако тот факт, что ИИ еще и придумал такие ужасные выдумки, делает это еще более странным и тревожным.

Представитель компании Noyb заявил, что им неизвестно, почему чат-бот сфабриковал такую ​​подробную, но ложную информацию об этом человеке. Пресс-секретарь сказал, что они провели расследование, чтобы убедиться, что это не просто ошибка с другим человеком. Пресс-секретарь добавил, что они просмотрели газетные архивы, но не смогли найти причину, по которой ИИ выдумал убийство ребенка.

На данный момент наилучшим объяснением является то, что большие языковые модели, подобные той, что лежит в основе ChatGPT, по сути, выполняют предсказание следующего слова в огромных масштабах. 

Поэтому наборы данных, использованные для обучения инструмента, содержали множество историй о детоубийстве, что повлияло на выбор слов для ответа на вопрос о конкретном мужчине. Однако, независимо от причины, ясно, что подобные результаты совершенно неприемлемы.

Между тем, Нойб говорит, что чат-бот перестал распространять опасную ложь о Хьялмаре Хольмене после обновления модели искусственного интеллекта, на которой он работает. Это изменение связано с тем, что теперь инструмент ищет в интернете информацию о людях, когда его спрашивают, кто они.

Несмотря на то, что ChatGPT, похоже, прекратил распространение вредоносной лжи о Хьялмаре Хольмене, и Нойб, и сам Хьялмар Хольмен по-прежнему обеспокоены. Что если модель ИИ могла скрывать неверную и компрометирующую информацию о нем?

Норвежское управление по защите данных получило жалобу на компанию OpenAI. Noyb надеется, что надзорный орган сочтет, что имеет право провести расследование, поскольку жалоба направлена ​​против американского филиала OpenAI. В жалобе говорится, что ирландский офис компании не несет единоличной ответственности за решения, касающиеся продуктов, затрагивающих европейцев.

Судьба OpenAI

Для OpenAI это не первый подобный случай. Ранее пользователи жаловались на создание ChatGPT некорректных персональных данных, таких как неверная дата рождения или неверная биографическая информация. 

Итальянский орган по защите данных вмешался на ранней стадии в соответствии с GDPR и весной 2023 года временно заблокировал доступ к ChatGPT в стране. Это заставило OpenAI внести изменения, например, в информацию, предоставляемую пользователям. После этого орган по защите данных оштрафовал OpenAI на 15 миллионов евро за использование данных пользователей без уважительной причины.

Примечательно также, что польский орган по защите персональных данных расследует жалобу на нарушение конфиденциальности со стороны ChatGPT с сентября 2023 года и до сих пор не принял решения.

С тех пор европейские специалисты по защите конфиденциальности стали с большей опаской относиться к GenAI. Это связано с тем, что они все еще пытаются понять, как лучше всего применять GDPR к этим популярным инструментам искусственного интеллекта.

Однако в более ранней жалобе на Noyb ChatGPT Комиссия по защите данных Ирландии (DPC) два года назад заявила, что не следует спешить с запретом инструментов GenAI, например. DPC отвечает за обеспечение соблюдения GDPR. Вместо этого это означает, что чиновникам следует уделить некоторое время тому, чтобы разобраться, как работает этот закон.

Похоже, новая жалоба Нойба на ChatGPT призвана привлечь внимание специалистов по защите конфиденциальности к опасностям, исходящим от искусственного интеллекта, находящегося в состоянии галлюцинации. Подтвержденные нарушения GDPR могут привести к штрафам в размере до 4% от годового глобального оборота.