На ChatGPT подана жалоба на нарушение конфиденциальности из-за клеветнических галлюцинаций

Чат-бот OpenAI, ChatGPT, находится под расследованием в Европе по жалобам на нарушение конфиденциальности. Он продемонстрировал тенденцию к галлюцинациям и генерации ложной информации. Опасно, не так? Этот случай может быть трудно игнорировать регуляторам.

Человек из Норвегии получает помощь от Европейского центра цифровых прав, Noyb, после того как обнаружил, что ChatGPT возвращает ложную информацию. Чат-бот заявил, что он был признан виновным в убийстве двух своих детей и попытке убить третьего. Эта информация может преследовать его в будущем.

Самое безумное в том, что OpenAI не предоставляет людям способ исправить неверную информацию, которую ИИ придумывает о них. Вместо этого OpenAI предлагает заблокировать ответы на подобные вопросы. Главный вопрос заключается в том, будет ли эта информация удалена или может быть сгенерирована снова.

С другой стороны, Общий регламент по защите данных (GDPR) Европейского Союза предоставляет людям доступ к их данным и право на исправление их персональных данных. Другая часть этого закона о безопасности данных гласит, что лица, ответственные за персональные данные, должны гарантировать их точность. Это делает этот вопрос серьезным делом.

Йоаким Сёдерберг, юрист по защите данных в Noyb, сказал, «GDPR четко определяет. Персональные данные должны быть точными. […] Если это не так, пользователи имеют право потребовать их исправления, чтобы они отражали истину.»

Он добавил, «Показывать пользователям ChatGPT крошечное предупреждение о том, что чат-бот может ошибаться, явно недостаточно. Нельзя просто распространять ложную информацию, а в конце добавить маленькое предупреждение о том, что все сказанное может быть неправдой.»

Детали текущих расследований

Чат-бот рассказывает печальную историю об Арве Хьялмаре Хольмене, когда его спрашивают, кто он такой. Он утверждает, что тот был признан виновным в убийстве детей и приговорен к 21 году тюрьмы за убийство двух собственных детей.

Теперь, почему это еще более опасно? Хотя Хьялмар Хольмен не является убийцей детей, Noyb отмечает, что ответ ChatGPT включает в себя некоторые правдивые факты. Например, у упомянутого человека действительно есть трое детей.

Чат-бот также правильно определил пол его детей и правильно назвал его родной город. Однако тот факт, что ИИ также придумал такие ужасные ложные сведения, делает ситуацию еще более странной и тревожной.

Представитель Noyb сказал, что они не знают, почему чат-бот придумал такой детальный, но ложный биографический профиль для этого человека. Представитель заявил, что они провели исследование, чтобы убедиться, что это не просто путаница с другим человеком. Представитель сказал, что они просмотрели архивы газет, но не смогли найти причину, по которой ИИ придумал убийство детей.

На данный момент лучшее объяснение заключается в том, что большие языковые модели, такие как та, что питает ChatGPT, по сути, осуществляют предсказание следующего слова в огромных масштабах. 

Из-за этого наборы данных, использованные для обучения инструмента, содержали много историй о детоубийствах, что повлияло на слова, которые он выбрал для ответа на вопрос об именованном мужчине. Однако, независимо от причины, ясно, что такие выводы совершенно недопустимы.

Тем временем Noyb сообщает, что чат-бот перестал распространять опасные ложные сведения о Хьялмаре Хольмене после обновления модели ИИ, на которой он работает. Это изменение связано с тем, что инструмент теперь ищет в интернете информацию о людях, когда его спрашивают, кто они такие.

Хотя ChatGPT, похоже, перестал распространять вредоносные ложные сведения о Хьялмаре Хольмене, как Noyb, так и сам Хьялмар Хольмен все еще обеспокоены. Что если модель ИИ сохранила неверную и вредоносную информацию о нем?

Норвежский орган по защите данных получил жалобу на OpenAI. Noyb надеется, что надзорный орган решит, что у него есть полномочия для расследования, поскольку жалоба направлена против американского подразделения OpenAI. В жалобе утверждается, что его ирландский офис не несет единоличной ответственности за решения о продуктах, влияющие на европейцев.

Судьба OpenAI

Это не первый случай для OpenAI. Люди ранее жаловались на создание ChatGPT неверных персональных данных, таких как неправильная дата рождения или неверная биографическая информация. 

Итальянский надзорный орган по защите данных вмешался рано в рамках GDPR и временно приостановил доступ к ChatGPT в стране весной 2023 года. Это заставило OpenAI внести изменения, такие как информация, которую она предоставляет пользователям. После этого надзорный орган оштрафовал OpenAI на 15 миллионов евро за использование персональных данных без веской на то причины.

Также интересно, что польский надзорный орган по защите данных рассматривает жалобу на нарушение конфиденциальности в отношении ChatGPT с сентября 2023 года и до сих пор не принял решения.

С тех пор европейские чиновники по вопросам конфиденциальности стали более осторожными в отношении генеративного ИИ. Это связано с тем, что они все еще пытаются понять, как лучше всего применять GDPR к этим популярным инструментам ИИ.

Однако в более ранней жалобе Noyb на ChatGPT Ирландская комиссия по защите данных (DPC) два года назад заявила, что людям не следует торопиться запрещать инструменты генеративного ИИ, например. DPC отвечает за соблюдение GDPR. Вместо этого это означает, что чиновникам следует уделить время, чтобы разобраться, как работает закон.

Похоже, что новая жалоба Noyb на ChatGPT предназначена для того, чтобы пробудить чиновников по вопросам конфиденциальности к опасностям ИИ, страдающих галлюцинациями. Подтвержденные нарушения GDPR могут привести к штрафам до 4% от глобального годового оборота.