Галлюцинации, вызванные искусственным интеллектом, принесли OpenAI еще одни юридические проблемы

Организация по защите конфиденциальности Noyb подала жалобу на компанию OpenAI в австрийское Управление по защите данных (DPA) на том основании, что ее продукт ChatGPT нарушает множество законов ЕС о защите данных. Организация заявила, что ChatGPT распространяет неверную информацию о людях, а Общий регламент ЕС по защите данных (GDPR) требует, чтобы информация о людях была достоверной, и чтобы им был предоставлен полный доступ к этой информации.

Компания OpenAI столкнулась с обвинениями в нарушении GDPR

Компания Noyb была основана известным юристом и активистом Максом Шремсом, и она утверждала, что ChatGPT опубликовал ложную дату рождения известной публичной фигуры, а когда у Шремса запросили разрешение на доступ и удаление данных, связанных с этой фигурой, Open AI отказал ему в этом.

Нойб утверждает, что согласно GDPR ЕС, любая информация о любом человеке должна быть точной, и компания должна иметь доступ к источнику этой информации, но, по его словам, OpenAI не может исправить информацию в своей модели ChatGPT. Компания также не может определить, откуда поступила информация, и даже не знает, какие данные о людях хранит ChatGPT. 

Нойб утверждает, что OpenAI осведомлена о проблеме и, похоже, ей все равно, поскольку ее аргумент по этому вопросу сводится к следующему:

«Точность фактов в больших языковых моделях остается областью активных исследований»

Нойб отметил, что неверная информация может быть допустима, когда ChatGPT распространяет ее, когдаdentиспользуют ее для выполнения домашних заданий, но подчеркнул, что это совершенно неприемлемо для отдельных лиц, поскольку законодательство ЕС требует точности персональных данных. 

Галлюцинации делают чат-боты не соответствующими нормам ЕС

Нойб упомянул, что модели ИИ склонны к галлюцинациям и создают информацию, которая на самом деле является ложной. Они поставили под сомнение техническую процедуру генерации информации OpenAI, поскольку отметили аргументацию OpenAI, которая гласит:

«Отвечает на запросы пользователей, прогнозируя наиболее вероятные слова, которые могут появиться в ответ на каждый запрос»

Нойб утверждает, что это означает, что, несмотря на наличие у компании обширных наборов данных для обучения своей модели, она все же не может гарантировать фактическую правильность ответов, предоставляемых пользователям.

Адвокат Noyb по защите данных Маартье де Гааф заявил:

«Распространение ложной информации само по себе довольноmatic . Но когда речь идёт о ложной информации об отдельных лицах, это может иметь серьёзные последствия»

Источник: Нойб.

Он также сказал, что любая технология должна следовать законам и не может играть с ними, поскольку, по его словам, если инструмент не может выдавать правильные результаты о людях, то его нельзя использовать для этой цели. Он также добавил, что компании пока не обладают технической возможностью создавать чат-боты, которые могут соответствовать законам ЕС по этому вопросу.

Инструменты генеративного ИИ находятся под пристальным вниманием европейских регуляторов в области защиты персональных данных, поскольку еще в 2023 году итальянский орган по защите данных временно ограничил защиту данных. Пока неясно, какими будут последствия, но, по словам Нойба, OpenAI даже не делает вид, что будет соблюдать законодательство ЕС.