- В Австрии организация по защите цифровых прав Noyb подала жалобу на OpenAI из-за галлюцинаций ChatGPT.
- ChatGPT предоставил неверные данные о дате рождения публичного лица и отказался удалить или исправить эту информацию.
- Юрист Noyb утверждает, что компании не могут создавать чат-боты, соответствующие требованиям законодательства ЕС.
Организация по защите конфиденциальности Noyb подала жалобу на OpenAI в Австрийский орган по защите данных (DPA) на том основании, что ее продукт ChatGPT нарушает многие законы ЕС о защите данных. Организация заявила, что ChatGPT распространяет неверную информацию о людях, а Общий регламент по защите данных ЕС (GDPR) требует, чтобы информация о людях была точной, и они должны иметь полный доступ к информации о себе.
OpenAI сталкивается с обвинениями по GDPR
Noyb была основана известным юристом и активистом Максом Шремсом и утверждала, что ChatGPT распространил ложную дату рождения известного публичного лица, и когда ему запросили разрешение на доступ и удаление данных, связанных с ним, его запрос был отклонен OpenAI.
Noyb заявляет, что согласно GDPR ЕС, любая информация о любом человеке должна быть точной, и он должен иметь доступ к информации и сведениям об источнике, но, согласно их утверждению, OpenAI заявляет, что не может исправить информацию в своей модели ChatGPT. Компания также не может сказать, откуда взялась информация, и даже не знает, какие данные о физических лицах хранит ChatGPT.
Noyb утверждает, что OpenAI осведомлена о проблеме и, похоже, не заботится о ней, так как ее аргумент по этому вопросу заключается в том, что
«Фактическая точность в больших языковых моделях остается областью активных исследований».
Noyb отметила, что неверная информация может быть терпимой, когда ChatGPT выдает ее, когда студенты используют ее для домашних заданий, но она заявила, что это явно неприемлемо для отдельных людей, так как это требование законодательства ЕС, согласно которому персональные данные должны быть точными.
Галлюцинации делают чат-боты несовместимыми с регламентами ЕС
Noyb упомянул, что модели ИИ подвержены галлюцинациям и генерируют информацию, которая на самом деле является ложной. Они подвергли сомнению технический процесс генерации информации OpenAI, отметив аргументацию OpenAI о том, что
«ответы на запросы пользователей путем прогнозирования наиболее вероятных следующих слов, которые могут появиться в ответ на каждый запрос».
Noyb утверждает, что это означает, что, несмотря на то, что компания имеет обширные наборы данных для обучения своей модели, она все равно не может гарантировать, что ответы, предоставляемые пользователям, являются фактологически правильными.
Юрист Noyb по вопросам защиты данных Мартже де Гааф сказала:
«Придумывание ложной информации само по себе является довольно проблематичным. Но когда речь идет о ложной информации о физических лицах, могут быть серьезные последствия».
Источник: Noyb.
Он также сказал, что любая технология должна следовать законам и не может играть с ними, так как, по его словам, если инструмент не может давать правильные результаты о физических лицах, то он не может использоваться для этой цели. Он также добавил, что компании пока технически не готовы создавать чат-боты, которые могут соответствовать законам ЕС в этой области.
Генеративные инструменты ИИ находятся под строгим контролем европейских регуляторов по вопросам конфиденциальности, так как еще в 2023 году итальянский орган по защите данных (DPA) временно ограничил защиту данных. Пока неясно, какими будут результаты, но, согласно Noyb, OpenAI даже не делает вид, что будет соблюдать законодательство ЕС.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности: Предоставленная информация не является инвестиционной рекомендацией. Cryptopolitan.com не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимые исследования и/или консультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Амир Шейх
Амир — технологический журналист с почти шестилетним опытом работы в индустриях криптовалют и технологий. Он окончил университет MAJ, получив степень MBA по финансам и маркетингу. Сейчас он работает в Cryptopolitan, где освещает последние события на рынке криптовалют и прогнозы цен.
