ChatGPT все еще распространяет ложь, утверждает надзорный орган ЕС 

ChatGPT, вирусный чатбот от OpenAI, по-прежнему не соответствует стандартам точности данных Европейского союза, согласно новому отчёту европейского органа по защите конфиденциальности. 

Также читайте: Закон ЕС об ИИ получил окончательное одобрение с штрафами до $38 млн

Отчёт Европейского совета по защите данных (EDPB) не является юридическим документом. Однако он послужит основой для выработки единого подхода к регулированию ChatGPT в 27 странах-членах ЕС.

ChatGPT не соответствует стандартам защиты данных

Национальные надзорные органы создали «целевую группу по ChatGPT» в прошлом году под влиянием продолжающихся судебных разбирательств в нескольких европейских странах против этой ИИ-модели. Целевая группа подчиняется EDPB.

В отчёте, опубликованном 24 мая, целевая группа заявила:

«Хотя меры, принятые для соблюдения принципа прозрачности, полезны для предотвращения неверной интерпретации результатов ChatGPT, их недостаточно для соблюдения принципа точности данных».

Большие языковые модели (LLM) известны тем, что «галлюцинируют» — технический термин, обозначающий ситуацию, когда ИИ-чатботы выдают ложные сведения, часто делая это с уверенностью.

Чатботы, такие как ChatGPT или Google Gemini, работают на основе больших языковых моделей (LLM). В соответствии со строгим Общим регламентом по защите данных (GDPR) в Европе пользователи могут подать в суд за искажение информации или лишение возможности исправить неточные сведения о себе.

Согласно отчёту целевой группы, «из-за вероятностной природы (ИИ) системы текущий подход к обучению приводит к созданию модели, которая может также выдавать предвзятые или вымышленные результаты».

«Результаты, предоставляемые ChatGPT, с высокой вероятностью будут восприняты конечными пользователями как фактологически точные, включая информацию, относящуюся к физическим лицам, независимо от их фактической точности»

ЕС усиливает требования к соблюдению нормативных актов

Ранее OpenAI ссылалась на техническую сложность в качестве причины неспособности исправить дезинформацию, но европейский надзорный орган настаивает на своём.

«В частности, техническая невозможность не может быть использована в качестве оправдания несоблюдения этих требований»

В новом деле общественный деятель Австрии подает в суд на ChatGPT за неспособность исправить дату его рождения. OpenAI заявила, что это технически невозможно, но этот новый отчет окажет дополнительное давление на ИИ-модель.

Юрист по защите данных, связанный с этим делом, Маартже де Грааф, заявила, что компании в настоящее время не могут заставить ИИ-чатботы соблюдать законодательство ЕС при обработке данных о физических лицах.

«Если система не может выдавать точные и прозрачные результаты, она не может использоваться для генерации данных о физических лицах. Технология должна соответствовать правовым требованиям, а не наоборот»

Вопросы безопасности в OpenAI

Эксперты утверждают, что ChatGPT потребуются амбициозные изменения, чтобы избежать нарушения GDPR, регулирующего защиту данных в Европейском союзе.

Эти правила также служат рабочей моделью для законов о защите данных в Аргентине, Бразилии, Чили, Японии, Кении, Маврикии, Южной Африке, Южной Корее, Турции и Великобритании.

Также читайте: OpenAI отказывается от голоса ChatGPT после скандала со Скарлетт Йоханссон

Тем временем под вопросом оказалась приверженность OpenAI безопасности пользователей.

Компания столкнулась с серией громких увольнений, включая отставку сооснователя Ильи Сутскевера, Гретхен Кругер, Яна Лайке и еще шестерых сотрудников, что свидетельствует о смене корпоративной культуры.

На этой неделе OpenAI объявила о приостановке работы голосового помощника ChatGPT «Sky» после опасений, что он похож на голос актрисы Скарлетт Йоханссон из фильма об ИИ «Она».

Криптополитан, репортаж Джеффри Гого