Утечка документа о гражданском расследовании FTC проливает свет на приоритеты правоприменения в сфере ИИ, нацеленные на практики OpenAI

13 июля 2023 года газета The Washington Post раскрыла новостной прорыв в мире искусственного интеллекта: утечку документа о гражданском расследовании (CID) Федеральной торговой комиссии (FTC), направленного в компанию OpenAI, LLC. Этот документ призван определить, соблюдает ли OpenAI стандарты FTC в области конфиденциальности, безопасности данных и рекламы в отношении своих продуктов ИИ, включая ChatGPT и DALL-E. Утечка CID предоставляет уникальный и предварительный взгляд на приоритеты правоприменения FTC в отношении зарождающейся индустрии генеративного ИИ, освещая такие вопросы, как рекламная практика, проблемы конфиденциальности, соображения безопасности и защита данных.

Строгий надзор FTC за практикой рекламы продуктов ИИ

Утечка CID подчеркивает внимание FTC к рекламной практике в индустрии ИИ. В частности, FTC стремится понять, как OpenAI рекламирует свои продукты на базе больших языковых моделей (LLM), включая информацию, передаваемую о возможностях, точности и надежности выводов ИИ. Это указывает на то, что реклама продуктов ИИ является приоритетом для FTC, и они намерены обеспечить, чтобы компании точно представляли свои продукты ИИ потребителям. В документе подчеркивается важность правдивой рекламы в индустрии генеративного ИИ, особенно для предотвращения создания «темных паттернов», которые могут манипулировать пользователями, побуждая их к нежелательным действиям.

Тщательное изучение FTC вопросов конфиденциальности в индустрии генеративного ИИ

Утечка CID рассматривает несколько ключевых аспектов, связанных с вопросами конфиденциальности в индустрии генеративного ИИ. Одним из значимых направлений интереса FTC является источник наборов данных для обучения, используемых OpenAI для разработки своих продуктов. В документе запрашивается, получала ли OpenAI данные путем веб-скрейпинга, покупки у третьих лиц или из общедоступных веб-сайтов. Кроме того, FTC интересуется мерами, принятыми OpenAI по удалению личной информации из наборов данных для обучения, что подчеркивает их обеспокоенность по поводу веб-скрейпинга и вторичного использования общедоступной личной информации для обучения ИИ.

Внимание FTC к персональным данным в наборах для обучения может быть основано на концепции «непоследовательного вторичного использования», которая запрещает использование личной информации потребителей для целей, несовместимых с теми, для которых она изначально раскрывалась. Этот подход может иметь значительные последствия для наборов данных обучения LLM в будущем и может повлиять на требования к наборам данных, свободным от личной информации и защищенным интеллектуальной собственностью.

CID также охватывает контроль над пользовательскими данными, например, то, как OpenAI обрабатывает запросы пользователей на отказ от сбора, хранения, использования, передачи или удаления данных. FTC стремится выявить, соблюдает ли OpenAI выбор потребителей в отношении конфиденциальности, как это предлагается и описывается в ее политиках, уделяя особое внимание потенциальным случаям несоблюдения запросов пользователей.

Кроме того, CID стремится оценить точность и полноту политики конфиденциальности OpenAI. FTC интересуется собираемой личной информацией, ее источниками, типами, сроками хранения, получателями раскрытия и целями использования. Любые несоответствия, обнаруженные в политике конфиденциальности OpenAI, могут привести к потенциальным мерам правоприменения со стороны FTC.

Исследовательский подход FTC к ландшафту безопасности ведущих больших языковых моделей

Утечка CID демонстрирует интерес FTC к ландшафту безопасности ведущих больших языковых моделей (LLM) на рынке. OpenAI обязана предоставить информацию о любых жалобах или сообщениях, связанных с проблемами безопасности, вызванными ее LLM. Это включает риски, связанные с галлюцинациями, вредоносным контентом, предвзятыми представлениями, дезинформацией, уязвимостями кибербезопасности, экономическими последствиями и чрезмерной зависимостью пользователей от потенциально неточной информации.

Хотя этот ряд вопросов предоставляет FTC ценные сведения о безопасности ИИ, он также служит основой для потенциальных мер правоприменения, если предоставленная информация противоречит публичным заявлениям OpenAI или раскрывает вредные аспекты LLM, что потенциально может подпадать под определение «недобросовестных» практик в соответствии с Законом о Федеральной торговой комиссии (FTC Act).

Расследование мер по защите данных OpenAI

Утечка CID поднимает вопросы, касающиеся безопасности данных как внутри OpenAI, так и в отношении ее LLM при их доступности через сторонние API или плагины. FTC конкретно рассматривает инцидент с безопасностью от марта 2020 года, связанный с ошибкой, которая привела к раскрытию истории чатов пользователей и информации, связанной с платежами. OpenAI обязана раскрыть количество затронутых пользователей, типы раскрытой информации и реакцию компании на инцидент.

CID изучает политики и процедуры компании по оценке рисков для пользовательских данных при интеграции API или плагинов, надзор за пользователями сторонних API, ограничения на использование пользовательских данных третьими лицами и меры по обеспечению соблюдения политик безопасности данных OpenAI. FTC подчеркивает важность должной осмотрительности и договорных положений для предотвращения misuse (неправомерного использования) технологии ИИ партнерами и возлагает на компании ответственность за недостаточные меры защиты безопасности.

Утечка документа CID (Civil Investigative Demand) Федеральной торговой комиссии (FTC) для OpenAI предоставляет уникальную возможность заглянуть в процесс разработки политики правоприменения FTC в отношении быстро растущей индустрии генеративного искусственного интеллекта. По мере того как законодатели пытаются установить рамки для технологий ИИ, следует ожидать усиления активности в этой области, поскольку FTC и другие регулирующие органы стремятся решить вопросы рекламы, конфиденциальности, безопасности и защиты данных в сфере правоприменения ИИ.