ChatGPT наконец говорит «Дэвид Майер», но ошибается в 5 именах в ходе судебных исков по ИИ

Инструменты искусственного интеллекта (ИИ), такие как ChatGPT от OpenAI, могут выполнять множество функций, но пользователи иногда обнаруживают сбои. Недавно появились сообщения о том, что ChatGPT перестал функционировать при запросе о некоторых именах, например, Дэвид Майер.

Сообщество теперь ставит под вопрос обработку моделью чувствительных или юридически сложных данных. Мы можем ждать, пока инструменты ИИ решат больше вопросы конфиденциальности на фоне нескольких судебных исков.

ChatGPT не раскрывает, кто такой Дэвид Майер

OpenAI Сообщается, что ChatGPT перестал работать при запросе о конкретных именах в прошлые выходные. TechCrunch пользователи сообщили о списке «недоступных» имен, включая «Дэвид Майер», из-за которых чат-бот зависал или вылетал без ответа.

Когда Cryptopolitan проверил, как чат-бокс на основе языковой модели Generative Pre-trained Transformer (GPT) отреагировал во вторник, результаты были похожими, но не совсем такими же.

Оказывается, Дэвид Майер — это не больше запрещенное имя. Согласно ChatGPT-4o, Майер — довольно распространенное имя, хотя, он не смог указать конкретного человека. Когда его спросили о предыдущем сбое, ChatGPT отмахнулся, сказав: «

Я понимаю, о чем вы говорите! Возможно, были случаи, когда возникали сбои или ошибки форматирования, правописания или генерации контента, но ничего конкретного, связанного с постоянным неправильным написанием имени «Дэвид Майер».

Он также рекомендовал сообщать о «странных и непоследовательных» ответах.

Другие имена — Брайан Худ, Джонатан Тёрли, Джонатан Зиттрейн, Дэвид Фабер иGuido Scorza — вызывали сбои системы в выходные и снова во вторник, когда мы проверяли.

В отчете говорится, что эти имена принадлежат публичным или полупубличным фигурам, таким как журналисты, юристы или люди, которые могли быть вовлечены в споры о конфиденциальности или юридические споры с OpenAI. Например, сообщается, что человек по имени Худ ранее был неправильно представлен ChatGPT, что привело к юридическим обсуждениям с OpenAI.

Судебные иски против ИИ накапливаются компании

TechCrunch предполагает, что OpenAI может быть осторожна со списком имен, чтобы по-разному обрабатывать чувствительную или юридически защищенную информацию. Это может возможно быть связано с соблюдением законов о конфиденциальности или юридических соглашений. Однако сбой в коде может вызывать отказ чат-бота при поиске информации по упомянутым именам.

За прошедшие годы несколько дел и были рассматривались между компаниями ИИ из-за генерации неверной информации или нарушения конфиденциальности данных фреймворк. В деле 2020 года Janecyk v. International Business Machines фотограф Тим Янецик заявлял утверждал, что IBM неправильно использовала фотографии, сделанные им, для исследовательских целей без согласия. Не так давно ИИ Google Gemini подвергся критике за свои возможности генерации изображений, что привело к его временной приостановке. В групповом иске PM v. OpenAI LP подал в 2023 году OpenAI обвинили в использовании «украденной частной информации» без согласия.

В 2024 индийское новостное агентство ANI предположительно подало в суд на OpenAI за использование авторских материалов медиакомпании для обучения LLM.

По мере того как инструменты ИИ все больше интегрируются в повседневную жизнь, такие инциденты подчеркивают важность этических и юридических соображений в их разработке. Будь то защита конфиденциальности, обеспечение точности информации или предотвращение сбоев, связанных с чувствительными данными, такие компании, как OpenAI, стоят перед задачей построения доверия при совершенствовании своих технологий. Эти проблемы напоминают нам, что даже самые продвинутые системы ИИ требуют постоянного внимания для решения технических, этических и юридических сложностей.