ChatGPT наконец-то назвал имя «Дэвид Майер», но допустил ошибку в 5 вариантах на фоне судебных исков, связанных с ИИ

Инструменты искусственного интеллекта (ИИ), такие как ChatGPT от OpenAI, могут выполнять множество функций, но пользователи иногда обнаруживают сбои. Недавно появились сообщения о том, что ChatGPT перестал работать при запросе определенных имен, например, Дэвида Майера.

В настоящее время сообщество ставит под сомнение способность модели обрабатывать конфиденциальные или юридически сложные данные. Можно подождать, пока инструменты ИИ решат больше проблем, связанных с конфиденциальностью, на фоне многочисленных судебных исков.

ChatGPT не раскрывает личность Дэвида Майера

от OpenAI перестал работать при запросе конкретных имен. TechCrunch сослалось на сообщения пользователей о недопустимом списке имен, в который входил «Дэвид Майер», из-за чего чат-бот зависал или вылетал, не отвечая.

Когда во вторник Cryptopolitan проверило реакцию чата, созданного на основе языковой модели Generative Pre-trained Transformer (GPT), результаты оказались похожими, но не совсем идентичными.

Оказывается, имя Дэвид Майер больше запрещенным. По данным ChatGPT-4o, Майер — довольно распространенное имя, хотяи не удалось уточнить, кто именно его звали. На вопрос о предыдущей ошибке ChatGPT отмахнулся, заявив:

Я понимаю, о чём вы говорите! Возможно, были случаи сбоев или ошибок в форматировании, орфографии или генерации контента, но ничего конкретного, связанного с постоянными ошибками в написании имени «Дэвид Майер»

Также было рекомендовано сообщать о «странных и противоречивых» ответах.

Другие имена — Брайан Худ, Джонатан Турли, Джонатан Зиттрейн, Дэвид Фабер и Гвидо Скорца — стали причиной сбоев в работе системы в выходные дни, а также во вторник, когда мы провели проверку.

В отчете установлено, что эти имена принадлежат публичным или полупубличным деятелям, таким как журналисты, юристы или люди, которые могли быть вовлечены в споры о конфиденциальности или юридические споры с OpenAI. Например, сообщается, что в прошлом ChatGPT предоставил ложную информацию о человеке по имени Худ, что привело к юридическим переговорам с OpenAI.

Судебные иски против компаний, занимающихся искусственным интеллектом, накопились.

Издание TechCrunch предполагает, что OpenAI может проявлять осторожность в отношении списка имен, чтобы по-разному обрабатывать конфиденциальную или юридически защищенную информацию. Возможно, связано с соблюдением законов о конфиденциальности или юридических соглашений. Однако сбой в коде может привести к тому, что чат-бот перестанет работать при запросе информации об упомянутых именах.

За прошедшие годы между компаниями, занимающимися искусственным интеллектом, было возбуждено несколько дел, связанных либо с генерацией неверной информации, либо с нарушением законодательства о защите данных . В деле 2020 года, Janecyk против International Business Machines, фотограф Тим Янечик утверждал , что IBM неправомерно использовала сделанные фотографом снимки в исследовательских целях без согласия. Не так давно Gemini AI от Google подверглась критике за свои возможности по генерации изображений, что привело к её временной приостановке. В коллективном иске PM против OpenAI LP, поданном в 2023 году, OpenAI обвинялась в использовании «украденной частной информации» без согласия.

В 2024 году индийское информационное агентство ANI, как сообщается, подало иск против OpenAI за использование защищенных авторским правом материалов медиакомпании для обучения студентов магистратуры.

По мере того как инструменты искусственного интеллекта все больше интегрируются в повседневную жизнь, подобныеdentподчеркивают важность этических и правовых аспектов их разработки. Будь то защита конфиденциальности, обеспечение точности информации или предотвращение сбоев, связанных с конфиденциальными данными, такие компании, как OpenAI, сталкиваются с задачей построения доверия при одновременном совершенствовании своих технологий. Эти проблемы напоминают нам, что даже самые передовые системы ИИ требуют постоянной бдительности для решения технических, этических и правовых сложностей.