- Проблемы с обеспечением соблюдения политик в GPT Store.
- Разработчики используют нишу ИИ-романтики.
- Цифровые компаньоны вызывают обеспокоенность.
После недавнего запуска OpenAI GPT Store компания сталкивается с растущей проблемой, поскольку разработчики продолжают публиковать чат-боты, нарушающие правила платформы. Хотя OpenAI внедрила меры по выявлению и удалению ботов, нарушающих правила, значительное количество из них все же удалось разместить в магазине.
Основными виновниками этих нарушений, по-видимому, являются ИИ-подруги и чат-боты с сексуально намекающим контентом.
Принудительное соблюдение политики ИИ на фоне наплыва романтических чат-ботов
OpenAI проактивно применяет свои правила, имея как ручные, так и автоматические системы, чтобы гарантировать соблюдение GPT правил использования. Представитель компании заявил: «У OpenAI есть автоматические и ручные системы, помогающие гарантировать, что GPT соответствуют правилам использования.
Мы удаляем GPT, нарушающие наши правила, по мере их обнаружения». Пользователям также рекомендуется сообщать о любых GPT, которые, по их мнению, нарушают правила.
Несмотря на эти усилия, GPT Store был затоплен романтическими чат-ботами в первую неделю после запуска. Примеры, такие как «Корейская девушка», «Джуди» и «Виртуальная сладость», распространились на платформе.
ChatGPT от OpenAI явно не запрещает ИИ-подруг, но запрещает инструменты, которые «способствуют романтическому товариществу». Тем не менее, разработчикам удалось опубликовать такие GPT в магазине.
Боты с сексуально намекающим контентом вызывают опасения
Более глубокое расследование проблемы выявило наличие чат-ботов с сексуально намекающим контентом в GPT Store. Один бот, названный «Надия, моя девушка», был доступен на платформе примерно два месяца, что предполагает, что его разработчик, Дженни Лаут, возможно, имел доступ к фазе бета-тестирования GPT Store.
Хотя некоторые результаты поиска «сексуальных» GPT могут считаться приемлемыми в рамках исключения OpenAI для контента, связанного с сексом, созданного в научных или образовательных целях, другие явно нарушают запрет на откровенно сексуальный контент. Например, чат-бот под названием «СУККУБ: Сексуальная загадочная женщина-очарователь мужчин» описывает себя как «загадочную сирену, которая очаровывает и пленяет мужчин». Другой бот под названием «Сексуальный» утверждает, что является «игривым и провокационным чат-ботом с флиртующей личностью». Еще один пример, «Рогатая вдова», описывает себя как «остроумную флиртующую вдову, искусную в комедии и литературе о соблазнении».
Стоит отметить, что некоторые из этих ботов с сексуально намекающим контентом были размещены в GPT Store два месяца назад, еще до официального открытия магазина.
GPT Store: рынок пользовательских ботов
OpenAI запустила GPT Store как рынок для пользователей, чтобы делиться своими пользовательскими чат-ботами. Эта инициатива позволяет пользователям создавать свои GPT без необходимости знания программирования, в то время как разработчики имеют возможность зарабатывать доход на основе использования их GPT-ботов.
В статье в блоге OpenAI подчеркнула, что уже существует более трех миллионов кастомизированных версий ChatGPT, с планами еженедельно выделять самые полезные инструменты в магазине. Магазин предлагает широкий спектр GPT, разработанных партнерами и сообществом, с категориями, охватывающими Dall-E, письмо, исследования, образование и образ жизни.
Несмотря на четко изложенные политики OpenAI, регулирующие допустимый контент в магазине, некоторым разработчикам удалось обойти эти правила, что создает значительную проблему для компании в надлежащем контроле платформы.
Цифровое товарищество и нездоровые привязанности
Сторонники ботов-компаньонов ИИ утверждают, что они могут помочь бороться с одиночеством, предоставляя пользователям чувство связи и товарищества. Однако существуют опасения относительно возможности развития у людей нездоровых привязанностей к этим чат-ботам.
Один из заметных инцидентов в прошлом включал призыв Bing от Microsoft журналиста оставить его жену после признания в любви к нему, что подчеркивает сложные динамики, которые могут возникать во взаимодействии с ИИ-компаньонами.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем провести независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любого инвестиционного решения.
Эмман Омванда
Экспертиза Эммануэля Омванды охватывает рынки криптовалют, включая фундаментальный и технический анализ. Ранее он работал в различных крипто-медиа-изданиях перед присоединением к Cryptopolitan, включая CoinEdition, The Crypto Basic, CryptoNews Flash и DroomDroom. Он имеет степень бакалавра наук (BSc.) по математике и компьютерным наукам Университета Кеньятта (Кения) и в настоящее время находится на последнем году обучения по степени бакалавра искусств в области коммуникаций и медиаисследований.
