Лучшие аналитические материалы о криптовалютах прямо в вашу электронную почту.
Компания OpenAI запускает систему оповещения ChatGPT после волны исков о самоубийствах
- Компания OpenAI запустила функцию Trusted Contact, дополнительную функцию ChatGPT, которая оповещает выбранный пользователем контакт, если разговоры указывают на серьезный риск причинения себе вреда.
- Каждое оповещение проходит проверку человеком перед отправкой, и никакие записи чата не передаются контакту.
- Эта функция появилась в то время, когда OpenAI сталкивается с многочисленными судебными исками, в которых утверждается, что взаимодействие с ChatGPT способствовало самоубийствам пользователей.
В среду компания OpenAI представила функцию Trusted Contact. Эта функция позволяет пользователям ChatGPT, достигшим совершеннолетия, выбирать собеседника, который получит оповещение, если системы компании пометят разговор как содержащий серьезную тему членовредительства.
Это расширение системы родительского контроля, запущенной OpenAI в сентябре 2025 года, которая позволяла родителям отслеживать учетные записи своих подростков. Теперь, согласно заявлению OpenAI, любой человек старше 18 лет может включить эту функцию.
Как на самом деле работают оповещения OpenAI
Пользователь начинает с добавления одного взрослого человека в качестве доверенного контакта в настройках ChatGPT. Потенциальный «доверенный контакт» получает приглашение с объяснением процесса настройки и имеет неделю на принятие. Если он отказывается, пользователь выбирает другого человека.
Когда автоматизированная система мониторинга обнаруживает разговор, потенциально связанный с причинением себе вреда, ChatGPT сообщает пользователю, что может уведомить его собеседника. Система также предлагает пользователю способы самостоятельно связаться с собеседником.
Затем группа экспертов-проверяющих просматривает переписку. Если они подтверждают серьезность ситуации, они отправляют короткое уведомление контакту пользователя по электронной почте, SMS или через встроенное уведомление в приложении.
В уведомлении не указано, что именно сказал пользователь. Только общая причина и ссылка на руководство о том, как обсуждать сложные вопросы. В OpenAI заявляют, что проверка человеком завершается в течение часа.
Пользователь может в любое время заменить или удалить выбранный контакт. Контакт также может отказаться от дальнейшего взаимодействия.
Врачи помогли разработать функцию «Доверенный контакт» в OpenAI
Компания OpenAI заявила, что сотрудничала со своей глобальной сетью врачей (более 260 лицензированных врачей в 60 странах) и экспертным советом по вопросам благополучия и искусственного интеллекта. Американская психологическая ассоциация также высказала свою точку зрения.
«Психологическая наука неизменно показывает, что социальные связи являются мощным защитным фактором, особенно в периоды эмоционального стресса», — заявил в своем заявлении доктор Артур Эванс, генеральный директор Американской психологической ассоциации.
«Помощь людям в том, чтобы заранееdentдоверенное лицо, сохраняя при этом их право выбора и автономию, может облегчить обращение за реальной поддержкой в тот момент, когда это наиболее важно»
Доктор Мунмун Де Чоудхури, профессор Технологического института Джорджии и член совета, назвала это «шагом вперед к расширению прав и возможностей человека, особенно в моменты уязвимости»
Компания OpenAI сталкивается с давлением со стороны судебных исков, связанных с самоубийствами ИИ
Время выбрано не случайно. Компания OpenAI столкнулась с целым рядом судебных исков от семей, чьи родственники покончили жизнь самоубийством после длительных сеансов общения в ChatGPT. В нескольких случаях семьи утверждают что чат-бот призывал пользователей отдалиться от близких или усиливал вредные мыслительные циклы.
LLMDeathCount, сайт, tracвозраст жертв варьировался от 13 до 83 лет. Cryptopolitanданным более ранних публикаций CryptopolitanНа долю ChatGPT приходится 24 случая. Остальные случаи связаны с платформами Google Gemini, Meta и другими.
Новая функция OpenAI является добровольной, и пользователи могут использовать несколько учетных записей ChatGPT. Тот, кто не включает функцию «Доверенные контакты» или просто входит в систему под другой учетной записью, обходит всю эту систему. Та же проблема и с родительским контролем.
Trusted Contact также не заменяет горячие линии для оказания помощи в кризисных ситуациях. По данным OpenAI, ChatGPT по-прежнему отображает номера местных служб экстренной помощи и направляет пользователей к службам экстренной помощи, когда разговоры достигают уровня острого стресса.
Функция «Доверенный контакт» от OpenAI связывает пользователей ИИ с реальной поддержкой. Компания заявила, что продолжит сотрудничество с врачами, исследователями и политиками по вопросу о том, как ИИ должен реагировать в кризисных ситуациях.
Самые умные криптоаналитики уже читают нашу рассылку. Хотите присоединиться? Вступайте в их ряды.
Часто задаваемые вопросы
Что представляет собой функция «Доверенные контакты» в OpenAI?
Trusted Contact — это инструмент безопасности ChatGPT, который позволяет совершеннолетним пользователям назначать друга или члена семьи для получения уведомлений, если автоматизированные системы OpenAI и эксперты-люди обнаружат серьезные признаки членовредительства в переписке пользователя.
Видит ли доверенный контакт историю чатов пользователя?
Нет. Уведомление не содержит подробностей чата или его стенограмм. В нем указывается лишь общая причина оповещения и даются ссылки на рекомендации экспертов по ведению конфиденциальных разговоров.
Сколько смертей связано с чат-ботами на основе искусственного интеллекта?
Сайт LLMDeathCount, tracподобные случаи, сообщает о 33 смертях, связанных с взаимодействием с чат-ботами на основе ИИ в период с марта 2023 года по май 2026 года. Возраст жертв варьировался от 13 до 83 лет. На долю ChatGPT от OpenAI приходится 24 из этих случаев.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtrondentdentdentdentdentdentdentdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
КУРС
- Какие криптовалюты могут принести вам деньги?
- Как повысить безопасность своего кошелька (и какие из них действительно стоит использовать)
- Малоизвестные инвестиционные стратегии, используемые профессионалами
- Как начать инвестировать в криптовалюту (какие биржи использовать, какую криптовалюту лучше купить и т.д.)