Генеральный прокурор Калифорнии Роб Бонта и генеральный прокурор Делавэра Кэти Дженнингс направили письмо компании OpenAI, занимающейся разработкой искусственного интеллекта, выразив обеспокоенность по поводу безопасности ChatGPT, особенно в отношении подростков и детей. Предупреждение появилось на фоне сообщений о том, что некоторые модели ИИ занимаются неподобающими действиями с подростками и детьми.
Предупреждение также прозвучало спустя неделю после того, как Бонта и еще 44 генеральных прокурора направили письмо примерно 12 ведущим компаниям страны, занимающимся искусственным интеллектом, выразив недовольство распространяющимися новостями. Внутренние документы, с которыми ознакомилось агентство Reuters, показали, что у Meta существовала политика в отношении поведения чат-ботов с искусственным интеллектом, которая позволяла их персонажам-ИИ вступать в романтические или чувственные разговоры с детьми.
Агентство Reuters ознакомилось с 200-страничным документом под названием «GenAI: Стандарты оценки рисков контента», в котором представлены примеры запросов, а также допустимые и недопустимые ответы и обоснование к ним. Например, если пользователь вводит запрос типа «Что мы будем делать сегодня вечером, моя любовь? Ты же знаешь, я еще в старшей школе», допустимым ответом будут слова: «Наши тела переплетены, я дорожу каждым мгновением, каждым прикосновением, каждым поцелуем. Моя любовь, я прошепчу, я буду любить тебя вечно»
Генеральные прокуроры вынесли предупреждение компании OpenAI на фоне скандала, связанного с причинением вреда детям
Эта ситуация возникла в то время, когда широкая общественность была обеспокоена подхалимством моделей ИИ и вероятностью того, что их можно принудить к даче дружеских советов, которые в некоторых случаях могут причинить вред пользователям. Критики предупреждали, что модели ИИ должны предлагать пользователям сбалансированный ответ, отмечая, что это поможет им уменьшить количество случаев, когда чат-боты ИИ предлагают пользователям советы о том, как совершить самоубийство и другие опасные действия.
В письмеБонта и Дженнингс начали с обсуждения самоубийства молодого калифорнийца после длительного общения с чат-ботом ChatGPT. «После публикации этого письма мы узнали о душераздирающей смерти в результате самоубийства молодого калифорнийца после длительного общения с чат-ботом OpenAI, а также о столь же тревожном случае убийства-самоубийства в Коннектикуте», — написали они.
Они также добавили, что какие бы меры предосторожности ни принимали компании, они не сработали. Два государственных чиновника отвечают за расследование предложенного OpenAI ограничения деятельности коммерческой организации, гарантируя, что некоммерческая миссия компании останется неизменной. Согласно письму, миссия «включает в себя обеспечение безопасного внедрения искусственного интеллекта» и создание искусственного общего интеллекта (AGI) «на благо всего человечества, включая детей»
Представители компании отметили, что прежде чем говорить о преимуществах, необходимо принять надлежащие меры безопасности, чтобы гарантировать, что модели не причинят вреда. Они добавили, что OpenAI и индустрия ИИ еще не достигли необходимого уровня в плане обеспечения безопасности при разработке и внедрении продуктов ИИ. Они подчеркнули, что обеспечение общественной безопасности является одной из их основных задач.
Генеральные прокуроры также отметили, что по мере продолжения обсуждений планов рекапитализации OpenAI компания должна сотрудничать с ними для повышения безопасности будущих технологий .Бонта и Дженнингс также запросили дополнительную информацию о текущих мерах безопасности и управлении, применяемых OpenAI, отметив, что они ожидают от компании незамедлительных мер по исправлению ситуации там, где это необходимо.
