OpenAI готовит преемника GPT-4 на фоне опасений по поводу безопасности  

OpenAI обучает новую систему ИИ, которая должна заменить GPT-4, поскольку компания стремится к репутационному перезапуску. Перед выпуском модели будет создана комитет по безопасности и защите во главе с генеральным директором Сэмом Альтманом и тремя другими членами совета директоров. 

Также читайте: ChatGPT все еще распространяет ложь, утверждает надзорный орган ЕС

Компания, базирующаяся в Сан-Франциско, находится под давлением, чтобы продемонстрировать свою приверженность безопасности. Недавно уволившиеся исследователи рисков Ян Лайке и Гретхен Крюгер раскрыли в X, ранее известном как Twitter, предполагаемую плохую культуру безопасности в OpenAI.

OpenAI обучает «Модель следующего рубежа»

В блоге, опубликованном во вторник, компания сказала:

«Недавно OpenAI начала обучение своей модели следующего рубежа, и мы ожидаем, что resulting системы выведут нас на новый уровень возможностей на нашем пути к искусственному общему интеллекту (AGI)».

OpenAI не сказала, когда будет выпущен преемник GPT-4 и что он может делать. Компания, оцененная в 80 миллиардов долларов, сделала ставку первопроходца со своим невероятно популярным ИИ-чатботом ChatGPT, в то время как такие фавориты, как Google, отошли на второй план, чтобы оценить репутационные риски.

Хотя OpenAI является лидером в гонке генеративного искусственного интеллекта, в которой активно участвуют Anthropic, Google, Microsoft и другие, компания не всегда выдерживала этическую проверку.

В посте, объявляющем об его отставке из OpenAI в X, Лайке раскрыл, что «за последние годы культура и процессы безопасности отошли на второй план по сравнению с привлекательными продуктами».

Крюгер написал, что компании «нужно делать больше для улучшения фундаментальных вещей, таких как процессы принятия решений, подотчетность, прозрачность, соблюдение политики и та осторожность, с которой мы используем собственные технологии».

На прошлой неделе рабочая группа Европейского союза усилила критику, сообщив, что ChatGPT, флагманский продукт компании, не соответствует ее стандартам точности.

Компания продвигает безопасность ИИ как ключевое преимущество

Тем временем недавнее обновление OpenAI для ее модели GPT-4 мгновенно столкнулось с громким спором: актриса Скарлетт Йоханссон обвинила компанию в несанкционированном использовании ее голоса.

Также читайте: OpenAI отказывается от голоса ChatGPT после скандала со Скарлетт Йоханссон

Теперь компания выводит свое ускоренное лидерство на стирку, продвигая безопасность как ключевое преимущество своей будущей программы ИИ. Компания также стремится выглядеть перед регуляторами как разработчик ответственного ИИ. В своем блоге OpenAI добавила:

«Хотя мы гордимся созданием и выпуском моделей, которые являются лидерами отрасли как по возможностям, так и по безопасности, мы приветствуем активные дебаты в этот важный момент».

Новый комитет по безопасности и защите будет возглавляться директорами Альтманом, Бретом Тейлором (председатель), Адамом Д’Анджело и Николь Селигман. В комитет также войдут глава отдела готовности, глава систем безопасности, глава науки о выравнивании, глава безопасности и главный ученый компании.

OpenAI заявила, что комитет в течение следующих трех месяцев «оценит и дополнительно разработает процессы и меры защиты» и отчитается перед тремя другими директорами.

Компания распустила свою команду безопасности в начале этого месяца после ухода лидера команды и сооснователя OpenAI Ильи Сутскевера.

Криптополитан, репортаж Джеффри Гого