Компания OpenAI разрабатывает преемника GPT-4 на фоне опасений по поводу безопасности  

OpenAI обучает новую систему искусственного интеллекта, которая станет преемницей GPT-4, стремясь к репутационной перезагрузке. Запуску модели будет предшествовать комитет по безопасности во главе с генеральным директором Сэмом Альтманом и тремя другими членами совета директоров. 

Читайте также: ChatGPT продолжает распространять ложную информацию, заявляет европейский орган по защите данных.

Компания из Сан-Франциско находится под давлением, требующим продемонстрировать свою приверженность безопасности. Недавно ушедшие в отставку специалисты по оценке рисков Ян Лейке и Гретхен Крюгер разоблачили предполагаемую низкую культуру безопасности на платформе X (ранее Twitter).

OpenAI Trains «Модель следующего рубежа»

В сообщении в блоге, опубликованном во вторник, компания заявила:

«OpenAI недавно начала обучение своей следующей передовой модели, и мы ожидаем, что полученные системы выведут нас на новый уровень возможностей на нашем пути к общему искусственному интеллекту (AGI)».

OpenAI не сообщила, когда будет выпущен преемник GPT-4 и что он сможет делать. Компания, оценённая в 80 миллиардов долларов, решила стать первопроходцем, выпустив своего невероятно популярного чат-бота на основе искусственного интеллекта ChatGPT, в то время как такие фавориты, как Google, отошли на второй план, оценивая репутационные риски.

Хотя OpenAI является лидером в гонке за генеративный искусственный интеллект, в которой активно участвуют Anthropic, Google, Microsoft и другие, компания не всегда выдерживала критику с этической точки зрения.

В сообщении, объявляющем о его уходе из OpenAI на платформе X, Лейке заявил , что «за последние годы культура и процессы обеспечения безопасности отошли на второй план, уступив место привлекательным новым продуктам».

Крюгер написал , что компании необходимо «приложить больше усилий для улучшения таких основополагающих вещей, как процессы принятия решений, подотчетность, прозрачность, соблюдение политики и осторожность, с которой мы используем собственные технологии».

На прошлой неделе рабочая группа Европейского союза усилила критику, сообщив, что ChatGPT, флагманский продукт компании, не соответствует ее стандартам точности.

Компания позиционирует безопасность ИИ как ключевой аргумент

от OpenAI модели GPT-4 мгновенно вызвало громкий скандал: актриса Скарлетт Йоханссон обвинила компанию в несанкционированном использовании её голоса.

Читайте также: OpenAI отказалась от озвучки ChatGPT после скандала со Скарлетт Йоханссон.

Теперь компанияtracпродвигается к «прачечным», позиционируя безопасность как главный аргумент своей будущей программы ИИ. Компания также стремится к тому, чтобы регулирующие органы считали её создателем ответственного ИИ. В своём блоге OpenAI добавила:

«Мы гордимся тем, что создаем и выпускаем модели, которые являются ведущими в отрасли как по возможностям, так и по безопасности, но мы приветствуем активную дискуссию в этот важный момент».

Новый комитет по безопасности возглавят директора Альтман, Брет Тейлор (председатель), Адам Д’Анджело и Николь Селигман. В состав комитета также войдут руководитель отдела готовности, руководитель отдела систем безопасности, руководитель отдела выравнивания, руководитель отдела безопасности и главный научный сотрудник.

OpenAI заявила, что в течение следующих трех месяцев комитет «оценит и доработает процессы и меры безопасности» и отчитается перед тремя другими директорами.

Ранее в этом месяце компания распустила свою команду по безопасности после ухода ее руководителя и соучредителя OpenAI Ильи Суцкевера.

Cryptopolitan репортажи Джеффри Гого