OpenAI вводит Комитет по безопасности и защите для надзора за своими проектами ИИ

Для повышения безопасности проектов машинного обучения OpenAI объявила о создании Комитета по безопасности и защите. Этот новый орган управления появляется на фоне недавних изменений в организации, таких как упразднение внутренней команды Superalignment, занимающейся рисками, представляемыми ИИ.

Объявление о комитете следует за серией стратегических изменений в компании, наряду с началом обучения модели следующего поколения компании, что намекает на прогресс в сторону AGI.

Совет директоров OpenAI формирует Комитет по безопасности и защите, ответственный за вынесение рекомендаций по критическим решениям в области безопасности и защиты для всех проектов OpenAI. https://t.co/tsTybFIl7o

— OpenAI (@OpenAI) Май 28, 2024

OpenAI представляет новый комитет для улучшения надзора за ИИ

Разработчики GPT-4, OpenAI, улучшили свою игру, создав девятичленный Комитет по безопасности и защите. В эту панель входят руководители организации. Сэм Альтман в качестве генерального директора и председателя совета, Александр Мадри, Лилиан Венг, Джон Шульман, Мэтт Найт и Якуб Пачоцкий. Их основная задача будет заключаться в улучшении обработки процесса управления рисками ИИ. Подробный отчет ожидается для совета директоров в течение следующих девяноста дней.

Также читайте: Amazon борется за лидерство в области ИИ-чипов Nvidia

Сдвиг OpenAI в области надзора за безопасностью следует за многочисленными изменениями в руководстве, такими как выход Ильи Сутскевера и Яна Лайке, а также роспуск команды Superalignment, отвечающей за безопасность ИИ. Эта реструктуризация показывает желание OpenAI улучшить свои стратегии управления рисками ИИ, одновременно расширяя границы инноваций в области ИИ.

OpenAI обучает модель следующего рубежа

В дополнение к новому комитету, OpenAI начала обучение того, что они называют своей моделью следующего рубежа. Эта модель направлена на превышение возможностей текущих моделей и приближение к достижению AGI. Этот шаг является частью их постоянной миссии по созданию решений ИИ, которые могут эффективно и результативно выполнять различные задачи. Главный технологический директор OpenAI Мира Мурати отметила, что основные обновления GPT-4 представят значительные улучшения в модели и могут отразить такие разработки в технологии и связанных с ней случаях использования.

Также читайте: Китайские ИИ-компании начинают жесткую ценовую войну

Последние данные от Microsoft, важного партнера, поставляющего облачную инфраструктуру для ИИ-исследований, указывают на то, что новая модель представляет собой большой прогресс, который Том Уорнер, главный технологический директор Microsoft, характеризует как переход от «орки» к «киту» с точки зрения возможностей и размера.

Ожидание вокруг GPT-5 усиливается

На фоне этих тенденций есть слухи о предварительной версии языковой модели следующего поколения OpenAI, обозначенной как GPT-5. Отчеты за март показывают, что этим прототипом пользовалось лишь небольшое количество пользователей, и они упомянули, что есть улучшения по сравнению с GPT-4. Этот шум создал огромные ожидания среди технически подкованных людей и широкой публики, так как заинтересованные стороны с нетерпением ждут больше информации о перспективах этой новой модели.

Все, что сделала OpenAI, от реструктуризации совета по безопасности до продвижения своих технологий, указывает на общую картину сохранения своего положения одного из лидеров в разработке ИИ. Постоянная эволюция OpenAI и интеграция устойчивых платформ делают ее одной из ведущих компаний, помогающих определять путь к будущему ИИ-технологий.

Материал Cryptopolitan от Криса Мурихи