OpenAI создает комитет по безопасности и защите для надзора за своими проектами в области искусственного интеллекта

Для повышения безопасности проектов машинного обучения компания OpenAI объявила о создании Комитета по безопасности. Этот новый руководящий орган появился в свете недавних изменений в организации, таких как упразднение внутренней группы Superalignment, занимавшейся рисками, связанными с ИИ.

Объявление о создании комитета последовало за рядом стратегических изменений в компании, а также за началом обучения для модели следующего поколения, что указывает на продвижение к созданию искусственного общего интеллекта (AGI).

Совет директоров OpenAI сформировал Комитет по безопасности, ответственный за разработку рекомендаций по критически важным решениям в области безопасности для всех проектов OpenAI. https://t.co/tsTybFIl7o

— OpenAI (@OpenAI) 28 мая 2024 г

OpenAI создала новый комитет для улучшения надзора за ИИ

Разработчики GPT-4, компания OpenAI, усовершенствовали свою систему, создав комитет по безопасности из девяти человекtronВ состав этого комитета входят руководители организации: Сэм Альтман (генеральный директор и председатель совета директоров), Александр Мадри, Лилиан Венг, Джон Шульман, Мэтт Найт и Якуб Пачоцкий. Их основная задача — улучшить процесс управления рисками в сфере ИИ. Подробный отчет ожидается совету директоров в течение следующих девяноста дней.

Читайте также: Amazon изо всех сил пытается бросить вызов превосходству Nvidia в разработке чипов для искусственного интеллекта

Изменения в системе контроля безопасности OpenAI произошли после многочисленных кадровых перестановок, таких как уход Ильи Суцкевера и Яна Лейке, а также роспуск команды Superalignment, отвечавшей за безопасность ИИ. Эта реструктуризация демонстрирует стремление OpenAI улучшить свои стратегии управления рисками в области ИИ, одновременно расширяя границы инноваций в этой сфере.

OpenAI обучает модель следующего поколения

Помимо нового комитета, OpenAI начала обучение так называемой модели следующего поколения. Цель этой модели — превзойти возможности существующих моделей и приблизиться к достижению искусственного интеллекта. Этот шаг является частью их постоянной миссии по созданию решений в области ИИ, способных эффективно и результативно выполнять различные задачи. Технический директор OpenAI Мира Мурати отметила, что основные обновления GPT-4 представят значительные улучшения модели и могут отражать развитие технологий и соответствующих сценариев использования.

Читайте также: Китайские компании, занимающиеся искусственным интеллектом, развязали ожесточенную ценовую войну.

Последние данные от Microsoft, важного партнера, предоставляющего облачную инфраструктуру для исследований в области искусственного интеллекта, указывают на то, что новая модель будет представлять собой значительный шаг вперед, который Том Уорнер, технический директор Microsoft, характеризует как переход от «косатки» к «киту» с точки зрения возможностей и размеров.

Ожидания вокруг GPT-5 усиливаются

На фоне этих тенденций ходят слухи о предварительной версии языковой модели следующего поколения от OpenAI, получившей название GPT-5. Сообщения за март показывают, что лишь небольшое количество пользователей использовали этот прототип и отметили улучшения по сравнению с GPT-4. Этот ажиотаж породил огромные ожидания как среди технически подкованных пользователей, так и среди широкой публики, поскольку заинтересованные стороны стремятся узнать больше о перспективах этой новой модели.

Все, что сделала OpenAI, от реструктуризации совета по безопасности до продвижения своих технологий, указывает на то, что компания сможет сохранить свои позиции одного из лидеров в разработке ИИ. Постоянное развитие OpenAI и интеграция устойчивых платформ делают ее одной из ведущих компаний, помогающих defiпуть в будущее технологий ИИ.

Репортаж Криса Мурити для Cryptopolitan