OpenAI запускает команду «суперсогласование» для решения рисков суперинтеллекта
оценивает аудиторию бесплатного плана ChatGPT более чем в 1 миллиард еженедельно активных пользователей, и именно рекламная модель помогает поддерживать работу бесплатной версии.
- OpenAI повышает осведомлённость о рисках ИИ-сверхразума и создаёт специальную команду для решения этих проблем.
- Компания подчёркивает необходимость согласования сверхразума с человеческими ценностями и намерениями, а также создания новых институтов управления.
- OpenAI признаёт, что согласование AGI сопряжено со значительными рисками и может потребовать коллективных усилий всего человечества.
OpenAI«CEO, Сэм Альтман, начал глобальную кампанию по повышению осведомленности о потенциальных опасностях суперинтеллекта ИИ, где машины превосходят человеческий интеллект и могут стать неконтролируемыми.
В ответ на эти опасения OpenAI недавно объявила о создании специальной команды, задачей которой является разработка методов устранения рисков, связанных с суперинтеллектом, который может возникнуть в течение этого десятилетия.
Компания подчеркивает, что эффективное управление суперинтеллектом требует создания новых институтов управления и решения критической проблемы согласования суперинтеллекта с человеческими ценностями и намерениями.
OpenAI признает, что согласование AGI (Общего искусственного интеллекта) представляет значительные риски для человечества и может потребовать коллективных усилий всего человечества, как stated в блоге, опубликованном в прошлом году.
Новообразованная команда, получившая название «Superalignment», состоит из исследователей и инженеров машинного обучения высшего уровня. Илья Сутскевер, соучредитель и главный научный сотрудник OpenAI, и Ян Лайке, руководитель направления согласования, руководят этим предприятием.
Чтобы решить основные технические проблемы согласования суперинтеллекта, OpenAI обязалась выделить 20% своих вычислительных ресурсов, полученных на данный момент, на проблему согласования. Компания ожидает, что в течение четырех лет она решит эти проблемы.
Основная цель команды Superalignment — разработать автоматизированного исследователя согласования на уровне человека. Это подразумевает создание систем ИИ, которые могут эффективно согласовывать системы суперинтеллекта, превосходя людей по скорости и точности.
Для достижения этой вехи команда сосредоточится на разработке масштабируемого метода обучения, который использует системы ИИ для оценки других систем ИИ. Они проверят свою результирующую модель, автоматизируя поиск потенциально проблемного поведения. Конвейер согласования также будет подвергаться строгому стресс-тестированию путем намеренного обучения несогласованных моделей для оценки их обнаруживаемости.
Усилия OpenAI по устранению рисков суперинтеллекта отмечают значительный шаг вперед в стремлении к ответственному и согласованному развитию ИИ. Собирая команду лучших исследователей и выделяя значительные вычислительные ресурсы, компания демонстрирует свою приверженность проактивному смягчению потенциальных рисков, связанных с появлением суперинтеллекта. Начав это амбициозное путешествие, OpenAI задает прецедент сотрудничества и единства в защите будущего человечества в эпоху ИИ.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Мутума Максвелл
Максвелл особенно любит писать статьи о блокчейне и криптовалютах. Он начал свой путь в блогинге в 2020 году, позже сосредоточившись на мире криптовалют. Его жизненное призвание — познакомить людей по всему миру с концепцией децентрализации.
