OpenAI акцентирует внимание на управлении сверхразумом для ответственной разработки и внедрения

Краткое содержание

• OpenAI подчеркивает необходимость управления суперинтеллектом для контроля рисков и потенциальных преимуществ продвинутых систем ИИ.
• Координация среди ведущих усилий по разработке имеет решающее значение для безопасной интеграции суперинтеллекта в общество.
• OpenAI предлагает создать международный орган для проверки систем ИИ, установления стандартов безопасности и регулирования развертывания суперинтеллекта.

Сэм Альтман вместе со старшими руководителями OpenAI Грегом Брокманом и Ильей Сутскером недавно опубликовал пост в блоге, подчеркивая важность решения вопросов управления суперинтеллектом — будущей системой ИИ, более мощной, чем любая технология, с которой мы сталкивались до сих пор.

Признавая потенциальные преимущества ИИ, OpenAI подчеркнула важность управления рисками для создания процветающего будущего. Баланс между регулированием и инновациями будет иметь решающее значение для достижения правильного баланса в использовании силы ИИ при одновременном смягчении потенциальных рисков.

Сила и риски суперинтеллекта

Альтман признает, что суперинтеллект, превосходящий экспертный уровень производительности в большинстве областей и сопоставимый с производительностью крупных корпораций, несет огромный потенциал для человечества. Однако он также подчеркивает, что суперинтеллект может быть мощнее любой технологии, с которой мы сталкивались в прошлом, как в плане положительных результатов, так и потенциальных недостатков.

Альтман проводит параллели с такими технологиями, как ядерная энергия и синтетическая биология, которые потребовали проактивных мер для смягчения экзистенциальных рисков. Он выделяет необходимость тщательного управления и смягчения рисков при разработке суперинтеллекта.

OpenAI предлагает, что координация среди ведущих усилий по разработке имеет решающее значение для обеспечения безопасной и гладкой интеграции суперинтеллекта с обществом. Альтман предполагает возможность создания правительствами совместного проекта, в котором компании могут активно участвовать. Такой скоординированный подход поможет поддерживать стандарты безопасности, одновременно позволяя продвигать развитие суперинтеллекта. Кроме того, OpenAI считает, что коллективное соглашение, возможно, поддерживаемое новой организацией, может ограничить темпы роста возможностей ИИ на переднем крае, чтобы обеспечить ответственное развитие.

Необходимость органа управления

Для регулирования суперинтеллекта Альтман и его коллеги предложили создать международный орган, аналогичный Международному агентству по атомной энергии (МАГАТЭ). Такой орган будет проверять системы ИИ, проводить аудиты, тестировать соответствие стандартам безопасности и налагать ограничения на развертывание и уровни безопасности.

Фокусом этого агентства должно быть снижение экзистенциальных рисков, а не диктовка политики ИИ отдельным странам. Предлагаемое агентство должно быть сосредоточено на снижении экзистенциальных рисков, а не на вмешательстве в вопросы, которые отдельные страны могут решать самостоятельно, такие как определение того, что ИИ должен иметь право говорить. OpenAI видит этот управляющий орган как ключевой элемент для обеспечения ответственного развития и развертывания суперинтеллекта.

Недавний пост OpenAI в блоге о управлении суперинтеллектом подчеркивает важность решения потенциальных рисков и преимуществ, связанных с развитием ИИ. Позиция OpenAI по управлению суперинтеллектом подчеркивает необходимость скоординированных усилий, нормативного надзора, технических достижений и сотрудничества среди заинтересованных сторон.

Глобальный режим наблюдения

«В OpenAI у нас есть две фундаментальные причины. Во-первых, мы верим, что это приведет к гораздо лучшему миру, чем мы можем представить сегодня (мы уже видим ранние примеры этого в таких областях, как образование, творческая работа и личная продуктивность). Мир сталкивается со множеством проблем, для решения которых нам потребуется гораздо больше помощи; эта технология может улучшить наши общества, а творческие способности каждого использовать эти новые инструменты обязательно поразят нас. Экономический рост и повышение качества жизни будут ошеломляющими.

Во-вторых, мы верим, что было бы неинтуитивно рискованно и сложно остановить создание суперинтеллекта. Поскольку преимущества настолько огромны, стоимость его создания снижается с каждым годом, количество участников, работающих над ним, быстро растет, и он является неотъемлемой частью технологического пути, по которому мы идем, остановка потребовала бы чего-то вроде глобального режима наблюдения, и даже это не гарантирует успеха. Поэтому мы должны сделать это правильно."

По мере того как системы искусственного интеллекта продвигаются к суперинтеллекту, становится необходимым приоритетно уделять внимание безопасности, смягчать риски и обеспечивать ответственную интеграцию ИИ в общество. Решая эти проблемы проактивно, OpenAI стремится к тому, чтобы будущее суперинтеллекта развивалось таким образом, чтобы максимизировать его преимущества и минимизировать потенциальный вред.