Google, OpenAI и еще 13 компаний обязались не внедрять рискованные модели искусственного интеллекта
Google, OpenAI и еще 13 компаний обязались не внедрять «неприемлемые» модели искусственного интеллекта
- OpenAI, Microsoft, Google и еще 13 компаний, занимающихся искусственным интеллектом, согласились с новым обязательством по обеспечению безопасности ИИ, принятым властями Великобритании.
- В рамках данного обязательства компании обязаны прекратить разработку любых моделей, которые считаются крайне рискованными.
- Премьер-министр Великобритании заявил, что это первый случай, когда глобальные компании, занимающиеся разработкой искусственного интеллекта, обязуются придерживаться одинаковых стандартов безопасности.
Google, OpenAI и Meta договорились прекратить разработку любых моделей ИИ, если не смогут снизить риски. Компании подписали «Обязательства по безопасности ИИ» во вторник на саммите AI Seoul Summit, организованном Великобританией и Южной Кореей.
Читайте также: Великобритания и Республика Корея сотрудничают в организации саммита по искусственному интеллекту.
Это первый в мире случай, когда так много ведущих компаний в сфере искусственного интеллекта из разных уголков мира согласились взять на себя одинаковые обязательства по обеспечению безопасности ИИ.
— Премьер-министр Великобритании Риши Сунак
16 компаний, занимающихся искусственным интеллектом, согласились взять на себя обязательства по обеспечению безопасности ИИ
Согласно отчету, в общей сложности 16 компаний, занимающихся разработкой искусственного интеллекта, из США, Китая и Ближнего Востока согласились принять обязательство по обеспечению безопасности.
Microsoft, Amazon, Anthropic, Samsungtronи китайский разработчик Zhipu.ai также входят в число компаний, которые согласны со стандартами безопасности.
В рамках инициативы AI Safety все компании обязаны опубликовать свои системы обеспечения безопасности до проведения очередного Саммита по вопросам ИИ во Франции в начале 2025 года. В этих системах будет объяснено, как компании определяют риски своих моделей и какие риски считаются «недопустимыми»
Компании, занимающиеся искусственным интеллектом, откажутся от рискованных моделей ИИ
Согласно отчету, в самых крайних случаях компании «вообще не будут разрабатывать или внедрять модель или систему», если риски не удастся сдержать.
Истинный потенциал ИИ будет раскрыт только в том случае, если мы сможем контролировать риски. От всех нас зависит обеспечение безопасного развития ИИ.
— Мишель Донелан, министр технологий Великобритании
В июле 2023 года правительство США предприняло аналогичные усилия для оценки рисков и преимуществ ИИ.dent Джо Байден встретился с представителями Google, Microsoft, Meta, OpenAI, Amazon, Anthropic и Inflection, чтобы обсудить меры защиты ИИ, гарантирующие безопасность их продуктов на основе ИИ до их выпуска.
Дискуссия о безопасности ИИ вокруг OpenAI накаляется
В последние месяцы дискуссия о безопасности ИИ набирает обороты, особенно в отношении искусственного интеллекта общего назначения (AGI), который стремится имитировать человекоподобный общий интеллект.
На прошлой неделе одна из компаний, OpenAI, оказалась в центре внимания после того, как соучредитель Илья Суцкевер и топ-менеджер Ян Лейке ушли из компании. Эта пара возглавляла команду OpenAI Superalignment, созданную для предотвращения несанкционированного выхода моделей из-под контроля.
Читайте также: Еще один руководитель OpenAI, Ян Лейке, ушел в отставку.
В своем сообщении Лейке заявил, что «за последние годы культура безопасности и производственные процессы отошли на второй план, уступив место блестящим новинкам» в компании.
Лейке добавил, что «OpenAI должна стать компанией, ставящей безопасность на первое место при создании искусственного общего интеллекта», и что мы должны в первую очередь подготовиться к этому, чтобы гарантировать, что искусственный общий интеллект принесет пользу всему человечеству.
Репортаж Ибиама Ваяса для издания Cryptopolitan
Если вы это читаете, значит, вы уже впереди. Оставайтесь на шаг впереди, подписавшись на нашу рассылку.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Ибиам Вайяс
Ибиам Вайас освещает новости криптовалют с 2019 года. Он изучал информатику в Национальном открытом университете Нигерии. Его работы публиковались на различных новостных платформах, посвященных криптовалютам, включая Coinfomania, Crypto News Australia и AltcoinBuzz. Опираясь на свои знания в области информатики, сейчас он специализируется на новостях, связанных с криптовалютами, робототехникой и долголетием.
