Лучшие аналитические материалы о криптовалютах прямо в вашу электронную почту.
Google, OpenAI и еще 13 компаний обязались не внедрять рискованные модели искусственного интеллекта
Google, OpenAI и еще 13 компаний обязались не внедрять «неприемлемые» модели искусственного интеллекта
- OpenAI, Microsoft, Google и еще 13 компаний, занимающихся искусственным интеллектом, согласились с новым обязательством по обеспечению безопасности ИИ, принятым властями Великобритании.
- В рамках данного обязательства компании обязаны прекратить разработку любых моделей, которые считаются крайне рискованными.
- Премьер-министр Великобритании заявил, что это первый случай, когда глобальные компании, занимающиеся разработкой искусственного интеллекта, обязуются придерживаться одинаковых стандартов безопасности.
Google, OpenAI и Meta договорились прекратить разработку любых моделей ИИ, если не смогут снизить риски. Компании подписали «Обязательства по безопасности ИИ» во вторник на саммите AI Seoul Summit, организованном Великобританией и Южной Кореей.
Читайте также: Великобритания и Республика Корея сотрудничают в организации саммита по искусственному интеллекту.
Это первый в мире случай, когда так много ведущих компаний в сфере искусственного интеллекта из разных уголков мира согласились взять на себя одинаковые обязательства по обеспечению безопасности ИИ.
— Премьер-министр Великобритании Риши Сунак
16 компаний, занимающихся искусственным интеллектом, согласились взять на себя обязательства по обеспечению безопасности ИИ
Согласно отчету, в общей сложности 16 компаний, занимающихся разработкой искусственного интеллекта, из США, Китая и Ближнего Востока согласились принять обязательство по обеспечению безопасности.
Microsoft, Amazon, Anthropic, Samsungtronи китайский разработчик Zhipu.ai также входят в число компаний, которые согласны со стандартами безопасности.
В рамках инициативы AI Safety все компании обязаны опубликовать свои системы обеспечения безопасности до проведения очередного Саммита по вопросам ИИ во Франции в начале 2025 года. В этих системах будет объяснено, как компании определяют риски своих моделей и какие риски считаются «недопустимыми»
Компании, занимающиеся искусственным интеллектом, откажутся от рискованных моделей ИИ
Согласно отчету, в самых крайних случаях компании «вообще не будут разрабатывать или внедрять модель или систему», если риски не удастся сдержать.
Истинный потенциал ИИ будет раскрыт только в том случае, если мы сможем контролировать риски. От всех нас зависит обеспечение безопасного развития ИИ.
— Мишель Донелан, министр технологий Великобритании
В июле 2023 года правительство США предприняло аналогичные усилия для оценки рисков и преимуществ ИИ.dent Джо Байден встретился с представителями Google, Microsoft, Meta, OpenAI, Amazon, Anthropic и Inflection, чтобы обсудить меры защиты ИИ, гарантирующие безопасность их продуктов на основе ИИ до их выпуска.
Дискуссия о безопасности ИИ вокруг OpenAI накаляется
В последние месяцы дискуссия о безопасности ИИ набирает обороты, особенно в отношении искусственного интеллекта общего назначения (AGI), который стремится имитировать человекоподобный общий интеллект.
На прошлой неделе одна из компаний, OpenAI, оказалась в центре внимания после того, как соучредитель Илья Суцкевер и топ-менеджер Ян Лейке ушли из компании. Эта пара возглавляла команду OpenAI Superalignment, созданную для предотвращения несанкционированного выхода моделей из-под контроля.
Читайте также: Еще один руководитель OpenAI, Ян Лейке, ушел в отставку.
В своем сообщении Лейке заявил, что «за последние годы культура безопасности и производственные процессы отошли на второй план, уступив место блестящим новинкам» в компании.
Лейке добавил, что «OpenAI должна стать компанией, ставящей безопасность на первое место при создании искусственного общего интеллекта», и что мы должны в первую очередь подготовиться к этому, чтобы гарантировать, что искусственный общий интеллект принесет пользу всему человечеству.
Репортаж Ибиама Ваяса для издания Cryptopolitan
Самые умные криптоаналитики уже читают нашу рассылку. Хотите присоединиться? Вступайте в их ряды.
Предупреждение. Предоставленная информация не является торговой рекомендацией. Cryptopolitanнастоятельно не несет ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мыtronпровести независимоеdent и/или проконсультироваться с квалифицированным специалистом, прежде чем принимать какие-либо инвестиционные решения.
Ибиам Вайяс
Ибиам Вайас освещает новости криптовалют с 2019 года. Он изучал информатику в Национальном открытом университете Нигерии. Его работы публиковались на различных новостных платформах, посвященных криптовалютам, включая Coinfomania, Crypto News Australia и AltcoinBuzz. Опираясь на свои знания в области информатики, сейчас он специализируется на новостях, связанных с криптовалютами, робототехникой и долголетием.
- Какие криптовалюты могут принести вам деньги?
- Как повысить безопасность своего кошелька (и какие из них действительно стоит использовать)
- Малоизвестные инвестиционные стратегии, используемые профессионалами
- Как начать инвестировать в криптовалюту (какие биржи использовать, какую криптовалюту лучше купить и т.д.)