Система «Дымового оповещения» для защиты от неконтролируемого ИИ, объявляет министр науки Великобритании
- Министр науки Великобритании представляет систему «датчика дыма» для регулирования ИИ, подчеркивая необходимость ответственного развития искусственного интеллекта.
- Донелан отвергает запрет на ИИ и выступает за проактивное регулирование, чтобы сбалансировать инновации и снижение рисков.
- Мировые лидеры соберутся в Блетчли-парке на саммите по безопасности ИИ, где обсудят международное сотрудничество в области регулирования искусственного интеллекта.
В беспрецедентном шаге министр науки Великобритании Мичелл Доналан объявила о планах внедрения новой системы «дымового извещателя» для предотвращения выхода искусственного интеллекта (ИИ) из-под контроля. Выступая перед предстоящим саммитом по безопасности ИИ в Великобритании, Доналан подчеркнула поворотный момент в истории человечества, в котором мы находимся, поскольку ИИ обладает потенциалом как для огромной пользы, так и для потенциально катастрофического вреда. Эта инициатива подчеркивает насущную необходимость ответственного регулирования в быстро развивающейся сфере ИИ.
Монументальный переломный момент для человечества
Утверждение Доналан о том, что остановить трансформационное влияние ИИ на наш мир уже слишком поздно, подчеркивает повсеместное присутствие технологий ИИ в нашей жизни. Это мнение отражает глобальное признание ИИ как силы, проникшей практически во все сферы общества.
Двойная обеспокоенность министра науки огромным потенциалом ИИ как для добра, так и для зла разделяется многими в мировом сообществе. По мере развития ИИ возникают законные опасения относительно возможности его misuse и перспектив работы систем ИИ без контроля, что может привести к катастрофическим последствиям.
Устранение рисков, связанных с передовым ИИ
Одной из центральных тем подхода Доналан является устранение рисков, связанных с «передовым ИИ» (frontier AI). Это подразделение ИИ сосредоточено на расширении границ того, чего могут достичь модели ИИ, часто стремясь максимизировать их возможности и создать совершенно новые технологии. Хотя инновации в области передового ИИ захватывают дух, они также несут значительные риски.
Доналан отмечает, что эти передовые разработки могут быть использованы злоумышленниками или выйти из-под контроля, что приведет к непредсказуемым результатам. Эти опасения побудили экспертов предупредить о потенциальной угрозе существования человечества со стороны ИИ.
Однако Доналан также подчеркивает трансформационный потенциал ИИ, признавая, что мир сможет в полной мере реализовать эти преимущества, только эффективно смягчив связанные с ними риски.
Проактивное регулирование вместо запрета
Когда ее спросили, следует ли запрещать слишком мощные модели ИИ посредством регулирования, Доналан решительно отвергла эту идею, заявив, что любой, кто выступает за такой запрет, на самом деле не понимает ИИ. Вместо этого она выступает за проактивный подход, который использует огромные возможности, предоставляемые ИИ, одновременно решая связанные с ним риски.
Позиция Доналан согласуется с убеждением, что полный запрет на ИИ задушит инновации и замедлит прогресс. Вместо того чтобы прибегать к запретам, ее подход направлен на создание надежной нормативной базы, которая включает меры по эффективному мониторингу и контролю систем ИИ.
Система «дымового извещателя»
В основе предложения Доналан лежит концепция системы «дымового извещателя» для ИИ, которую она называет «ответственным масштабированием возможностей». В рамках этой системы компании, разрабатывающие технологии ИИ, должны определять четкие триггерные точки для отключения своих систем.
Цель состоит в обеспечении полной прозрачности процессов компаний по мониторингу их систем ИИ. От компаний ожидается проведение оценки рисков и вмешательство при пересечении определенных заранее установленных пороговых значений, что поможет предотвратить сбои в работе ИИ.
Глобальное сотрудничество в области регулирования ИИ
Приверженность Доналан решению проблем ИИ выходит за пределы границ Великобритании. Она подчеркивает необходимость международного сотрудничества для разработки и внедрения эффективных нормативных актов. Подход Доналан согласуется с более широким глобальным консенсусом о том, что сотрудничество между правительствами, технологическими компаниями и другими заинтересованными сторонами имеет решающее значение для успешного навигации в сложном ландшафте регулирования ИИ.
Предстоящий саммит по безопасности ИИ
Доналан запланировала саммит по безопасности ИИ в Великобритании, чтобы укрепить свое видение, где будут обсуждаться вопросы координации международных нормативных актов. Саммит пройдет в историческом парке Блетчли, что является подходящим местом, учитывая его историческое значение в области взлома кодов и вычислительной техники.
Канцлер казначейства Великобритании Риши Сунак соберет мировых лидеров, чтобы изучить способы создания единой международной рамки для регулирования ИИ. Премьер-министр стремится позиционировать Великобританию как мирового лидера в области регулирования ИИ, потенциально создав многостороннюю организацию для надзора за безопасным развитием ИИ.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
