Великобритания призывает к глобальному консенсусу по маркировке «катастрофического вреда» ИИ на Саммите по безопасности ИИ

В беспрецедентном шаге британский премьер-министр Риши Сунак возглавляет инициативу по классификации искусственного интеллекта как способного причинить «катастрофический вред» на предстоящем Саммите по безопасности ИИ, который пройдет под эгидой Великобритании. Саммит, запланированный на следующий месяц в Блетчли-парке, направлен на установление единой глобальной позиции по рискам, представляемым быстро развивающейся технологией ИИ. Черновик коммюнике, распространенный среди участников и полученный Bloomberg, излагает конкретные опасения по поводу влияния ИИ на кибербезопасность и биотехнологии. Поскольку международное сообщество борется с трансформационными возможностями, представленными ИИ, Сунак стремится позиционировать Великобританию как лидера в формировании регуляторных подходов и установлении отраслевых «ограничителей».

Обеспокоенность и меры предосторожности

В основе усилий Великобритании лежит признание потенциала «значительного, даже катастрофического, вреда», исходящего от самых опасных возможностей моделей ИИ. Черновик коммюнике, датированный 16 октября, подчеркивает необходимость совместной международной позиции по конкретным рискам безопасности, связанным как с ИИ общего назначения, так и с узкоспециализированным ИИ. Чиновники, представляющие 28 стран и широкий круг заинтересованных сторон, намерены обсудить окончательное оформление коммюнике к 25 октября.

Документ подчеркивает двойственную природу ИИ, признавая его трансформационные возможности, особенно в государственных услугах, таких как здравоохранение, образование, наука и чистая энергия. Человек, знакомый с вопросом, заявил, что этот аспект станет основным фокусом во время саммита, освещая положительный потенциал, который ИИ несет для общественного прогресса.

Однако в черновике подчеркивается, что риски, особенно на «переднем крае» развития ИИ, требуют четких метрик оценки, инструментов тестирования безопасности и повышения возможностей государственного сектора. Признавая необходимость сбалансированного подхода, саммит стремится решить как обещания, так и вызовы ИИ, обеспечивая ответственное использование достижений на благо человечества.

Ожидается, что мировые лидеры поддержат призыв к увеличению прозрачности со стороны компаний, участвующих в разработке ИИ. В проекте предлагается создание четких метрик оценки, инструментов тестирования безопасности и развитие соответствующих возможностей государственного сектора и научных исследований. Документ подчеркивает, что риски безопасности возникают не только из-за ИИ общего назначения, но и из-за конкретного узкого ИИ, который может проявлять опасные возможности.

Глобальная координация и обязанность в мерах безопасности ИИ

Хотя Великобритания берет на себя лидирующую роль, черновик и другие распространенные документы показывают, что Европейская комиссия выступает за процесс международного сотрудничества по безопасности ИИ передового уровня. Европейский блок стремится к согласованному подходу со своим собственным законодательством об ИИ, сосредоточившись на потенциальном злоупотреблении в кибератаках и риске потери контроля над продвинутыми системами.

Документы подчеркивают ответственность разработчиков, работающих над мощными и потенциально опасными возможностями ИИ. Большое внимание уделяется обеспечению безопасности этих возможностей, при этом «соответствующим субъектам» предлагается обеспечить прозрачность и подотчетность, соответствующие контексту, в отношении планов по измерению, мониторингу и смягчению потенциальных опасностей. Великобритания планирует поддерживать импульс с последующими встречами каждые шесть месяцев, посвященными отслеживанию прогресса в управлении возможностями и рисками, связанными с ИИ.

Черновик коммюнике подчеркивает необходимость того, чтобы ИИ проектировался, разрабатывался, развертывался и использовался таким образом, чтобы приоритизировать «общее благо» и соответствовать принципам человекоцентричности, безопасности, надежности и ответственности. Поскольку международное сообщество сходится в Блетчли-парке, мир наблюдает, появится ли единая позиция по безопасности ИИ, прокладывая путь к безопасному и ответственному будущему ИИ.