Стартапы ищут ясности и отраслевого регулирования ИИ в ходе дискуссий на саммите по безопасности ИИ

Недавний саммит по безопасности ИИ в Великобритании объединил лидеров отрасли, политиков и стартапы для обсуждения проблем и рисков, связанных с передовыми системами ИИ. Хотя многие сочли это мероприятие позитивным дипломатическим шагом, стартапы, разрабатывающие продукты на основе ИИ, теперь подчеркивают необходимость регуляторной ясности и отраслевого подхода к регулированию ИИ. 

Установление связей и сбор информации

Коннор Лихи, сооснователь стартапа по безопасности ИИ Conjecture, отметил, что саммит в первую очередь служил платформой для нетворкинга, обмена информацией и построения отношений, а не местом для принятия политических решений. Основатели, такие как Лихи, подчеркнули важность укрепления связей внутри сообщества ИИ.

Призыв к четким правилам

Стартапы призывают к более четкому регулированию в Великобритании, чтобы обеспечить стабильную среду для своих проектов в области ИИ. Эрик Топхэм, сооснователь лондонского стартапа Octaipipe, специализирующегося на безопасности данных для продуктов ИИ на физических устройствах, подчеркнул необходимость ясности в правилах безопасности данных. Он противопоставил отсутствие определенных стандартов в Великобритании предстоящему Акту об устойчивости к киберугрозам в Европе, который предусматривает штрафы за утечки данных устройств.

Однако стартапы, такие как Octaipipe, осторожны в отношении принятия универсального подхода к законодательству об ИИ. Многие основатели считают, что отраслевое регулирование более подходит, чем горизонтальный подход ЕС, который применяет одни и те же правила к различным отраслям. Алекс Кендалл, сооснователь компании автономного вождения Wayve, аргументировал, что разные отрасли сталкиваются с уникальными рисками, связанными с ИИ, и должны иметь адаптированное регулирование.

Балансирование немедленных и долгосрочных рисков

Хотя саммит в основном сосредоточился на «катастрофических» рисках, связанных с будущими сверхмощными системами ИИ, стартапы призывают политиков решать немедленные и долгосрочные проблемы. Марк Уорнер, генеральный директор Faculty, подчеркнул важность одновременного решения краткосрочных и долгосрочных рисков, используя аналогию с заботой как о ремнях безопасности, так и о катализаторах в автомобильной промышленности.

Регулирование передового ИИ

Регулирование самых мощных систем ИИ, таких как те, которые обучаются на огромных объемах данных и вычислительных мощностей, остается спорным вопросом в секторе ИИ. Некоторые эксперты, такие как Ян Лекун из Meta, утверждают, что эти системы не являются по-настоящему интеллектуальными, а представляют собой сложные инструменты автозаполнения, и поэтому не требуют строгого регулирования.

Напротив, стартапы, такие как Conjecture, предлагают установить максимальные пределы вычислительных мощностей для обучения новых моделей, чтобы предотвратить превышение ИИ-системами человеческих возможностей. Они утверждают, что неконтролируемые сверхинтеллектуальные системы ИИ могут привести к тому, что машины будут контролировать будущее, вытесняя человеческий контроль.

Mistral, парижский стартап в области генеративного ИИ, выступает за обязательный независимый надзор за моделями ИИ крупных технологических компаний. Это позволит государственным исследовательским институтам изучать эти модели и обеспечивать прозрачность. Хотя некоторые крупные технологические игроки, такие как OpenAI и Google DeepMind, вступили в добровольные соглашения о внешнем тестировании, сооснователь Mistral Артур Менш настаивает на том, что законодательство необходимо, чтобы предотвратить саморегулирование этих компаний.

Мустафа Сулейман, сооснователь DeepMind и теперь генеральный директор Inflection, признает, что добровольные соглашения являются позитивным первым шагом. Однако он подчеркивает необходимость баланса между регулированием и правами компаний на интеллектуальную собственность.

После саммита по безопасности ИИ в Великобритании стартапы в отрасли ИИ ищут регуляторной ясности и выступают за отраслевой подход к регулированию ИИ. Хотя саммит в основном касался долгосрочных рисков, связанных с передовыми системами ИИ, стартапы подчеркнули необходимость учета немедленных проблем. Дебаты о том, как регулировать самые мощные системы ИИ, продолжаются: некоторые выступают за строгие ограничения вычислительных мощностей, в то время как другие выступают за независимый надзор за крупными технологическими компаниями. Несмотря на оставшиеся вопросы, продолжающийся разговор сигнализирует о позитивном шаге в направлении формирования будущего регулирования ИИ. По мере развития отрасли ИИ поиск правильного баланса между инновациями и регулированием будет иметь решающее значение для ее роста и ответственного развития.