Инновационная система ИИ демонстрирует перспективы в верификации программного обеспечения без ошибок
- Baldur — система искусственного интеллекта, разработанная совместно с Google, автоматизирует построение математических доказательств для снижения количества ошибок в программном обеспечении и повышения точности.
- Благодаря дообучению больших языковых моделей Baldur и Thor достигают показателя успешности генерации доказательств в 65,7%.
- Этот прорыв обещает оптимизировать процесс верификации программного обеспечения и повысить его надёжность, ознаменовав значительный шаг вперёд в разработке безошибочного ПО.
Традиционно верификация программного кода была трудоёмким процессом, включающим ручной обзор кода или запуск кода для выявления аномалий. Хотя эти методы ценны, они подвержены человеческим ошибкам и непрактичны для сложных систем.
Представляем Baldur — тщательно разработанное решение, использующее возможности больших языковых моделей (LLM) для автоматической генерации математических доказательств. Путём дообучения LLM на обширном массиве математического контента и языке Isabelle/HOL, применяемом для построения доказательств, Baldur делает огромный шаг к автоматизации того, что ранее было трудоёмким процессом. В результате получается система, работающая в тандеме с доказателями теорем для проверки корректности кода, что значительно снижает долю ошибок.
В основе успеха Baldur лежит партнёрство с Thor — инструментом, отвечающим за автоматическую генерацию доказательств. Thor демонстрирует 57%-ную успешность, но в сочетании с Baldur они достигают впечатляющей точности в 65,7% при генерации доказательств. Этот динамичный дуэт, вдохновлённый скандинавской мифологией, демонстрирует потенциал ИИ-ориентированной верификации программного обеспечения.
Проблемы, связанные с LLM
Одной из основных проблем при работе с большими языковыми моделями, такими как ChatGPT, является их периодическая некорректность. Вместо того чтобы подавать сигналы тревоги, они могут «молча ошибаться», выдавая неверные результаты, которые выглядят правдоподобно. Решение этой проблемы критически важно для обеспечения надежности доказательств, сгенерированных ИИ.
Создание Baldur было нелёгкой задачей, занявшей несколько месяцев и потребовавшей совместных усилий с Google. Эмили Фёрст, ведущий автор проекта, использовала Minerva — большую языковую модель (LLM), обученную на огромном корпусе текстов на естественном языке. Затем Minerva была дообучена на значительном наборе данных объёмом 118 ГБ, содержащем математические и научные статьи, а также веб-контент с математическими выражениями. Однако ключевым отличием стало дальнейшее дообучение языка Isabelle/HOL, что подготовило основу для генерации развёрнутых математических доказательств.
Подход Baldur к исправлению ошибок гениален. Когда формальный верификатор обнаруживает ошибку в сгенерированном доказательстве, он передает эту информацию обратно в Baldur, позволяя системе учиться на своих ошибках. Этот итеративный процесс повышает точность и надежность доказательств, делая его высокоэффективным инструментом для верификации кода.
Многообещающее будущее для программного обеспечения без ошибок
Несмотря на наличие возможностей для улучшения, Baldur представляет собой многообещающий путь для формальной верификации программного обеспечения. Инженеры по-прежнему отвечают за разработку ПО, но теперь у них есть мощный союзник в лице Baldur, способного автоматизировать создание математических доказательств.
Юрий Брун, профессор Колледжа информационных и компьютерных наук при Университете Массачусетса в Амхерсте, отметил: «Наша работа направлена на автоматизацию написания этих доказательств. Baldur использует большие языковые модели для автоматической генерации доказательства математической теоремы, которое затем может быть проверено доказывателем теорем».
Успех Baldur обусловлен самоотверженной командой, которая неустанно работала над этим проектом. Наряду с Эмили Фёрст, Маркусом Рабе (который в то время работал в Google) и Талией Рингер, доцентом Университета Иллинойса в Урбана-Шампейн, внесшими значительный вклад, проект поддерживали Агентство перспективных исследовательских проектов Министерства обороны США (DARPA) и Национальный научный фонд (NSF).
Инновационные решения, такие как Baldur, дают надежду в условиях растущей сложности программных систем в технологической отрасли. По мере развития и совершенствования возможностей искусственного интеллекта потенциал Baldur для достижения новых высот в обеспечении корректности программного обеспечения остаётся многообещающим.
Самые умные крипто-энтузиасты уже читают нашу рассылку. Хотите присоединиться? Присоединяйтесь.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Бренда Канана
Бренда имеет более 4 лет опыта, специализируясь на криптовалютах, искусственном интеллекте и новых технологиях. Она работала в Zycrypto, Blockchain Reporter, The Coin Republic, а теперь делает Cryptopolitan своим домом. Степень по социологии, полученная в Техническом университете Момбасы, помогает ей оставаться в курсе настроений своих читателей.
