Прорыв в верификации программного обеспечения

Команда Google DeepMind под руководством Пушмита Кוׄли и Сварата Чаудхури объявила о создании AlphaProof Code — мультиагентной системы, объединяющей человеческую экспертизу и языковые модели для формальной верификации сложного программного кода. Объектом проверки стал протокол Signal, де-факто стандарт сквозного шифрования в мессенджерах Signal, WhatsApp и Google Messages.

Формальная верификация — математическое доказательство отсутствия ошибок в коде — считается высшим стандартом безопасности, но до недавнего времени оставалась крайне трудоемкой и доступной только для небольших критических систем. AlphaProof Code изменил эту парадигму: ИИ-агенты на базе модели Gemini Carbon выполнили объем работы, который потребовал бы годами команд специалистов.

Как работает агентный фреймворк

Процесс верификации разбит на этапы, аналогичные работе исследовательской группы. Люди совместно с ИИ формулируют математические спецификации безопасности, которые затем передаются агентам для построения доказательств в Lean — языке доказательств, автоматически проверяющем корректность каждого шага. Агенты сгенерировали более шести миллионов строк Lean-кода, а затем провели аудит собственных доказательств, выделив всего около 1% кодовой базы для повторной проверки экспертами. Остальное гарантировало автоматическое подтверждение Lean.

Значение для индустрии

Криптографические протоколы лежат в основе цифровой экономики: от онлайн-банкинга до защищенных государственных коммуникаций. До этого момента ни один широко развернутый протокол не проходил полную формальную верификацию реализации ни ручным, ни автоматизированным способом. Работа DeepMind демонстрирует, что ИИ способен поднимать планку доверия к критическому ПО до ранее недостижимых высот, снижая стоимость и сроки аудита на порядки.

Источник новости: Google DeepMind