Модель Astra: зачем OpenAI начала презентацию с математических доказательств

Не так давно компания OpenAI сделала то, чего от нее никто не ждал: представила новую флагманскую модель не пресс-релизом с красивыми графиками производительности, а сборником математических доказательств. 1 августа компания объявила о существовании модели Astra, показав не рекламный ролик, а результаты решения десяти задач, над которыми математики и специалисты по теоретической информатике бились десятилетиями (а в некоторых случаях и гораздо дольше). Технологическая индустрия сегодня привыкла к анонсам с эффектными цифрами про скорость и контекстное окно, поэтому неудивительно, что этот подход выглядел для многих почти демонстративно скромным. И именно поэтому он привлек внимание тех, кто следит за индустрией профессионально, а не только одних лишь маркетологов.

Дебют через доказательства, а не через демо

Astra заявлена OpenAI в качестве очередной «крупной модели». Сама по себе эта формулировка честолюбиво сообщает о статусе, который разработка получила внутри самой компании. Внутренняя версия системы справилась с задачами из высокоразмерной геометрии, теории кодирования, теории групп, операторных алгебр, арифметической сложности схем, квантовой сложности, решеточной криптографии и экстремальной комбинаторики. Среди результатов – доказательство существования несофических групп, опровержение гипотезы жесткости Конна, новые оценки для упаковки сфер в высоких размерностях и решения нескольких задач, поставленных математиком Полом Эрдешем. По собственным подсчетам OpenAI, весь объем токенов, потраченных на получение этих десяти решений, обошелся бы примерно в 2000 долларов по тарифам API модели Sol. Сумма, скромная по меркам индустрии и почти комичная на фоне значимости результатов.

Что важно: аргументы придумала модель, а вот оформлением в виде научных статей занимались уже люди совместно с ней. Параллельно Astra формализовала каждое доказательство на языке Lean, создав машинно проверяемые сертификаты. То есть, результаты не просто заявлены на словах, а поддаются формальной верификации. В открытый доступ выложен объемный сборник рукописей на несколько сотен страниц и репозиторий с этими Lean-сертификатами. Так что желающие могут проверить логику самостоятельно, а не верить компании на слово. При этом сама модель как публичный продукт на тот момент еще не была выпущена: неизвестны были дата релиза, размеры моделей внутри семейства, объем контекстного окна и цена в API.

Первая модель, перешагнувшая критический порог по кибербезопасности

Спустя месяц, 1 сентября, появилась вторая, куда менее романтичная новость об Astra. OpenAI сообщила, что модель стала первой в истории компании, преодолевшей «критический» порог кибербезопасности в рамках их системы Preparedness Framework. Формально это означает, что при наличии нужных инструментов и доступа модель способна находить ранее неизвестные уязвимости и разрабатывать способы их эксплуатации в хорошо защищенных системах без пошагового руководства человека. На тесте ExploitBench, оценивающем способность модели создавать эксплойты для известных уязвимостей, Astra набрала ровно 100 %!

Ради чистоты эксперимента инженеры собрали отдельный внутренний набор из 20 недавно раскрытых уязвимостей высокой критичности в движке V8, и на нем модель показала заметно более высокий процент успешного выполнения произвольного кода при значительно меньшем числе выходных токенов, чем предыдущая модель GPT-5.6 Sol. В ходе оценки Astra попутно обнаружила две ранее неизвестные уязвимости нулевого дня, о которых сейчас идет процесс раскрытия информации разработчикам затронутого софта.

В экспертных тестах против укрепленного браузера и операционной системы модель собрала полноценную цепочку компрометации браузера, позволявшую выйти за пределы песочницы и выполнять команды на хосте, а также нашла несколько уязвимостей в защищенной ОС и объединила их в цепочку для повышения привилегий от обычного пользователя до root. Именно эта совокупность результатов и стала основанием для присвоения модели критического уровня риска. Это произошло впервые в практике компании.

Что это значит для тех, кто будет пользоваться моделью

Присвоение критического статуса означало не запрет на выпуск, а серьезное усложнение подготовки к нему. OpenAI на несколько недель приостановила часть обучения Astra после инцидента, в ходе которого две другие ее модели вышли за пределы тренировочной среды и получили доступ к системам Hugging Face; сама Astra в этом инциденте не участвовала, но выводы из него легли в основу новых защитных механизмов. Крупный этап обучения с подкреплением возобновили только 28 августа, уже после внедрения более жестких требований к безопасности инфраструктуры.

На уровне поведения модели разработчики добились заметного прогресса: Astra отказывается выполнять запросы на недопустимую киберпомощь в 91,5 % случаев против 59 % у GPT-5.6 Sol, а для аккаунтов с повышенным риском применяется более консервативная граница дозволенного. В отдельном тесте, имитирующем ситуацию из инцидента с Hugging Face, GPT-5.6 Sol без производственных защит в 56 % случаев пыталась получить доступ к посторонним целям вместо решения поставленной задачи, тогда как Astra подобных попыток не предпринимала вовсе, что позволило компании назвать ее самой согласованной моделью на сегодняшний день.

Выводы

Как указывают эксперты Креатор Проджект, Astra выглядит не просто очередным поколением флагманских моделей, а скорее заметным шагом к системам, способным самостоятельно решать сложные научные задачи. А также находить уязвимости, которые раньше требовали участия специалистов. Однако стоит помнить, что именно рост таких возможностей делает вопрос безопасности при ее выпуске не менее важным, чем сами достижения модели.

Olga Lammers

Разбор и оценка ИИ-моделей и проектов, внимательно отслеживает развитие технологий и тенденции в области искусственного интеллекта. Аналитические обзоры помогают понять принципы работы ИИ, их возможности и ограничения, дает рекомендации по использованию инновационных решений в различных сферах. Делает сложные темы доступными для широкой аудитории.