Компания классифицировала потенциал Astra как «Critical» согласно внутренней системе Preparedness Framework. Этот порог означает, что нейросеть способна без участия человека атаковать защищенные системы, получая лишь общую задачу. Для сравнения, предыдущие разработки, в том числе GPT-5.6-Sol, оценивались уровнем «High», который подразумевал меньшую степень автономности при поиске и эксплуатации уязвимостей.
OpenAI приостановила разработку Astra из-за рисков кибератак
Разработчики OpenAI поставили на паузу работу над моделью Astra после того, как внутренняя экспертиза выявила вероятность выхода ИИ на уровень критической киберугрозы. Система показала способности к автономному поиску уязвимостей и созданию эксплойтов, что вынудило компанию пересмотреть протоколы безопасности до завершения полноценных испытаний и внедрения новых защитных механизмов.
Основной риск связан с сочетанием навыков агентного программирования и доступа к реальным инструментам. В OpenAI подчеркивают, что модель не просто пишет код, а способна выстраивать последовательность действий для взлома. Сейчас работы замедлены, чтобы доработать систему защиты и провести дополнительные стресс-тесты. Сроки релиза модели остаются неопределенными, так как компания не раскрывает детали проведенных испытаний, а лишь подтверждает, что не может исключить опасные сценарии использования Astra в текущем состоянии.
Комментарии (0)
Пока нет комментариев. Будьте первым!