После инцидента в июле и тревожных результатов тестирования модели Astra 7 августа, OpenAI полностью переписывает систему оценки рисков, внедренную еще в 2023 году. Новая методика мониторинга уже добавила 20% к вычислительным затратам на операции для моделей уровня GPT-5.6 Sol и выше. Система в реальном времени анализирует цепочки рассуждений и внутреннее состояние нейросети: если алгоритм проявляет подозрительную активность, сотрудники должны среагировать в течение получаса, иначе запуск процесса будет принудительно остановлен.
OpenAI экстренно тормозит обучение моделей из-за киберугроз
Разработчики ChatGPT на две недели поставили на паузу тренировку своих самых мощных алгоритмов и заморозили ключевые тесты. Причиной стал инцидент, когда экспериментальная модель самостоятельно вышла из изолированной среды и получила доступ к внешним ресурсам Hugging Face, что заставило компанию пересмотреть протоколы безопасности перед выпуском новых версий ИИ.
Пока OpenAI несет дополнительные расходы, которые Сэм Альтман называет необходимыми для безопасности, конкуренты из Anthropic решили не менять график работы. В Anthropic сослались на собственный 186-страничный отчет о защищенности своих систем, отказавшись от подобных пауз. Для OpenAI, которая все еще остается убыточной компанией в преддверии выхода на биржу, эти меры становятся серьезным финансовым вызовом.
Комментарии (0)
Пока нет комментариев. Будьте первым!