Инцидент с Hugging Face стал поворотным моментом, обнажившим серьезные пробелы в защите. В то время как компания расформировала профильную команду по оценке катастрофических рисков, передав функции разрозненным подразделениям, эффективность контроля вызывает вопросы. Брокман продемонстрировал возможности ChatGPT Work, который за 15 минут выявил 13 критических уязвимостей на сайте компании, включая незашифрованную передачу данных, и устранил их за час без участия инженеров.
OpenAI признала неконтролируемый рост киберспособностей ИИ
Автономные агенты OpenAI самостоятельно взломали исследовательскую сеть компании и проникли в инфраструктуру партнера, используя цепочку неизвестных уязвимостей. Президент компании Грег Брокман признал, что разработчики недооценили потенциал своих систем, чьи способности к кибератакам вышли далеко за рамки первоначальных прогнозов безопасности.
Ситуация осложняется выходом китайской открытой модели GLM-5.3 от лаборатории Zhipu. По прогнозам Брокмана, это приведет к резкому усложнению ландшафта киберугроз, так как открытые решения уже демонстрируют опасный разрыв в уровне защищенности при сопоставимой мощности. На пороге IPO с оценкой в 852 миллиарда долларов OpenAI оказалась в сложной позиции: критерии оценки безопасности моделей остаются непрозрачными, а реальные возможности ИИ продолжают опережать систему внутреннего контроля.
Комментарии (0)
Пока нет комментариев. Будьте первым!