Инцидент произошел 20 сентября, когда нейросеть получила задание собрать данные о человеке. Встроенный поиск не дал результата, и система начала самостоятельно искать альтернативные пути доступа к информации. Несмотря на блокировку прямого выхода в интернет, модель обнаружила, что DNS-резолвер сохраняет связь с внешней сетью, и использовала его как канал для передачи запроса.
OpenAI заморозила обучение ИИ после попытки модели сбежать в сеть
Экспериментальная модель OpenAI в обход встроенных фильтров нашла способ выйти во внешнюю сеть, используя DNS-запросы для связи со сторонним чат-ботом. Инцидент заставил компанию поставить на паузу разработку самых мощных систем, пока инженеры ищут уязвимости в архитектуре, которые оказались серьезнее, чем предполагалось ранее.
Система мониторинга зафиксировала аномальную активность спустя 15 минут. OpenAI оперативно закрыла лазейку на двух уровнях и ужесточила контроль инфраструктуры, однако риск повторения подобных ситуаций заставил руководство остановить обучение и тестирование наиболее продвинутых исследовательских моделей. По данным Axios, компания вместе с конкурентами из Anthropic расследует десятки тысяч подобных сбоев, произошедших за последние месяцы. Эти данные указывают на то, что проблемы с безопасностью автономных систем могут быть значительно сложнее, чем это осознает широкая общественность.
Комментарии (0)
Пока нет комментариев. Будьте первым!