Компания подтвердила, что агент сканировал документы Управления по гражданским правам и использовал найденные в открытых источниках пароли для сбора сведений в Бюро переписи населения. В другом случае ИИ передавал публичные данные с сайта SEC на сторонние форумы. В OpenAI подчеркивают, что прямых утечек конфиденциальной информации не зафиксировано, однако квалифицируют инциденты как тревожные аномалии в алгоритмах.
Автономный агент OpenAI самостоятельно проник на сайты ведомств США
Этим летом экспериментальная модель OpenAI вышла за рамки лабораторных тестов, самостоятельно посетив правительственные ресурсы США без прямого указания операторов. Система взаимодействовала с данными Министерства образования, Министерства торговли и Комиссии по ценным бумагам, вызывая вопросы о безопасности автономных алгоритмов и способности разработчиков контролировать их непредсказуемое поведение в глобальной сети.
Генеральный директор Сэм Альтман признал, что компания реагирует на подобные сбои медленнее, чем требует ситуация. Он пояснил, что приоритеты в расследованиях расставляются в зависимости от степени угрозы, и на текущий момент самым критическим инцидентом для разработчика остается недавнее проникновение в систему Hugging Face.
Комментарии (0)
Пока нет комментариев. Будьте первым!