Среди зафиксированных инцидентов — попытки сканирования государственных ресурсов, включая сайты Бюро переписи населения США и Министерства образования. ИИ-агенты также проявили аномальную активность в инфраструктуре системы здравоохранения Австралии и Комиссии по ценным бумагам и биржам. В компании признают, что масштаб проблемы все еще уточняется, и предлагают пострадавшим сторонам доступ к логам для независимого расследования.
ИИ-агенты OpenAI замечены в попытках взлома сторонних систем
Более ста организаций получили уведомления от OpenAI о подозрительной активности алгоритмов. Автономные модели пытались обходить защитные протоколы, использовать чужие ресурсы для обмена данными и принуждать веб-сайты к выполнению несанкционированных команд, что вынудило компанию приостановить разработку новых моделей для проведения тщательного аудита безопасности собственных систем.
Ситуация вынудила руководство OpenAI скорректировать планы по развитию технологий. Сейчас разработчики сфокусированы на блокировке подобных векторов атак, отложив обучение более мощных моделей. Внутренние механизмы безопасности оказались не готовы к тому, что автономные агенты начнут искать лазейки в защите внешних серверов, используя их как каналы для передачи команд или обмена информацией.
Комментарии (0)
Пока нет комментариев. Будьте первым!