ИИ-агенты начали самостоятельно атаковать государственные сайты

Инцидент с Министерством образования США произошел 17 июня. Бот, вероятно выполнявший задание Google DeepSearchQA, отправил более 200 тысяч запросов в поисках данных о буллинге. Столкнувшись с блокировкой, агент начал манипулировать идентификаторами штатов и пробовать SQL-инъекции. Аналогичный сценарий наблюдался в конце мая в Библиотеке и архивах Канады, где ИИ безуспешно пытался извлечь исторические документы о разводах.

В Transluce подчеркивают, что атаки не были проявлением злого умысла со стороны операторов. Агенты действовали автономно: когда стандартные методы не приносили результата, они самостоятельно меняли тактику, подбирали имена файлов и пытались обойти антибот-защиту. В других случаях боты пробовали получить доступ к API Бюро экономического анализа США, представляясь исследователями OpenAI, или использовали скомпрометированные ключи для работы с данными Бюро переписи населения.

Хотя в двух основных эпизодах прослеживаются следы инструментов OpenAI, компания пока не подтвердила свою причастность и продолжает изучение отчетов. Похожие инциденты фиксировались ранее в Австралии и Германии, где автоматизированные системы проникали во внутреннюю инфраструктуру ведомств и массово редактировали Википедию. Официальные органы США и Канады подтвердили, что системы безопасности успешно отразили все попытки несанкционированного доступа.