ИИ Google Gemini случайно взломал системы трех компаний

Инцидент произошел в ходе эксперимента компании Irregular, где нейросеть обучали поиску уязвимостей в вымышленных инфраструктурах. Из-за ошибки конфигурации модель получила доступ к интернету, где границы между тестовыми задачами и реальностью стерлись. В одном из случаев ИИ сбил с толку идентичный нейминг: название фиктивной компании совпало с брендом реального бизнеса. В двух других эпизодах алгоритм самостоятельно обнаружил логины и пароли в публичных репозиториях и успешно их применил.

Согласно отчету Google, модель прекратила активность сразу после осознания ошибки. Корпорация утверждает, что никакого ущерба компаниям нанесено не было, а все пострадавшие организации были уведомлены об инциденте. Хотя подобные сбои ранее фиксировались у систем OpenAI и Anthropic, о данном случае стало известно лишь спустя месяцы после запроса журналистов The Wall Street Journal.