Схема получила огласку после инцидента с обувной маркой Russell & Bromley, перешедшей под контроль компании Next в начале 2026 года. Мошенники создали клон сайта бренда и с помощью манипуляций добились того, чтобы чат-бот рекомендовал его пользователям, запрашивающим информацию о продукции. Специалисты Ask Silver указывают на применение метода «отравления данных»: преступники наполняют сеть контентом, который ИИ ошибочно считывает как авторитетный источник.
ChatGPT стал инструментом для продвижения фишинговых магазинов
Злоумышленники нашли способ внедрять поддельные интернет-магазины в рекомендации чат-бота, используя доверчивость алгоритмов к «отравленным» данным. Жертвами схемы становятся покупатели, ищущие товары брендов, которые недавно сменили владельцев или прекратили работу, попадая на визуально правдоподобные копии сайтов для кражи реквизитов банковских карт.
OpenAI уже отреагировала на публикации, добавив предупреждения в ответы по запросам о Russell & Bromley. Однако масштаб угрозы значительно шире одного случая. Эксперты опасаются, что ситуация станет критической с внедрением агентных ИИ-систем, способных совершать платежи без участия человека. Если алгоритм будет доверять скомпрометированным ссылкам, риск прямых финансовых потерь возрастет многократно, превращая генеративные модели в новую арену для киберпреступлений.
Комментарии (0)
Пока нет комментариев. Будьте первым!