Новая стратегия киберпреступников
Специалисты в области цифровой безопасности зафиксировали тревожную тенденцию: искусственный интеллект стал инструментом в руках мошенников. Согласно отчету сервиса Ask Silver, злоумышленники начали активно использовать чат-бота ChatGPT для продвижения фальшивых интернет-магазинов, предназначенных для хищения платежной информации.
Механика обмана: использование брендов-призраков
Тактика преступников строится на эксплуатации узнаваемых торговых марок, которые недавно прекратили свою работу, были поглощены или сменили владельцев. Поскольку спрос на продукцию таких брендов у аудитории сохраняется, а официальные сайты нередко перестают функционировать, преступники оперативно создают визуальные копии ресурсов.
Ярким примером стала ситуация с британским ритейлером обуви Russell & Bromley. После того как бренд перешел под управление Next и закрыл собственный сайт, хакеры запустили клон магазина. В результате ИИ-помощник начал предлагать ссылку на поддельный ресурс пользователям, которые интересовались товарами этой марки.
Методы воздействия на ИИ
Эксперты предполагают, что злоумышленники применяют стратегию «отравления данных». Суть метода заключается в массовой публикации в сети контента, который искусственно завышает авторитет мошеннических страниц в глазах алгоритмов. В итоге языковая модель ошибочно классифицирует фишинговый сайт как достоверный источник.
«Системы генеративного ИИ превращаются в поле битвы между разработчиками защитных систем и киберпреступниками», — отмечают специалисты по информационной безопасности.
Реакция и прогнозы на будущее
После огласки инцидента компания OpenAI обновила алгоритмы, и теперь при запросах, связанных с упомянутым брендом, ChatGPT выводит предупреждение о рисках и советует пользователям проявлять бдительность при посещении подозрительных сайтов с аномально низкими ценами.
Однако угроза сохраняется, особенно в контексте развития агентных ИИ-систем, способных совершать покупки самостоятельно. Эксперты предупреждают, что по мере интеграции ИИ в финансовые транзакции, риски манипуляций со стороны злоумышленников будут только расти.