Чат-боты и рекомендательные алгоритмы могут приводить пользователей на фейковые интернет-магазины, созданные для кражи данных и денег.
По данным исследователей, такие сайты чаще всего маскируются под магазины одежды и мебели, копируют символику брендов, изображения и описания товаров, а покупателей привлекают скидками до 80%. В отдельных случаях ИИ воспринимал такие ресурсы как надежные и рекомендовал их в ответ на запросы пользователей. ⚠️
Схема строится на «отравлении данных»: мошенники заранее создают в сети фальшивые отзывы, сообщения на форумах и другой контент, чтобы повлиять на индексацию и ранжирование источников. В результате алгоритм может принять поддельный сайт за легитимный.
Это важно, потому что пользователи все чаще воспринимают ответы ИИ как готовую рекомендацию, а не как гипотезу для проверки.
Новости криптовалют 📲