Поворот с дублером: как детей и родителей обманывают дипфейками
В начале сентября специалисты по кибербезопасности предупредили о новой схеме обмана: аферисты собирают опубликованные в соцсетях аудио- и видеоматериалы детей, создают на их основе дипфейки и звонят родителям якобы от их лица с просьбами срочно перевести деньги. Эксперты отмечают, что искусственный интеллект значительно удешевил работу мошенников. Подробности — в материале «Известий».
Очищенный фишинг
Родители сами по себе уязвимая для преступников мишень, а в суете начала учебного года часто не глядя доверяются любым сообщениям с темами «группа класса», «электронное расписание», «новый электронный дневник», рассказал «Известиям» руководитель группы мониторинга и реагирования SOC UserGate Factor Иван Костыря.
— Современные злоумышленники используют ИИ для фишинга, чтобы убрать частые маркеры вроде ошибок и некорректной верстки, для генерации вредоносного кода и скриптов, автоматизации рутины атакующего, — говорит Костыря. — Появляются специальные ассистенты под атаки, аналоги GPT. Фишинг становится «чистым» — опечаток меньше, верстка более качественна, а стратегии обмана всё более отточенные. ИИ здесь работает как усилитель — он не создает принципиально новые типы атак, а делает старые схемы массовыми, дешевыми и максимально правдоподобными.
Фокус на школе
Эксперт указывает, что с помощью ИИ генерируются грамматически безупречные письма «от учителя», «от родительского комитета», «от администрации школы» на любом языке и в нужном тоне. Имитируются реальные рассылки: «обновите данные в электронном дневнике», «оплатите питание», «заполните анкету для нового учебного года». Если злоумышленник получил анкетные данные ребенка или родителя из утечек, в письме стоит обращение по имени и упоминается конкретный класс. Цель — выманить логин и пароль от дневника, платежные данные или заставить перейти на фишинговую страницу оплаты «школьных сборов».
Дипфейковый ад
Атаки с имитацией голоса и образа человека за несколько последних лет получили широкое распространение. Среди них вымогательство средств у родителей с помощью клонирования голоса ребенка в коротком аудиосообщении. По словам Костыри, распространена схема со звонком родителям: «Мама, у меня проблемы, срочно нужны деньги». Также злоумышленники используют дипфейки с учениками для кибербуллинга или вымогательства, в том числе с использованием порнографического контента. По данным эксперта, неоднократно фиксировались поддельные голосовые сообщения от «учителя» для получения информации или денег.
— Злоумышленники не будут гнаться за большой длительностью или высоким качеством подделки. Как правило, расчет на эмоции и давление на жертву, — поясняет Костыря.
Мессенджер как подворотня
Широкое распространение получает присутствие ИИ-ботов в чатах классов и параллелей, алгоритм маскируется под одноклассника или родителя, собирает информацию, ссылки, а потом запускает вредоносные ссылки или фишинг. Чат-боты для детей могут маскироваться под сервисы готовых домашних заданий, решебников, нейросетей для учебы. На деле эти программы собирают персональные данные или ведут ребенка к вредоносному контенту.
— В мессенджерах и соцсетях школьники уязвимы вдвойне: они и цели, и «доноры» материала, из которого делают фейки, — говорит эксперт.
Эксперт акцентировал внимание на опасности так называемых нейросетей для решения домашки. Истинная задача этих приложений и ботов — фишинг или установка стилеров (ПО для кражи паролей). Генерируемые ИИ вредоносные скрипты под видом программ для учебы собирают деньги для мошенников.
Раздвоение личностей
— Если раньше с помощью ИИ подделывали видео со знаменитостями, то сегодня вполне реалистичен сценарий имитации лица и голоса обычных пользователей, в том числе детей. Качество подделок нередко бывает крайне высоким, — говорит руководитель направления исследования данных в «Лаборатории Касперского» Дмитрий Аникин.
При этом отличить дипфейк от оригинала сложно даже при внимательном просмотре — злоумышленники уже научились маскировать артефакты за счет низкого разрешения, фонового шума или коротких роликов.
— Тем не менее признаки обмана всё же иногда можно выделить: у видео это неестественная мимика, сбои в артикуляции, странные отражения в глазах, а у аудио — нестабильность звучания и неестественный тембр, посторонний шум или попытка заменить живой разговор заранее записанным аудиосообщением, — объясняет Аникин.
Не попасть в беду
Эксперты рекомендуют пользоваться проверенными методами проверки. Любые срочные просьбы стоит сверять по альтернативному, независимому каналу (звонок учителю напрямую, официальный сайт школы, а не ссылка из сообщения). По словам Ивана Костыри, не следует переходить по ссылкам из непроверенных чатов, даже если они похожи на официальный сайт банка или школы. Не лишним будет договориться с ребенком о кодовом слове при любом тревожном звонке или голосовом сообщении. Еще одна рекомендация — ограничить публичность детских аккаунтов. Меньше публичного аудио, фото, видео — меньше материала для клонирования голоса и дипфейков. К «идеальному» тексту следует относиться с долей скепсиса — безупречная грамматика и официальный тон больше не признак подлинности, а, скорее, наоборот.
— Недоверие и сохранение спокойствия — главные способы не попасться на уловки мошенников, — резюмирует Костыря.
Дмитрий Аникин советует приучать детей не делиться лишней информацией о себе в соцсетях.
— Эффективной защитой станут надежные программные решения: они блокируют доступ к мошенническим и фишинговым сайтам, сигнализируют о подозрительных звонках и препятствуют установке вредоносного ПО, — заключает он.
Как жить в мире клонов
Тотальная подделка видео и аудио в Сети ведет к фундаментальному кризису доверия, считает Иван Костыря. Проверка «по картинке» перестает работать. В перспективе это может привести к тому, что люди перестанут доверять любым цифровым свидетельствам, что ударит по многим сферам — от судопроизводства до личных отношений, говорит собеседник «Известий». Эксперт напомнил о случаях, когда с помощью дипфейков совершались преступления. В 2019 году директор британской энергетической компании перевел $243 тыс., поверив голосу руководителя. В Бийске женщина перевела 25 тыс. рублей, поверив поддельному голосу знакомого. В Минске мошенники инсценировали похищение 15-летней дочери, требуя выкуп в криптовалюте. И это только начало, считает эксперт.
— По мере удешевления технологий число таких атак будет расти, а защита потребует не только технических решений, но и нового уровня цифровой грамотности, — констатирует Костыря.
