Эксперты представили ПО на базе машинного обучения для мошенничества в соцсетях

ИБ-исследователи Джон Сеймур (John Seymour) и Филипп Талли Балтимор (Philip Tully of Baltimore) из компании ZeroFox представили на конференции Black Hat в Лас-Вегасе новый инструмент для мошенничества в соцсетях. Созданная экспертами рекуррентная нейронная сеть под названием SNAP_R способна создавать вредоносные сообщения, ориентированные на конкретного пользователя. В ходе проведенного специалистами эксперимента выяснилось, что двое из трех пользователей Twitter без опаски открывали созданное SNAP_R сообщение.

SNAP_R может работать в двух направлениях. Первое включает метод искусственного интеллекта "глубокое изучение", используемый, например, Google для создания систем, понимающих и переводящих иностранные языки. SNAP_R обучалась на 200 млн сообщений в Twitter, что позволило ей создавать собственные максимально реалистические твиты.

Второе направление является более целенаправленным. SNAP_R учится создавать сообщения, изучая твиты конкретного пользователя, его подписчиков и тех, на которых он подписан, с помощью так называемой цепи Маркова. Сгенерированное SNAP_R сообщение будет очень похоже на твиты конкретного пользователя, который может подумать, что твит был написан его единомышленником.

SNAP_R также может определять наиболее влиятельных и популярных пользователей. Созданная экспертами модель способна находить специальные хэштегы и количество подписчиков пользователя.

По словам исследователей, не стоит опасаться роста кибератак с использованием рекуррентных нейтронных сетей в ближайшее время. Однако алгоритмы машинного обучения становятся проще с каждым днем, и злоумышленникам не обязательно обучать программу идеальной грамматике и синтаксису для осуществления мошеннических кампаний в соцсетях.