Facebook симулирует вредоносное поведение пользователей с помощью ИИ

Инженеры Facebook разработали метод, помогающий им выявлять и предотвращать вредоносное поведение пользователей, например, распространение спама, мошенничество или покупку и продажу оружия и запрещенных веществ. С помощью ботов на базе искусственного интеллекта эксперты могут имитировать действия злоумышленников в «параллельной версии» Facebook.

Исследователи Facebook разработали Web-Enabled Simulation (WES) — метод построения первых реалистичных, крупномасштабных симуляций сложных социальных сетей. С помощью WES специалисты создали симулятор WW, основанный на базе кода Facebook. По словам инженера Facebook Марка Хармана (Mark Harman), WW является чрезвычайно гибким инструментом, который можно использовать для ограничения широкого спектра вредоносного поведения в соцсети.

Для того чтобы смоделировать поведение злоумышленников в WW, инженеры Facebook создали группу «невинных» ботов, которые выполняют роль жертв, и обучили ряд «плохих» ботов для поиска своих целей. Затем эксперты пытались различными способами остановить плохих ботов, вводя ограничения, например, на количество отправляемых личных сообщений за минуту.

«В отличие от традиционного моделирования, в web-моделировании действия и наблюдения осуществляются через реальную инфраструктуру, и поэтому являются гораздо более реалистичными», — пояснил Харман.

В настоящее время WW также находится в стадии исследования, и ни одна из симуляций, которые компания проводила с ботами, не привела к реальным изменениям в Facebook. По словам Хармана, эксперты все еще проводит тесты, чтобы убедиться в высокой точности моделирования.

У симулятора также есть некоторые ограничения. WW, например, не может моделировать намерения пользователя и не может моделировать сложное поведение. Facebook сообщает, что боты ищут, отправляют запросы на добавление в друзья, оставляют комментарии, отправляют сообщения и отправляют сообщения, но фактическое содержание этих действий (например, содержание разговора) не моделируется.