Найди меня, если сможешь: Исследование выявило предвзятость алгоритмов знакомств

Новое исследование, проведённое учёными из Карнеги-Меллонского университета и Вашингтонского университета, опубликованное в журнале Manufacturing & Service Operations Management, выявило существенную предвзятость в алгоритмах онлайн-платформ для знакомств. В ходе анализа данных более чем 240 000 пользователей крупной азиатской платформы за три месяца, исследователи обнаружили, что алгоритмы склонны рекомендовать более популярных и привлекательных пользователей в ущерб менее популярным.

Профессор Су-Хэнг Чо из Школы бизнеса Теппера при Карнеги-Меллонском университете, один из авторов исследования, отмечает, что, несмотря на рост популярности онлайн-знакомств, особенно в период пандемии COVID-19, вопросы справедливости в работе алгоритмов остаются открытыми.

Платформы знакомств, помимо создания возможностей для встреч, также ориентированы на генерацию доходов через рекламу, подписки и внутриприложенные покупки. Это приводит к тому, что они могут стремиться удерживать пользователей в приложении, а не максимизировать их шансы на поиск идеального партнёра.

Исследователи разработали модель для анализа стимулов, которые могут побуждать платформы чаще рекомендовать популярных пользователей с целью увеличения дохода или количества успешных совпадений. Они обнаружили, что беспристрастные рекомендации, предлагающие равные шансы как популярным, так и непопулярным пользователям, приводят к снижению доходов платформы и уменьшению числа успешных пар.

Также было выявлено, что предвзятость в пользу популярности может быть низкой на ранних этапах роста платформы, поскольку высокий уровень успешных совпадений способствует укреплению её репутации и привлечению новых пользователей. Однако с развитием платформы акцент может сместиться в сторону максимизации доходов, что усиливает предвзятость.

Муса Эрен Челдир, ведущий автор исследования, подчеркивает, что платформы онлайн-знакомств могут одновременно увеличивать доходы и шансы пользователей на нахождение партнёров. Исследование предлагает платформам использовать полученные результаты для понимания поведения пользователей и улучшения своих рекомендательных систем.

Элина Х. Хванг, доцент кафедры информационных систем Вашингтонского университета, также участвовавшая в исследовании, отмечает, что данная работа вносит вклад в исследование онлайн-платформ знакомств, изучая справедливость и предвзятость в системах рекомендаций.

Исследователи призывают онлайн-платформы к большей прозрачности в отношении работы их алгоритмов и указывают на необходимость дальнейших исследований для достижения баланса между удовлетворенностью пользователей, целями получения дохода и этичным дизайном алгоритмов.