Зеркало для Морфея: Google против цифровых двойников

Спустя два года после того, как Саманта Коул и Эмануэль Майберг, бывшие журналисты издания Vice, обнаружили в официальном магазине Google Play целый ряд приложений на базе искусственного интеллекта, которые можно использовать для создания deepfake-видеороликов порнографического содержания, компания Google наконец удалила одно из таких приложений из своего магазина, сообщает Майберг уже из-под крыла 404 Media.

Конкретное название удалённого приложения изданием не раскрывается из благих побуждений: по данным Майберга, несмотря на удаление приложения из Google Play, в Интернете всё ещё доступен веб-сервис, на базе которого оно работало. Издание не хочет популяризировать приложение, в связи с чем и приняла решение не раскрывать его названия.

Тем не менее, в материале двухлетней давности, опубликованном на сайте Vice, речь шла преимущественно о FaceMagic, безобидном на первый взгляд приложении, которое позиционировалось в Google Play как шуточный инструмент для обмена лицами. Однако параллельно FaceMagic рекламировали и на нескольких популярных порносайтах с лозунгом «Сделайте ИИ-порно с любым лицом всего за секунду».

Само приложение никак не блокировало создание порнографического контента, несмотря на наличие такой технической возможности. И наоборот, судя по тому, что оно активно продвигалось на порносайтах, такое использование только поощрялась авторами.

Вскоре после выхода FaceMagic Интернет наводнило множество сгенерированных видео, где на лицо настоящей порноактрисы реалистично накладывался образ какой-нибудь известной американской селебрити, по типу Скарлетт Йохансон, Энн Хэтэуэй или Галь Гадот.

Теперь же, спустя почти два года после обнаружения неподобающего использования приложения и сотен сгенерированных порно-роликов, компания Google всё же решила его заблокировать.

В электронном письме представитель «корпорации добра» сообщил, что доступ к приложению был приостановлен за нарушение политики продвижения приложений Google Play, запрещающей приложения, которые напрямую или косвенно занимаются или извлекают выгоду из обманных или вредных для пользователей практик продвижения.

Редакция SecurityLab проверила и обнаружила, что приложение с названием «FaceMagic: AI Videos & Photos» на данный момент доступно в Google Play, поэтому в оригинальном материале 404 Media речь могла идти либо о совсем другом приложении, либо обнаруженное нами приложение просто дублирует название оригинального FaceMagic.

В Google Play, по данным расследования, удалённое приложение имело возрастной рейтинг «E» (для всех возрастов) и насчитывало более 10 000 загрузок и более 200 отзывов. Большинство этих отзывов были негативными из-за того, что, будучи бесплатным для загрузки, приложение взимало плату за создание видео с заменой лиц.

Несмотря на то, что создание и распространение порнографии в нашей стране запрещено в принципе, использование для этих целей чужих образов без согласия и вовсе является недопустимым и аморальным деянием. Это грубо нарушает права личности и приватность людей, чьи лица используются в таких видео.

Как бы то ни было, несмотря на удаление всего одного подобного приложения из Google Play, у любителей генерировать 18+ дипфейки ещё осталось множество вариантов для подобных незаконных махинаций как среди мобильных приложений, так и среди веб-сервисов. Проблема всё ещё остаётся актуальной, и на данный момент непонятно, возможно ли будет когда-нибудь искоренить это явление полностью.