ИИ от Samsung превращает виртуальные фантазии в реальность

Журналисты 404 Media обнаружили, что платформа для генерации изображений с помощью искусственного интеллекта Leonardo AI позволяет создавать сексуальные изображения известных личностей без их согласия.

Leonardo AI позволяет использовать различные ИИ-модели для генерации изображений определённого типа. Некоторые из моделей предназначены для воссоздания определённой эстетики или композиции, в то время как другие обучены воспроизводить сходство конкретных людей.

В прошлом, на аналогичных платформах, включая Civitai, возможность генерации неприемлемых сексуальных изображений вызвала бурную реакцию общественности и последующее внедрение новых мер предосторожности. Такие запросы, как «обнажённая женщина» или «обнажённая Тейлор Свифт», на Leonardo AI не дают результатов, благодаря системе фильтрации контента.

Однако, недавно в одном из Telegram-каналов, посвящённых созданию подобных изображений с помощью ИИ, были опубликованы изображения Билли Айлиш, сгенерированные именно на Leonardo AI. Пользователи нашли способ обойти систему защиты, немного искажая имена знаменитостей и используя описания, которые не содержат сексуальной терминологии, но приводят к созданию сексуально намекающих изображений.

Пользователям удалось сгенерировать непристойные изображения, обойдя фильтры

По данным венчурной фирмы Andreessen Horowitz, в мае 2023 года Leonardo AI привлекла более 15 миллионов уникальных посетителей в месяц, став 12-м по популярности сайтом в интернете, генерирующим контент с помощью искусственного интеллекта.

В сентябре 2023 года представитель Leonardo AI поделился своим видением проблемы защиты от неприемлемого контента. Он признал сложность задачи и подчеркнул важность внедрения защитных мер. Компания создала команду для модерации контента и внедрила автоматизированные средства защиты для борьбы с большим объёмом информации.

Условия предоставления услуг на платформе Leonardo AI запрещают создание контента, который вводит в заблуждение или дискредитирует людей, а также включает изображения, содержащие элементы сексуализированного насилия без согласия. На момент публикации ни Leonardo AI, ни Samsung не ответили на запросы комментариев относительно данной проблемы.

В январе также произошел скандальный инцидент с использованием ИИ для создания и распространения непристойных изображений популярной певицы Тейлор Свифт. Обнаженные изображения, сгенерированные ИИ, впервые появились в специализированном Telegram-канале, посвящённому созданию подобного контента с использованием образов известных женщин, а затем быстро распространились в соцсетях.