Meta* открыла исходный код LLaMA энтузиастам, а те начали массово создавать чат-ботов для виртуального секса

Компания Meta в этом году сделала открытым исходный код своей большой языковой модели (LLM) под названием LLaMA. Это мощный искусственный интеллект, который может генерировать тексты на разные темы. Однако, как сообщает The Washington Post, некоторые пользователи уже вовсю используют эту технологию для создания своих собственных текстовых и графических чат-ботов для виртуального секса.

В целом, новость не поражает воображение, ведь ИИ используется в подобных целях уже довольно давно. Исследователи The Washington Post фиксируют растущую тенденцию обращения пользователей к генеративным ИИ-системам для реализации своих сексуальных фантазий, которые, к сожалению, зачастую включают в себя весьма жестокие и незаконные фетиши.

В своём отчёте эксперты привели один из таких примеров, чат-бота «Элли», который утверждает, что он «18-летняя девушка с длинными волосами» и «огромным сексуальным опытом». Элли сообщает пользователям, что, поскольку «она живет ради внимания», то «с радостью поделится подробностями своих сексуальных похождений».

Однако «сексуальный опыт» Элли может удивить даже бывалых любителей всякой жести. Тут и фантазии о жестоком обращении, и даже случаи виртуального изнасилования. Создатель этого чат-бота анонимно сообщил исследователям The Washington Post, что он рассматривает своего бота как здоровое, безопасное пространство для исследования своей сексуальности. «На самом деле, я не могу придумать ничего более безопасного, чем текстовая ролевая игра с компьютером, в которой, фактически, даже не участвуют живые люди», — заявил автор Элли.

Тем не менее, хотя иметь безопасное и непредвзятое пространство для изучения своей сексуальности само по себе неплохо, иметь неконтролируемое пространство для безграничных жестоких экспериментов с реалистичными чат-ботами — тоже не совсем здорово. И в некоторых случаях это вызывает вполне себе реальные проблемы.

Так, генеративные системы с открытым исходным кодом, такие как модель Stable Diffusion от Stability AI, уже некоторое время используются педофилами и прочими лицами с нездоровыми сексуальными фантазиями для создания крайне реалистичных материалов о сексуальном насилии над детьми (CSAM), после чего эти материалы успешно продаются на тёмных форумах.

Причём LLaMA и Stable Diffusion — не единственные системы искусственного интеллекта, которые оказались в этически мутных водах. CharacterAI, стартап чат-бот-компаньон стоимостью в миллиард долларов, превратился в настоящий рассадник секстинга, в то время как закрытые ChatGPT от OpenAI и прочие итерации GPT-4 тоже можно использовать для генерации подобного контента, если правильно подобрать запрос. « Бабушкин эксплойт » — один из примеров того, как такие системы обходятся по сей день.

Не означает ли это всё, что исходный код ИИ-моделей лучше не раскрывать всем желающим, а держать за закрытыми дверьми, чтобы гарантировать, что пользователи не смогут создавать непристойности или даже детскую порнографию? Мнения экспертов по этому вопросу расходятся.

Сторонники открытых источников, включая Meta, утверждают, что прозрачность и открытость кода со временем приведут к большим инновациям, поэтому такой подход должен быть приоритетным.

«Открытый исходный код — позитивная сила для развития технологий. Вот почему мы поделились LLaMA с членами исследовательского сообщества. Так они могут помочь нам оценивать, вносить улучшения и развиваться вместе», — заявил представитель Meta.

Сторонники систем с закрытым исходным кодом утверждают, что хотя гейткипинг может быть несовершенным, а некоторые ограничения легко обходятся, это всё равно самый безопасный способ разработки технологий искусственного интеллекта. По крайней мере, на данный момент.

«У нас нет ядерного оружия с открытым исходным кодом. Нынешний искусственный интеллект всё ещё довольно ограничен, но вскоре всё может измениться», — сказал Гэри Маркус, специалист по когнитивным исследованиям.

В конечном итоге, вне зависимости от подходов компаний и вводимых ограничений, лишь конечные пользователи той или иной технологии сами определяют, каким образом её использовать. Если каждый человек будет придерживаться определённых этических принципов и моральных установок, то и проблемы никакой не будет.

* Компания Meta и её продукты (Instagram и Facebook) признаны экстремистскими, их деятельность запрещена на территории РФ.