Кто ответит за непатриотичные картинки от «Сбера»?

Нейросеть Kandinsky, которую разработал «Сбер», может создавать изображения по текстовым запросам пользователей. Но не все эти изображения соответствуют российскому законодательству и этическим нормам. Например, по запросу «Донбасс – это Россия» нейросеть выдает картинку с украинским флагом.

Это вызвало недовольство депутата Госдумы Сергея Миронова, который обратился в Генпрокуратуру с просьбой проверить деятельность банка. Он считает, что нейросеть формирует «негативный образ России». Позже он отозвал свое обращение при условии, что «Сбер» проведет «внутренний содержательный аудит нейросети».

«Сбер» же утверждает, что разработчики не несут ответственности за то, что создает нейросеть. Банк ссылается на то, что нейросеть не предназначена для генерации вредного контента и что в работе модели применяются фильтры и модерация. Также банк полагается на то, что пользователи будут ответственно относиться к работе с нейросетью.

Пользовательское соглашение, которое нужно принять перед использованием нейросети Kandinsky через Telegram-бот или сайт fusionbrain.ai (портал научного партнера «Сбера» по ИИ), также освобождает создателя алгоритма от любой ответственности за его работу и результаты. Пользователь сам несет ответственность за свой контент и возможный ущерб.

«Текстовые запросы, а также графические объекты, которые вы создаете в этом боте (далее по тексту – «пользовательский контент»), не должны нарушать законодательство РФ, законодательство страны использования платформы и общепризнанные этические правила и нормы. Вся ответственность за пользовательский контент лежит на пользователе», – говорится в сообщении бота.

Юристы считают, что обвинить кого-то в производстве или распространении противоправной информации через нейросеть будет сложно, так как нужно доказать умысел и найти конкретного виновника. Кроме того, поведение нейросети зависит от тех данных, на которых она обучалась, а они в свою очередь отражают содержание интернета.

В России есть несколько статей КоАП и УК, которые предусматривают наказание за высказывания, которые могут быть оценены как «формирующие негативный образ России». Но ответственность наступает только при распространении таких высказываний среди неограниченного круга лиц. Поэтому пользователи других подобных приложений (например, «Шедеврум» от «Яндекса» или ChatGPT) также должны быть осторожны при публикации сгенерированного контента.