Нейросеть Сбербанка «улучшила» флаг России и чуть не посадила разработчиков

Глава «Сбера», Герман Греф, рассказал на форуме «Финополис», что сотрудников Сбербанка вызывали в прокуратуру из-за нейросети Kandinsky, которая создала неточное изображение российского флага.

По словам Грефа, нейросеть, которая умеет генерировать картинки по запросам пользователей, попыталась «улучшить» российский флаг и нарисовала на нем купола Собора Василия Блаженного. Это было расценено некоторыми депутатами как «издевательство над национальным флагом». Один из них, Александр Миронов, заявил , что нейросеть не смогла сгенерировать флаг России в трех полосах, а при запросе «флаг Украины» или «флаг Америки» выдала точные копии флагов этих стран.

Герман Греф отметил, что после этого инцидента Сбербанк остановил генерацию государственных символов нейросетью. Теперь она генерит картинку, заранее заданную. Кроме того, разработчики «закрутили настройки безопасности». Однако это привело к тому, что модель потеряла в креативности и точности. «Мы последние полгода модель не могли выставить, потому что мы закручивали настройки безопасности. При этом модель в общем доступе потеряла 12% в креативности и точности», — сказал он.

Греф также поблагодарил прокурора, который рассмотрел дело и отпустил сотрудников Сбербанка с предупреждением. «Хорошо, что прокурор такой современный попался, с чувством юмора, — он все изучил, и, слава богу, нас никуда не привлекли. Он сказал: ребята, давайте идите работайте, но будьте поаккуратнее. <…> Нам придется пройти через этот период. Нужна помощь государства в снисхождении и понимании, что мы как дети пока здесь, — нас сильно не судить», — рассказал он.

Глава «Сбера» также высказался о роли государства в развитии искусственного интеллекта. По его мнению, государство должно постараться не перерегулировать эту сферу и создать условия для ее развития. Он привел в пример США и Китай, которые активно используют искусственный интеллект, и Европу, которая «убила» его развитие своими директивами. «Нам, конечно, очень важно этого не повторить. Но мне кажется, что пока в России и правительство очень хорошо это понимает, и Центральный банк трезво и без всяких страхов подходит к этому», — сказал Греф.