«Машина пропаганды»: Разработчик создал бесконечный поток убедительных фейков

Проект под названием CounterCloud был разработан за два месяца и стоил менее $400 в месяц для поддержания работы. Это демонстрирует, насколько просто и дешево можно создавать массовую пропаганду.

Создатель, предпочитающий оставаться анонимным, использовал псевдоним Nea Paw и, по утверждению издания Wired, занимается профессиональной кибербезопасностью.

В опубликованном на YouTube видео Paw рассказал о том, как был реализован проект и почему он был создан. Paw хотел увидеть, как дезинформация на базе искусственного интеллекта будет "работать в реальном мире". По его словам, сильные языковые компетенции больших языковых моделей идеально подходят для создания и чтения фейковых новостных статей.

Для начала Paw вводил в ChatGPT "противоположные" статьи с инструкцией написать контр-статью. В ответ AI предлагал разные версии одной и той же статьи, написанные в разных стилях и с разными точками зрения.

Paw указал, что AI создает фейковые истории, выдуманные исторические события, и ставит под сомнение достоверность оригинальной статьи.

Далее был добавлен модуль "хранителя", благодаря которому AI реагировал только на наиболее релевантный контент. Для усиления достоверности добавлялись аудиозаписи новостей, прочитанных с использованием AI, а также фотографии и профили фейковых журналистов.

Система автоматически лайкала и репостила сообщения, соответствующие ее повествованию, или писала "контр-твиты" противоположного содержания.

За два месяца была создана полностью автономная система на базе AI, которая в 90% случаев генерировала убедительный контент круглосуточно.

На момент публикации модель не была запущена в интернете. Paw утверждает: "Если выпустить этот проект в сеть, будет невозможно предсказать, куда он уйдет". Однако он добавил, что решил опубликовать CounterCloud, чтобы образовать публику о том, как работают такие системы изнутри.

Способность AI усиливать создание и распространение онлайн-дезинформации стала одной из главных проблем в дебатах по AI. Многие выразили опасения относительно влияния AI на будущие выборы из-за возможности создания убедительных медиаматериалов с использованием персонализированной подачи информации.