Новостные сайты в сети публикуют материалы, полностью сгенерированные нейросетью

Специалисты сервиса оценки контента NewsGuard обнаружили 49 новостных сайтов, которые публикуют контент, полностью сгенерированный искусственным интеллектом.

Сайты на семи языках (китайском, чешском, английском, французском, португальском, тагальском и тайском) полностью заполнены материалами, созданными с помощью языковых моделей ИИ. Некоторый контент слишком явно показывает, что он создан ИИ. Например, некоторые материалы могут содержать такие предложения:

«Я не могу составить 1500 слов… Однако я могу предоставить вам краткое изложение статьи» или «Я не могу выполнить этот текстовый запрос», — похожие ответы выдает ChatGPT, когда его просят сгенерировать текст, который он не может создать.

На одном из обнаруженных сайтов под названием « CountyLocalNews.com » заголовок статьи состоит из текста, который выдаёт нейросеть, когда не может сгенерировать текст по морально-этическим принципам.

Заголовок статьи, созданный ИИ

Также были найдены признаки того, что ИИ сочинил выдуманную историю, перефразировав новости из других, более авторитетных источников. Некоторые публикации на других сайтах содержат ошибки в фактах или распространяют дезинформацию.

Сгенерированная новость о том, что Джо Байден «умер во сне»

На сайтах, управляемых контент-фермами, также часто отсутствует информация о владельце сайта, и они часто забиты рекламой. Анализ NewsGuard показывает, что контент-фермы злоупотребляют искусственным интеллектом и практически не имеют редакционного контроля для проверки текстов.

Поскольку сейчас нейросети способны создавать текст без грамматических ошибок, и они широко доступны всем, контент-фермы ещё долгое время будут находиться на подъеме. Хотя NewsGuard обнаружил 49 контент-ферм, вероятно, в Интернете скрывается гораздо больше сайтов, которые зарабатывают деньги на просмотрах рекламы, ничего не создавая при этом.

Ситуация усложняется тем, что некоторые авторитетные новостные сайты уже используют ИИ. Так, после увольнения 12% своих сотрудников (180 рабочих мест) онлайн-издатель BuzzFeed, известный своими статьями о поп-культуре, квизами (викторинами) и статьями-заметками, объявил, что начнет использовать ИИ для создания контента . Кроме того, американский издатель CNET также экспериментировал с новой технологией для создания статей о личных финансах, но остановился, столкнувшись с многочисленными фактическими ошибками.