40 книг в год: писатель за год стал экспертом во всём благодаря ИИ

Публичные библиотеки столкнулись с новым вызовом — лавиной низкокачественных книг, созданных с помощью искусственного интеллекта. Эти книги проникают в цифровые каталоги, усложняя работу библиотекарей, которым приходится либо вручную отслеживать их появление, либо мириться с растущими тратами на сомнительный контент.

Большинство библиотек пользуются сервисами OverDrive и Hoopla для управления электронными книгами. В OverDrive библиотекари могут самостоятельно выбирать, какие из доступных изданий будут предложены читателям. В Hoopla такой возможности нет — платформа предоставляет доступ сразу ко всему каталогу, а библиотеки оплачивают каждую взятую пользователем книгу. Единственным инструментом ограничения является установка предельной стоимости книг, например, не выше $5 за одну выдачу. В результате в фонды попадают тысячи низкокачественных изданий, включая книги, созданные ИИ.

Среди примеров таких книг — Fatty Liver Diet Cookbook от несуществующего автора Магды Тэнги, профиль которой на Amazon оказался сгенерирован нейросетью. В каталоге также встречаются книги с искаженным текстом, странными иллюстрациями и подозрительными авторами, за которыми нет реальных людей.

Система Hoopla, позволяющая загружать практически любой контент, привела к появлению в библиотеках книг с дезинформацией и ошибочными данными. Это вызывает обеспокоенность библиотекарей, поскольку пользователи ожидают, что вся представленная в каталогах литература прошла хотя бы минимальную проверку. Более того, некоторые из книг могут содержать опасные советы для людей с определенными заболеваниями.

Кроме того, в каталогах регулярно всплывают книги, чьи авторы за короткий срок выпускают десятки изданий на самые разные темы — от готовки до биографий знаменитостей. Например, Билл Тарино выпустил около 40 книг за год, среди которых сборники цитат Илона Маска , руководства по психологии и учебники по домашней безопасности.

Примеры книг Билла Тарино, текст которых сгенерирован ИИ (Hoopla)

Одним из крупнейших поставщиков низкокачественного контента называют IRB Media — издателя сотен резюмированных версий популярных книг, вероятно, созданных ИИ. Работы издания засоряют каталоги библиотек, выдаваясь в результатах поиска чаще, чем оригиналы. Читатели могут случайно взять краткое изложение вместо полной версии книги, разочароваться и зря потратить библиотечный бюджет.

В 2022 году организации Library Futures и Library Freedom Project требовали от OverDrive и Hoopla удалить из каталогов книги, распространяющие дезинформацию, в том числе тексты праворадикальных издательств. В ответ Hoopla пообещала улучшить алгоритмы фильтрации, но насколько эффективны эти меры, остается под вопросом. Некоторые библиотекари сообщают, что поиск по ключевым словам вроде «гомосексуальность*» или «аборт» приводит преимущественно к религиозной пропаганде, а не к научным публикациям.

Библиотекари опасаются, что обсуждение данной проблемы может вызвать критику со стороны активистов, выступающих против цензуры. Однако призыв не связан с запретами — библиотекари требуют прозрачности от платформ, чтобы иметь возможность контролировать качество предоставляемого контента.

Hoopla и OverDrive не прокомментировали ситуацию. Однако библиотекари продолжают настаивать на том, чтобы платформы добавили инструменты для фильтрации и четко маркировали книги, созданные искусственным интеллектом.