Nature официально запретил использовать сгенерированные изображения и видео в публикуемых авторских статьях

В прошлую среду, 7 июня, журнал Nature официально объявил , что он не будет публиковать статьи и исследования, которые содержат изображения или видео, созданные при помощи генеративных инструментов искусственного интеллекта. Запрет был наложен на фоне опасений издания по поводу целостности исследований, прозрачности, достоверности и защиты интеллектуальной собственности.

Основанный в ноябре 1869 года, Nature публикует рецензируемые исследования из различных академических дисциплин, главным образом в области науки и техники. Это один из самых цитируемых и самых влиятельных научных журналов в мире.

Недавнее решение Nature о правилах публикации работ с использованием искусственного интеллекта последовало за месяцами интенсивных дискуссий и консультаций, вызванных растущей популярностью и расширяющимися возможностями генеративных инструментов, таких как ChatGPT и Midjourney.

«За исключением статей, посвящённых искусственному интеллекту, Nature не будет публиковать какой-либо контент, в котором фотографии, видео или иллюстрации были созданы полностью или частично с использованием генеративного ИИ, по крайней мере, в обозримом будущем», - сообщили представители издания.

Nature считает, что этот вопрос подпадает под этические принципы журнала, касающиеся целостности и прозрачности публикуемых работ, что также включает в себя возможность ссылаться на источники используемых изображений.

«Как исследователи, редакторы и издатели, мы все должны знать источники данных и изображений, чтобы их можно было проверить на точность и правдивость. Существующие генеративные инструменты искусственного интеллекта не предоставляют доступа к своим источникам, чтобы такая проверка стала возможной», - объяснили в Nature.

В результате, для каждого визуального материала, используемого в публикации, должно быть предоставлено доказательство, что данный материал не был сгенерирован или дополнен с помощью генеративного искусственного интеллекта.

Nature также напоминает, что практика указания ссылок и источников является основным принципом науки. И данное требование представляет из себя ещё одно препятствие для этичного использования произведений искусственного интеллекта в научном журнале.

Атрибуция художественных работ, созданных искусственным интеллектом, крайне затруднена или практически невозможна, поскольку сгенерированные изображения обычно возникают в результате переработки миллионов других изображений, загруженных в модель искусственного интеллекта.

Этот факт также приводит к проблемам, касающимся согласия, особенно связанным с идентификацией личности или правами интеллектуальной собственности. Здесь Nature также упоминает, что генеративные ИИ регулярно используют для обучения защищённые авторским правом произведения, разумеется, без получения необходимых на то разрешений.

Кроме того, иногда публикуемые работы могут случайно или специально ссылаться на дипфейки, что может привести к распространению откровенно ложной информации.

Тем временем, текстовую генерацию в публикуемых статьях использовать всё же допускается, даже после громких заявлений Nature о запрете указания ChatGPT в качестве соавтора. Журнал по-прежнему разрешает включение текста, созданного с помощью генеративных инструментов при условии, что это делается с соответствующими оговорками. Использование инструментов большой языковой модели (LLM) должно быть чётко задокументировано в соответствующих разделах статьи.

Источники для всех данных, даже тех, которые сгенерированы с помощью искусственного интеллекта, обязательно должны быть предоставлены авторами. Однако журнал твёрдо заявил, что ни один LLM-инструмент не будет признан автором или соавтором исследовательской работы. Этому, похоже, не бывать никогда.