С уважением к интеллектуальной собственности: OpenAI внедряет технологию защиты авторских прав

Компания ByteDance провела исследование , посвященное улучшению точности ответов различных языковых моделей путем их обучения. Согласно исследованию, OpenAI попыталась скрыть использование защищенных авторским правом книг в этом процессе.

Исследователи обнаружили, что чат-бот ChatGPT, созданный OpenAI, избегает ответов на пользовательские запросы, содержащие фразы из материалов, охраняемых авторскими правами. Примером может служить ситуация, когда пользователь предлагает фрагмент из книги и просит продолжить текст. В прошлых версиях ChatGPT такая задача решалась без труда.

Эксперты считают, что разработчики ChatGPT внедрили в модель механизм, определяющий, когда пользователь пытается получить охраняемый авторскими правами контент или проверить сходство между сгенерированным ответом и контентом, защищенным авторскими правами. Однако такое поведение наблюдается не всегда.

Исследование также включало анализ разных версий ChatGPT, OPT-1.3B от Meta, FLAN-T5 от Google, DialoGPT от Microsoft и ChatGLM от Университета Цинхуа в Китае. Все модели успешно обрабатывали запросы, содержащие фразы из книг о Гарри Поттере, написанных Джоан Роулинг. Различия в ответах были незначительными. Исследователи отмечают, что сгенерированный текст, как правило, больше напоминает защищенный авторскими правами контент, чем случайно созданный.

Считается, что обновление ChatGPT позволит оградить защищённый контент от пользователей, которые специально хотят его извлечь при помощи запросов.

В прошлом OpenAI столкнулась с судебными исками со стороны двух американских писателей, обвиняющих компанию в использовании их произведений для обучения искусственного интеллекта. Позднее к ним присоединились еще три автора, подав иски к OpenAI и Meta*. Они утверждали, что нейросети ChatGPT и LLaMA обучались на данных из пиратских библиотек, таких как Bibliotik, Library Genesis и Z-Library.

* Компания Meta и её продукты (Instagram и Facebook) признаны экстремистскими, их деятельность запрещена на территории РФ.