Псевдооткрытый исходный код: сможет ли OSI изменить правила в ИИ-индустрии

Open Source Initiative (OSI) инициировала новую попытку установить чёткое и единое определение термина «открытый ИИ» в ответ на растущую путаницу и споры в индустрии искусственного интеллекта. Поводом для этого стала практика некоторых компаний, таких как Meta *, которые выпускают модели ИИ с ограничениями на использование, но при этом называют их «открытыми». Это вызвало бурные споры среди сторонников свободного программного обеспечения о том, что действительно означает «открытый» в контексте ИИ.

Например, модель Llama 3 от Meta, хотя и доступна бесплатно, не соответствует традиционным критериям открытого программного обеспечения, определённым OSI, из-за ограничений на её использование в зависимости от размера компании или характера создаваемого контента. Похожая ситуация с генератором изображений Flux, который также не соответствует принципам настоящего открытого исходного кода. В связи с этим OSI предложила использовать альтернативные термины, такие как «открытые веса» или «доступный исходный код», чтобы подчеркнуть разницу.

Для решения этой проблемы OSI собрала группу из 70 экспертов, включая исследователей, юристов и представителей крупных технологических компаний, таких как Meta, Google и Amazon. Группа разработала текущий проект определения «открытого ИИ», который подчёркивает четыре фундаментальные свободы, аналогичные тем, что определяют свободное программное обеспечение: возможность использовать систему для любых целей, изучать её работу, вносить изменения и делиться ими.

OSI надеется, что чёткие критерии для определения «открытого ИИ» помогут разработчикам, исследователям и пользователям лучше оценивать системы ИИ, с которыми они работают. Такое определение также позволит выявлять потенциальные уязвимости в ИИ, поскольку исследователи смогут анализировать модели более детально. В отличие от таких закрытых систем, как ChatGPT от OpenAI, точная архитектура которого остаётся тайной, открытые ИИ-модели могут быть прозрачными для анализа.

Планируется, что окончательная версия определения «открытого ИИ» будет представлена в октябре на конференции All Things Open 2024 в Северной Каролине.

По мнению Стефано Маффулли, исполнительного директора OSI, важно определить, что действительно означает открытый ИИ. Он подчёркивает, что ИИ отличается от обычного программного обеспечения, и требует пересмотра принципов открытого исходного кода в этом контексте. Организация также отмечает, что чёткие определения способствуют прозрачности, сотрудничеству и инновациям.

Инициатива выходит за рамки только модели ИИ и её весов, охватывая всю систему и её компоненты. Для того чтобы система ИИ считалась открытой, она должна предоставлять доступ ко всей информации, необходимой для внесения изменений, включая данные о тренировках, исходный код и параметры модели.

Проект также включает требование предоставления «информации о данных» — метаданных, описывающих источники данных, методы отбора и обработки. Это направлено на обеспечение прозрачности и возможности воспроизведения системы без необходимости раскрытия самих данных, что может затронуть вопросы конфиденциальности или авторских прав.

Стоит отметить, что процесс разработки единого определения открытости начался ещё в 2022 году и включал серию мастер-классов по всему миру. В обсуждениях приняли участие представители различных слоёв общества, что позволило учесть мнения множества заинтересованных сторон. OSI продолжает привлекать общественность к обсуждению через открытые форумы и встречи.

Когда определение будет окончательно утверждено, оно может оказать значительное влияние на индустрию ИИ, определяя, как компании будут выпускать свои модели и как будет развиваться законодательство в этой сфере. OSI надеется, что новое определение объединит участников индустрии ИИ под знаменем прозрачности программного обеспечения.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.