ИИ GitHub Copilot цитирует проекты с открытым исходным кодом и выдает ключи API

В конце июня нынешнего года специалисты компании Microsoft совместно с некоммерческой исследовательской организацией OpenAI представили систему на базе искусственного интеллекта GitHub Copilot, призванную помочь разработчикам программного обеспечения в процессе написания кода. Инструмент просматривает существующий код и комментарии в текущем файле, а также местоположение курсора и предлагает одну или несколько строк для добавления. Но, как оказалось, ИИ не ограничивается парой строк кода. Иногда Copilot генерирует цитаты и комментарии из проектов с открытым исходным кодом.

Как отметили разработчики, подобное «отмывание» General Public License (GPL) от кода позволяет обойти первоначальную лицензию. По словам разработчика, использующего псевдоним mitsuhiko, Copilot способен дословно воспроизвести популярную функцию быстрого обратного квадратного корня из видеоигры Quake III Arena, кодовая база которой распространяется под лицензией GNU GPL 2.0.

По словам представителей GitHub, ИИ Copilot создает производные работы из ранее полученных входных данных, что может считаться производным продуктом ПО под лицензией Copyleft или AGPL. Также Copilot обычно не воспроизводит точные фрагменты кода, и такие ситуации возникают в 0,1% случаев.

Кроме того, пользователи также обнаружили проблемы с безопасностью проекта GitHub Copilot. Алгоритм ИИ подставляет в код действительные ключи API из репозиториев с открытым исходным кодом.