Уязвимость в миллионах чипов Apple, Qualcomm и AMD может раскрыть секреты ИИ-моделей

Разработка систем искусственного интеллекта набирает обороты. Все больше компаний обращаются к графическим процессорам (GPU) за необходимой им вычислительной мощностью для запуска крупных языковых моделей и быстрой обработки огромных массивов данных. Спрос на GPU никогда еще не был так высок, и производители чипов активно наращивают предложение.

Однако в недавнем исследовании эксперты обращают внимание на уязвимость сразу в нескольких моделях и брендах – в частности, чипах Apple, Qualcomm и AMD. Эта проблема может позволить злоумышленнику похитить значительные объемы данных из памяти процессора.

Производители долгое время повышали защиту центральных процессоров, чтобы избежать утечки конфиденциальных данных из памяти. GPU же разрабатывались с приоритетом на графическую производительность, а не безопасность информации. Однако по мере расширения применения графических процессоров в областях генеративного ИИ и машинного обучения, эксперты компании Trail of Bits предупреждают растущих угрозах, требующих решения.

«Существует серьезная проблема с безопасностью этих GPU - они недостаточно защищены и могут допустить утечку больших объемов данных», - комментирует Хайди Хлааф, директор по обеспечению безопасности искусственного интеллекта и машинного обучения в Trail of Bits.

Для использования дефекта, который аналитики назвали LeftoverLocals , злоумышленники уже должны иметь определенный уровень доступа к операционной системе атакуемого устройства.

Современные компьютеры и серверы специально разрабатываются так, чтобы изолировать данные разных пользователей, использующих одни и те же вычислительные ресурсы. Однако атака LeftoverLocals разрушает эти барьеры. Эксплуатируя уязвимость, хакеры способны получить доступ к любой информации, недостижимой в обычных условиях, из локальной памяти уязвимых GPU. Это могут быть запросы и ответы языковых моделей, а также управляющие ими весовые коэффициенты.

Летом прошлого года исследователи протестировали 11 чипов от 7 производителей и несколько соответствующих программных фреймворков. Они обнаружили LeftoverLocals в процессорах от Apple, AMD и Qualcomm. В сентябре началось масштабное распространение информации об уязвимости в сотрудничестве с Центром CERT и группой Khronos Group.

В процессорах Nvidia, Intel или Arm проблем обнаружено не было. Зато представители Apple, Qualcomm и AMD подтвердили, что их продукция подвержена этому дефекту. Это значит, что в группу риска попадают такие широко известные чипы, как AMD Radeon RX 7900 XT, а также устройства вроде iPhone 12 Pro и MacBook Air M2 от Apple.

Представитель Apple отметил, что компания выпустила исправления в своих новейших процессорах M3 и A17, представленных в конце 2023 года. Следовательно, дефект по-прежнему присутствует в миллионах iPhone, iPad и MacBook предыдущих поколений, использующих старые чипы.

10 января специалисты Trail of Bits повторно протестировали ряд устройств Apple. Они подтвердили, что MacBook Air M2 по-прежнему уязвим, в то время как в iPad Air 3-го поколения A12, похоже, были внесены исправления.

Как сообщили в Qualcomm, компания в настоящее время работает над обновлениями безопасности и рекомендует пользователям устанавливать патчи от производителей по мере их выхода. По данным Trail of Bits, Qualcomm уже выпустила необходимые прошивки.

10 января AMD опубликовала бюллетень по кибербезопасности, детализирующий планы компании по устранению LeftoverLocals. Исправления будут представлены в марте.

Специалисты Google также заявляют, что знают о проблеме, затрагивающей GPU от AMD, Apple и Qualcomm. Компания уже выпустила обновления для устройств ChromeOS с уязвимыми графическими процессорами AMD и Qualcomm.