ChatGPT позволяет писать вредоносное ПО без навыков программирования

Исследователи кибербезопасности из ИБ-компании Check Point Research сообщили , что киберпреступники, некоторые с небольшим опытом программирования или вовсе без него, использовали ChatGPT для создания вредоносного ПО и фишинговых писем, которые могли быть использованы для проведения шпионажа, вымогательских атак, спама и других вредоносных кампаний.

Один из участников киберпреступного форума рассказал, что сгенерированный Python-код сочетает в себе различные криптографические функции – ключ для подписи кода, шифрование системных файлов с помощью алгоритмов Blowfish и Twofish, а также хеш-функцию BLAKE2 для сравнения различных файлов.

Итоговый сценарий можно использовать для:

• расшифровки одного файла и добавления кода аутентификации сообщения (MAC) в конец файла;
• шифрования жестко заданного пути и расшифровки списка получаемых файлов;

Исследователи заявляют, что этот сценарий можно легко превратить в программу-вымогатель и зашифровать файлы на целевой машине без вмешательства хакера.

В другом случае ChatGPT написал 2 кода:

• Инфостилер на Python, который ищет PDF-файлы, копирует их во временный каталог, сжимает их и отправляет на сервер злоумышленника;
• Java-код, который тайно загрузил клиент PuTTY и запустил его с помощью Powershell.

Пользователь показал текстовый запрос и сгенерированный скрипт

Кроме того, с помощью ChatGPT был разработан скрипт для создания даркнет-маркета, на котором можно купить скомпрометированные учетные данные, информацию о платежных картах, вредоносные программы и другие незаконные товары. Код использует сторонний программный интерфейс для получения текущих цен на криптовалюты Monero, Bitcoin и Etherium. Это помогло пользователю устанавливать цены при совершении покупок.

Исследователи Check Point использовали ChatGPT для разработки вредоносного макроса, который можно скрыть в файле Excel, прикрепленном к электронному письму. Затем специалисты использовали более продвинутую ИИ-систему Codex для разработки обратной оболочки, сценария для сканирования портов, обнаружения песочницы и компиляции своего Python-кода в исполняемый файл Windows.

Аналитики создали фишинговое электронное письмо с прикрепленным Excel-документом, содержащим вредоносный макрос, который загружает обратную оболочку на целевую машину. Тяжелая работа была проделана ИИ, и пользователю остаётся только провести атаку.

Хотя условия ChatGPT запрещают его использование в незаконных или злонамеренных целях, исследователи легко настроили свои запросы, чтобы обойти эти ограничения. Стоит отметить, что ChatGPT также может использоваться и ИБ-специалистами для написания кода, который ищет вредоносные URL-адреса внутри файлов или запрашивает у VirusTotal количество обнаружений для определенного криптографического хэша