Генеративный ИИ стал лидером среди хакерских инструментов

За последний год киберпреступники стали активно применять генеративный искусственный интеллект (GenAI), в частности ChatGPT и Gemini, для совершенствования своих атак, делая GenAI ключевой угрозой в области кибербезопасности. Эксперты подчеркивают, что на данный момент мы лишь на пороге новой эры в хакерстве, благодаря возможностям больших языковых моделей (LLM).

Ричард Аддискотт, занимающий должность старшего директора-аналитика в компании Gartner, подчеркивает начальный этап развития GenAI и отмечает, что уже сейчас можно наблюдать потенциал генеративного ИИ в обеспечении безопасности и защиты приложений. Аналитик подчеркивает важность осознания перспектив и возможностей, которые предоставляет GenAI.

Для руководителей отделов информационной безопасности GenAI представляет собой как вызов, так и возможность использовать новые технологии для усиления защиты на оперативном уровне. В условиях, когда инциденты кибербезопасности от сторонних организаций становятся неизбежными, Аддискотт советует сосредоточиться на разработке и укреплении планов действий на случай чрезвычайных ситуаций.

Также согласно отчету Cisco Data Privacy Benchmark Study за 2024 год, 27% организаций ввели постоянный или временный запрет на использование GenAI из-за опасений, связанных с конфиденциальностью и безопасностью данных. Основные опасения связаны с угрозой для законных прав и интеллектуальной собственности (69% компаний) и риском непреднамеренного раскрытия информации общественности или конкурентам (68%).