ИИ на страже нации: США строит «цифровой купол» над инфраструктурой

Министерство внутренней безопасности США (DHS) выпустило новые рекомендации по безопасному использованию искусственного интеллекта в ключевой инфраструктуре страны. Документ разработали вместе с представителями бизнеса, госструктур и общественных организаций, чтобы помочь компаниям безопасно внедрять ИИ в важных секторах.

Рекомендации направлены на защиту таких систем, как энергоснабжение, водопровод, транспорт и цифровые сети, которые обеспечивают жизнь и безопасность людей. В последние годы ИИ активно используется для улучшения сервисов — от быстрого обнаружения землетрясений до предотвращения перебоев в подаче электричества и улучшения доставки почты. Однако при этом возникает риск, что уязвимости в системах ИИ могут быть использованы злоумышленниками для атак.

Рекомендации охватывают несколько ключевых направлений:

• Поставщики облачных и вычислительных услуг — рекомендуется усиливать безопасность при разработке и развёртывании ИИ, включая проверку поставщиков оборудования и ПО, а также защиту дата-центров от потенциальных угроз.
• Разработчики ИИ — придерживаться подхода Secure by Design при разработке моделей, проводить оценку возможных рисков, связанных с предвзятостью или уязвимостями моделей, и обеспечивать независимые проверки для критически важных систем.
• Владельцы и операторы критических объектов — рекомендуется внедрять ИИ с учётом кибербезопасности, защищать данные клиентов и обеспечивать прозрачность в использовании ИИ для предоставления услуг.
• Гражданское общество — университетам и исследовательским центрам предложено активно участвовать в разработке стандартов и проводить исследования для оценки воздействия ИИ на общество.
• Государственные структуры — рекомендуется усилить сотрудничество на всех уровнях власти, включая международное взаимодействие для защиты граждан и поддержки исследований в области безопасности ИИ.

Министерство внутренней безопасности определило три основные категории уязвимостей при применении ИИ: атаки с использованием ИИ, атаки на ИИ-системы и ошибки в проектировании и реализации технологий. В рекомендациях предложены меры для всех участников разработки и использования ИИ, чтобы минимизировать риски и обеспечить безопасность критической инфраструктуры США.

Ранее Транспортная служба безопасности США (TSA) предложила новые правила для защиты транспортной инфраструктуры от кибератак. Меры должны закрепить и дополнить временные директивы, которые были введены после атаки на компанию Colonial Pipeline в 2021 году. Новые правила — одно из последних действий администрации Джо Байдена по усилению кибербезопасности критически важной инфраструктуры перед передачей власти.