Невидимый враг в правительстве: США противостоят конфликту с ИИ

США ввели новые рекомендации по безопасности для укрепления защиты критически важной инфраструктуры от угроз, связанных с искусственным интеллектом. Руководство было разработано в рамках межведомственных усилий по оценке рисков ИИ во всех 16 критически важных секторах инфраструктуры.

Основное внимание в новых рекомендациях уделено использованию ИИ для усиления и масштабирования атак, манипулированию системами ИИ противниками, а также недостаткам в таких системах, которые могут привести к непредсказуемым последствиям. Подчёркивается необходимость прозрачности и разработки безопасных систем с самого начала для оценки и смягчения рисков ИИ.

Четыре ключевые функции новой системы включают управление, картографирование, измерение и контроль рисков на всех этапах жизненного цикла ИИ, включая:

• создание культуры управления рисками ИИ в организациях;
• понимание контекста использования ИИ и профиля рисков;
• разработку систем для оценки и отслеживания рисков ИИ;
• приоритизацию и принятие мер в отношении рисков для безопасности.

Кроме того, Министерство внутренней безопасности США (DHS) заявило о своем намерении обеспечить «безопасное, ответственное и достойное доверия» использование технологии, не нарушая при этом права на конфиденциальность, гражданские права и свободы граждан.

Отмечается, что владельцы и операторы критически важной инфраструктуры должны учитывать специфику своего сектора и контекст использования ИИ при оценке рисков и выборе соответствующих мер смягчения. Они также должны понимать зависимость от поставщиков ИИ и совместно определять меры по снижению рисков.