Ваш ИИ – преступник, а вы – сообщник: новые правила Минюста США
Сможет ли директор компании сесть в тюрьму за плохое поведение цифрового ассистента?
Министерство юстиции США расширило требования к корпоративным службам комплаенса, добавив контроль за использованием искусственного интеллекта. Теперь компаниям, помимо экономической эффективности и возврата инвестиций в технологии ИИ, необходимо учитывать их потенциальный вред – в противном случае компании ожидают значительные штрафы за нарушение закона.
С учетом того, что технологии ИИ все чаще применяются в бизнесе, они могут быть использованы для принятия решений или действий, которые нарушают закон. Руководство ECCP (Evaluation of Corporate Compliance Program) включает список вопросов, на которые специалистам по комплаенсу необходимо ответить относительно использования ИИ. Эти же вопросы прокуроры будут рассматривать при проведении расследования. Примеры вопросов:
- Как компания оценивает возможное влияние ИИ на способность соблюдать уголовное законодательство?
- Какие меры компания предпринимает для снижения потенциальных негативных или непреднамеренных последствий, связанных с использованием технологий, как в коммерческой деятельности, так и в самой программе комплаенса?
- Как компания снижает риск преднамеренного или небрежного использования технологий, включая действия собственных сотрудников?
Прокуроры будут обращать внимание на то, насколько компания уязвима к схемам мошенничества, которые могут быть реализованы с использованием новых технологий, например, поддельных одобрений или документов, генерируемых ИИ. Кроме того, будет оцениваться наличие и эффективность мер по мониторингу и тестированию работы приложений ИИ, чтобы убедиться, что они работают корректно.
Иными словами, если ИИ нарушит закон, ответственность все равно будет возложена на компанию. Руководству предприятий рекомендуется заранее выявлять и устранять возможные риски, чтобы избежать санкций со стороны Минюста.
Кроме рекомендаций по соблюдению комплаенса в сфере ИИ, ECCP также содержит дополнительные руководства по работе с информаторами, стимулируя сотрудников сообщать о незаконной деятельности.