Пентагон представил этические принципы использования ИИ в войне

Министерство обороны США утвердило этические принципы использования искусственного интеллекта, следуя рекомендациям Совета по оборонным инновациям (Defense Innovation Board).

По словам министра обороны Марка Эспера (Mark Esper), новые принципы ускорят принятие законных и этических способов использования технологии как в боевых, так и в небоевых операциях.

Данные принципы будут помогать вооруженным силам США в выполнении правовых, этических и политических обязательств в области ИИ. Этические принципы охватывают пять основных областей:

1. Ответственный. Персонал Минобороны США будет проявлять надлежащий уровень оценки и осторожности при использовании, развертывании и использовании ИИ.

2. Равноправный. Ведомство предпримет надлежащие меры для минимизации непреднамеренных предубеждений против возможностей ИИ.

3. Прослеживаемый. Возможности ИИ будут разрабатываться и развертываться таким образом, чтобы персонал обладал надлежащим пониманием технологий, процессов разработки и методов работы, применимых к ИИ, в том числе с помощью прозрачных и проверяемых методологий, источников данных, а также процедур проектирования и документации.

4. Надежный. Возможности ИИ будут четко определены, а безопасность, надежность и эффективность таких возможностей будут подвергаться тестированию и проверке на протяжении всего их жизненного цикла.

5. Управляемый. Ведомство будет проектировать и разрабатывать возможности ИИ для выполнения своих намеченных функций, сохраняя способность обнаруживать и избегать непреднамеренных последствий, а также отключать или деактивировать развернутые системы при необходимости.