Контроль над автономным оружием: Глобальный пакт против военного ИИ

На прошлой неделе в Великобритании состоялась встреча политиков, технологических руководителей и исследователей, посвященная обсуждению рисков искусственного интеллекта (ИИ). Основным предметом дискуссий стала возможность контроля над использованием ИИ в военных целях.

1 ноября в посольстве США в Лондоне вице-президент США Камала Харрис объявила о ряде инициатив в области ИИ. Она выразила обеспокоенность угрозами, которые ИИ может представлять для прав человека и демократических ценностей. Вместе с тем Харрис озвучила декларацию, подписанную 31 страной, которая устанавливает рамки военного использования ИИ. Документ призывает страны-подписанты к правовому регулированию и обучению для обеспечения соответствия военного ИИ международным законам, к осторожному и прозрачному развитию технологий, к избеганию нежелательных предвзятостей в системах с ИИ и к продолжению обсуждений ответственного развития и применения технологии.

Декларация, хотя и не имеет юридической силы, является первым крупным соглашением между странами о добровольных ограничениях на военный ИИ. В тот же день ООН объявила о новой резолюции Генеральной Ассамблеи, предусматривающей подробное изучение летального автономного оружия, что может положить начало ограничениям на такое оружие.

Лорен Кан, старший исследователь в Центре безопасности и новых технологий (CSET) при Университете Джорджтауна, называет американскую декларацию "чрезвычайно значительной". Она считает, что она может предложить практический путь к заключению обязывающего международного соглашения о нормах разработки, испытания и применения ИИ в военных системах.

Декларация была впервые разработана США после конференции в Гааге в феврале, посвященной военному использованию ИИ. США также призывают другие страны согласиться на то, что человек должен оставаться в контроле над ядерным оружием. Новый документ предусматривает встречу стран-участниц в начале 2024 года для продолжения обсуждений.

Харрис объявила, что декларация теперь подписана странами, союзниками США, включая Великобританию, Канаду, Австралию, Германию и Францию. Среди 31 подписанта нет Китая и России, которые, наряду с США, считаются лидерами в разработке автономного оружия. Однако Китай присоединился к США в подписании декларации о рисках, связанных с ИИ, в рамках саммита по безопасности ИИ, организованного правительством Великобритании.

В тот же день, когда Харрис объявила о новой декларации по военному ИИ, Первый комитет Генеральной Ассамблеи ООН, группа стран, работающих над разоружением и распространением оружия, одобрила новую резолюцию о летальном автономном оружии. Эта резолюция предусматривает отчет о "гуманитарных, правовых, безопасных, технологических и этических" проблемах, которые поднимает летальное автономное оружие, и требует входных данных от международных и региональных организаций.