Добро пожаловать в ЕС: правозащитники против ИИ в миграционной политике

Более ста общественных организаций и академических сообществ из разных стран Европы призвали законодателей ЕС установить ограничения на «неконтролируемые формы дискриминационного и массового наблюдения». Заявления были сделаны в свете растущего использования различных форм биометрического наблюдения, профилактической полицейской деятельности и «нежелательного» использования ИИ в миграционном контроле.

В заявлении правозащитной организации Access Now подчёркивается, что «все чаще в Европе и по всему миру системы ИИ разрабатываются и применяются для вредных и дискриминационных форм государственного наблюдения». Основные опасения связаны с использованием биометрии для идентификации, распознавания и категоризации, а также с системами прогнозирования в принятии решений и распределении ресурсов.

Группы утверждают, что ИИ в правоохранительной деятельности непропорционально нацелен на уже маргинализированные общины, подрывает юридические и процедурные права и позволяет проводить массовую слежку.

Законодательный акт ЕС об ИИ ( AI Act ), первый всеобъемлющий законодательный акт блока по регулированию ИИ, был одобрен Европарламентом в июне . Акт запрещает системы, представляющие «неприемлемый уровень риска» для безопасности и конфиденциальности людей. К ним относятся инструменты прогнозирующей полицейской деятельности, используемые в нескольких штатах США, и практики социального скоринга по образцу Китая.

Однако AI Act еще предстоит одобрить государствам-членам ЕС и их лидерам в Евросовете. Одним из спорных пунктов является биометрическое наблюдение. В то время как законодатели ЕС выступают за полный запрет публичного биометрического наблюдения, включая распознавание лиц, некоторые государства-члены хотят исключений по причинам национальной безопасности, обороны и военных действий.

Недавно международная группа ученых, включая одного из членов совета директоров OpenAI, провела исследование, направленное на выявление «точки невозврата» для больших языковых моделей (Large Language Model, LLM), таких как ChatGPT. Основной вопрос заключается в том, могут ли модели развить способности, указывающие на возможность осознания себя и своих функций .

Но есть и хорошая сторона ИИ. Искусственный интеллект может играть ключевую роль в урбанизации и создании эффективных городских пространств . Согласно данным нового исследования, проведённого учёными из Университета Цинхуа в Китае, ИИ может улучшить процесс планирования города, сократив необходимое на это время и существенно повысив эффективность всего процесса.