ООН призвала ввести мораторий на использование ИИ, угрожающего правам человека

Глава ООН по правам человека Мишель Бачелет (Michelle Bachelet) призвала к мораторию на использование технологий искусственного интеллекта, представляющих серьезный риск для прав человека, включая системы сканирования лиц, отслеживающие людей в общественных местах.

Верховный комиссар ООН по правам человека также заявила, что правительствам стран следует прямо запретить приложения ИИ, которые не соответствуют международному праву в области прав человека.

К приложениям, которые следует запретить, относятся государственные системы «социальной оценки» и определенные инструменты на основе ИИ, разделяющие людей на группы, например, по этнической принадлежности или полу.

Как сообщила Бачелет, технологии на базе ИИ «могут быть силой добра, но они также могут иметь негативные, даже катастрофические, последствия, если они используются без должного учета влияния на права человека».

Комментарии связаны с новым отчетом ООН о том, как страны и компании поспешили применять системы искусственного интеллекта, затрагивающие жизнь людей, не создавая надлежащих мер защиты для предотвращения дискриминации и другого вреда.

Бачелет не призывала к полному запрету технологии распознавания лиц, но сказала, что правительствам следует прекратить сканирование лиц в режиме реального времени, пока они не продемонстрируют точность технологии и соответствие определенным стандартам конфиденциальности и защиты данных.

В отчете также высказывается осторожность в отношении инструментов, которые пытаются определить эмоциональное и психическое состояние людей, анализируя их выражения лица или движения тела. По словам экспертов, такие технологии подвержены предвзятости, неверной интерпретации и не имеют научной основы.