Беременная женщина из Детройта арестована из-за системы распознавания лиц

Беременная женщина из Детройта арестована из-за системы распознавания лиц

Когда беременность – не алиби.

image

Порша Вудрафф, находясь на восьмом месяце беременности, была арестована прямо у своего дома в Детройте по обвинению в грабеже и угоне автомобиля. Арест стал результатом ошибочного совпадения в системе автоматического распознавания лиц.

После 11 часов задержания, в течение которых женщину допрашивали о преступлении, которое она не совершала, Вудрафф была освобождена под личное обязательство о выплате в размере $100 000. Позже прокурор Уэйнского округа отменил обвинения против Вудрафф.

По данным полиции Детройта, основой для ареста стало автоматическое распознавание лиц. Вудрафф стала уже шестым человеком, ошибочно обвиненным из-за ИИ-технологии, и все шесть человек были чернокожими.

Фото Вудрафф 2015 года из базы системы распознавания лиц (слева) и настоящее фото Вудрафф 2021 года (справа)

Инцидент вызвал обеспокоенность общественности и экспертов в области безопасности. Гэри Уэллс, профессор психологии, подчеркнул, что сочетание технологии распознавания лиц с узнаванием свидетелей не должно служить основанием для предъявления обвинений.

В ответ на произошедшее, Вудрафф подала иск о неправомерном аресте против города Детройт. Женщина выразила надежду, что её случай привлечет внимание к проблемам, связанным с использованием технологии распознавания лиц, и предотвратит подобные ошибки в будущем.

Вудрафф также рассказала, что она была в стрессе на протяжении всей беременности. По словам женщины, её поздний срок беременности, возможно, убедил власти в том, что она не совершала преступления.

Ищем баги вместе! Но не те, что в продакшене...

Разбираем кейсы, делимся опытом, учимся на чужих ошибках

Зафиксируйте уязвимость своих знаний — подпишитесь!