Кристофер Гэтлин: как ИИ-алгоритм разрушил жизнь ни в чём не повинного человека

Программа распознавания лиц, использованная полицией Сент-Луиса (Миссури, США), привела к ошибочному аресту 29-летнего Кристофера Гэтлина. Его задержали по подозрению в нападении на охранника на платформе станции метро, несмотря на отсутствие прямых доказательств. Ключевой уликой стало некачественное изображение с камеры наблюдения, обработанное программой на основе ИИ.

Полиция проигнорировала собственные предписания, согласно которым данные системы не могут быть единственным основанием для принятия решений. Следователь Маттью Шут использовал программу для идентификации и добился ареста Гэтлина. Мужчина провёл в тюрьме более 16 месяцев, прежде чем суд признал идентификацию недействительной. Это дело стало одним из восьми известных случаев, когда использование распознавания лиц привело к ошибочным арестам.

Расследование The Washington Post выявило, что многие полицейские отделения в США используют технологии распознавания лиц без должной проверки результатов. В 15 из 23 проанализированных случаев аресты проводились только на основании ИИ, без сбора дополнительных доказательств. В некоторых случаях полиция даже игнорировала прямые улики, такие как ДНК или алиби подозреваемых.

Программное обеспечение часто демонстрирует расовую предвзятость, ошибочно идентифицируя темнокожих и азиатов в 100 раз чаще, чем белых мужчин. Ошибки в обработке данных и необоснованная уверенность в результатах технологии ставят под угрозу права граждан.

Критики подчёркивают, что использование подобных систем без надлежащего контроля ведёт к росту числа несправедливых обвинений. Несмотря на жалобы, полицейские отделения редко раскрывают, как именно применяют технологии, и уклоняются от предоставления подробных данных.

Кристоферу Гэтлину удалось добиться освобождения благодаря адвокату, доказавшему, что доказательства против него были ненадёжными. Однако этот случай выявил значительные пробелы в регулировании использования ИИ в правоохранительных органах и требует пересмотра практик его применения.