Robert Williams
Detroit, MI
Detido 30 horas depois de o reconhecimento facial ter associado a sua carta de condução caducada a imagens de videovigilância. Era apenas a 9.ª melhor correspondência. O acordo de Junho de 2024 exige que a Polícia de Detroit audite todos os casos desde 2017.
Lacuna Exposta
Resultado de algoritmo único tratado como identificação. Nenhum mecanismo para revelar que era apenas a 9.ª melhor correspondência. Os investigadores humanos nunca viram a classificação de confiança.
Resposta Argus
O raciocínio de conjunto entre múltiplos modelos teria mostrado fraco consenso, desencadeando automaticamente requisitos de investigação adicional antes de qualquer acção de detenção.