Robert Williams
Detroit, MI
Trattenuto per 30 ore dopo che il riconoscimento facciale ha associato la sua patente scaduta alle riprese di sorveglianza. Era solo la nona corrispondenza più probabile. L'accordo del giugno 2024 impone al Dipartimento di Polizia di Detroit di verificare tutti i casi dal 2017.
Lacuna rivelata
Output di un singolo algoritmo trattato come identificazione. Nessun meccanismo per evidenziare che era solo la nona corrispondenza più probabile. Gli investigatori non hanno mai visto la classifica di confidenza.
Risposta Argus
Il ragionamento dell'ensemble su più modelli avrebbe evidenziato un consenso debole, attivando automaticamente ulteriori requisiti investigativi prima di qualsiasi azione di arresto.