Robert Williams
Detroit, MI
Zatrzymany na 30 godzin po tym, jak rozpoznawanie twarzy dopasowało jego nieważne prawo jazdy do nagrania z monitoringu. Był jedynie 9. najlepszym dopasowaniem. Ugoda z czerwca 2024 r. wymaga od Detroit PD audytu wszystkich spraw od 2017 r.
Ujawniona luka
Wynik jednego algorytmu potraktowany jako identyfikacja. Brak mechanizmu ujawnienia, że był to zaledwie 9. wynik. Śledczy nigdy nie widzieli rankingu ufności.
Odpowiedź Argusa
Rozumowanie zespołowe wielu modeli wykazałoby słaby konsensus, automatycznie uruchamiając wymóg przeprowadzenia dodatkowego dochodzenia przed jakimkolwiek aresztowaniem.