(TNS) – Robert Williams dit qu’il a été identifié par erreur par un logiciel de reconnaissance faciale comme un voleur à l’étalage présumé à Détroit en 2018, une décision qui l’a jeté dans le système de justice pénale qui, selon lui, était humiliant et effrayant.

Williams, qui est noir, veut maintenant que la police abandonne l’utilisation controversée de la reconnaissance faciale pour trouver des suspects sur la base de ses propres expériences avec la technologie.

« Ce fut l’une des choses les plus choquantes qui me soit jamais arrivée », a déclaré Williams mercredi après l’ACLU. déposé une plainte avec le Detroit Board of Police Commissioners qui demande également des excuses publiques à la police, le rejet définitif de l’affaire et la suppression des informations de Williams des bases de données criminelles.

L’affaire pourrait être la première du genre et met en lumière des failles dans l’utilisation du logiciel que de nombreux services de police à travers le pays utilisent ou envisagent d’utiliser, disent les avocats civils.

Les dossiers de la police montrent que cinq montres d’une valeur de près de 4000 $ étaient manquantes dans le magasin Shinola basé à Détroit à Midtown en octobre 2018.

Un agent de prévention des pertes a examiné la séquence vidéo montrant le suspect portant une casquette de baseball des St. Louis Cardinals. Les vidéos ont été envoyées à Detroit Police Crime Intel pour une recherche de reconnaissance faciale cinq mois plus tard et un coup est revenu pour Williams, a révélé un rapport de police.

Les détectives de Detroit ont montré une gamme de six photos qui comprenait Williams au travailleur de prévention des pertes, qui a identifié Williams, selon le rapport. Il a fallu des mois à la police pour émettre un mandat d’arrêt et plusieurs autres avant d’appeler Williams au travail et de lui demander de se rendre au service de police.

Des agents de Détroit ont arrêté Williams en janvier alors qu’il se trouvait sur la pelouse de sa maison de Farmington Hills devant sa femme, Melissa, sa belle-mère et ses deux jeunes filles, qui ont pleuré en voyant leur père placé dans la voiture de patrouille.

C’est lors de son interrogatoire du lendemain qu’il s’est rendu compte qu’il avait été incorrectement identifié par un logiciel de reconnaissance faciale.

La police « s’est appuyée sans réfléchir sur une technologie de reconnaissance faciale défectueuse et raciste sans prendre de mesures raisonnables pour vérifier les informations fournies », a déclaré l’avocat de l’ACLU, Phil Mayor, dans sa plainte.

« Il a mené une enquête de mauvaise qualité et incomplète, ses officiers étaient impolis et menaçants, et il n’a absolument pas répondu à une demande de la FOIA demandant des documents pertinents. »

L’avocate de Williams, Victoria Burton-Harris, a déclaré qu’il était « l’un des plus chanceux ».

« C’est un grand Noir dans la communauté la plus noire d’Amérique, qui est trop surveillé et surveillé et que la technologie n’est que la dernière couche de cela », a déclaré Burton-Harris. « Ceci est une preuve positive qu’ils utilisent non seulement cette technologie d’une manière très dangereuse, mais qu’ils ne devraient pas du tout l’utiliser. »

Un examen de l’industrie principaux algorithmes de reconnaissance faciale par l’Institut national des normes et de la technologie a révélé qu’ils étaient précis à plus de 99% lors de la mise en correspondance de tirs à la tête de haute qualité avec une base de données d’autres poses frontales.

Mais essayer d’identifier un visage à partir d’un flux vidéo, en particulier en utilisant les caméras montées au plafond que l’on trouve généralement dans les magasins, peut faire chuter les taux de précision. Des études ont également montré que les systèmes de reconnaissance faciale ne fonctionnent pas de la même manière selon la race, le sexe et l’âge – ils fonctionnent mieux sur les hommes blancs, avec des conséquences potentiellement néfastes pour les autres.

Le contrôle exercé par les manifestants a soulevé la question à Détroit de savoir si le service de police de Detroit devrait continuer à utiliser la technologie de reconnaissance faciale comme outil de lutte contre la criminalité.

L’accord de deux ans du service de police pour le logiciel controversé expirera en juillet. Le conseil municipal devait commencer à examiner la demande de l’administration du maire Mike Duggan de prolonger le contrat jusqu’à l’automne 2022 et d’augmenter son financement, mais la demande a été retirée la semaine dernière au milieu du tumulte du public.

Certains dirigeants de Détroit affirment que la reconnaissance faciale et d’autres technologies de surveillance sont un réconfort pour les résidents. Le chef de la police de Détroit, James Craig, a défendu l’utilisation de la technologie et les freins et contrepoids stricts qui sont en place pour éviter les abus.

Craig a déclaré que le département « n’effectue pas d’arrestations uniquement sur la base d’une reconnaissance faciale ».

« Ce n’est qu’un outil d’enquête », a-t-il déclaré mercredi.

D’autres, dont la représentante américaine Rashida Tlaib, D-Detroit, affirment qu’il est toujours imparfait et raciste.

Les inquiétudes concernant les préjugés et le contrôle croissant des pratiques policières après la mort de George Floyd aux mains de la police de Minneapolis ont récemment conduit les géants de la technologie IBM, Amazon et Microsoft à annoncer qu’ils cesseraient de vendre des logiciels de reconnaissance faciale à la police, au moins jusqu’à ce que le Congrès puisse établir des lignes directrices pour son utilisation.

L’année dernière, des villes comme Somerville, Massachusetts et Oakland, Californie, ont voté pour interdire l’utilisation du logiciel.

«J’espère que vous ne penserez pas que tous les Noirs se ressemblent»

Cela a commencé comme un jeudi ennuyeux, a déclaré Williams. Un officier de la 3e circonscription de Détroit a appelé avec désinvolture pour dire que Williams devrait se rendre. L’officier n’a pas divulgué d’informations sur le vol de Shinola. Pensant que c’était une farce, Williams a déclaré: « Si vous me voulez, venez me chercher. Je serai à la maison. Apportez un mandat. »

Ils l’ont fait. Sur le chemin du retour du travail dans une entreprise de fournitures automobiles, des policiers attendaient Williams. Ils l’ont laissé garer sa voiture, puis l’ont arrêté.

« Dès qu’il a fermé la porte, ils avaient raison sur lui », a déclaré Melissa Williams, son épouse. «J’ai dit (aux filles) d’attendre ici pendant que je me dirigeais vers l’extérieur, mais elles ne voulaient manifestement pas parce qu’elles pouvaient dire que quelque chose n’allait pas. Ils commençaient déjà à le menotter au moment où nous sommes sortis. « 

Lorsque Melissa Williams a demandé où son mari était emmené, les policiers lui ont dit brusquement qu’elle devait «le chercher sur Google», selon la plainte.

Williams a passé 18 heures dans une cellule de détention avant d’être interrogé par la police. On ne lui avait toujours pas dit pourquoi il était là. Dans la salle d’interrogatoire, deux détectives avaient trois photos face cachée sur une table.

« Un détective retourne une photo d’un gars à l’intérieur de Shinola et est comme » Ce n’est pas vous?  » J’ai regardé et j’ai dit «non, ce n’est pas moi». Il retourne un autre papier et dit: «Je suppose que ce n’est pas toi non plus? J’ai ramassé ce papier et l’ai tenu à côté de mon visage et j’ai dit: « Ce n’est pas moi. J’espère que vous ne penserez pas que tous les Noirs se ressemblent. »

« Il a dit: ‘L’ordinateur dit que c’est toi.’ « 

Ensuite, le détective a dit: « Donc, je suppose que l’ordinateur s’est trompé. »

Malgré cela, il était traduit en justice pour fraude au détail au premier degré. Bond a été fixé à 1 000 $, et il a fallu encore 12 heures avant sa libération.

Williams est rentré chez lui juste à temps pour son 42e anniversaire, où ses filles, âgées de 5 et 2 ans, lui ont laissé des cartes.

Burton-Harris a déclaré que le bureau du procureur du comté de Wayne aurait dû trouver des preuves insuffisantes pour inculper Williams.

« Ce n’est pas que la police vient de l’arrêter. Le procureur a autorisé l’accusation de crime contre lui … puis ils se sont retournés et ont dit au tribunal qu’ils devaient la rejeter car ils devaient poursuivre l’enquête. »

Le bureau du procureur du comté de Wayne a déclaré dans un communiqué que l’affaire avait été classée parce que le responsable de la sécurité de Shinola à qui on avait montré les six photos n’était pas physiquement présent pendant le crime. L’affaire a été classée sans préjudice, ce qui signifie que des accusations pourraient être portées à nouveau.

Le procureur Kym Worthy a déclaré l’été dernier que le département de police avait demandé à son bureau d’adopter la politique de reconnaissance faciale du département, mais elle a refusé, affirmant que ce n’était pas fiable pour les personnes de couleur. Elle s’est excusée auprès de Williams et a déclaré que l’affaire n’aurait pas dû être publiée.

« Ils sont bien conscients de ma position et ma position reste la même », a-t-elle déclaré dans un communiqué. « Tout cas présenté à mon bureau qui a utilisé cette technologie doit être présenté à un superviseur et doit avoir des preuves corroborantes en dehors de cette technologie. »

Détroit examine le renouvellement du contrat

La présidente du conseil municipal de Detroit, Brenda Jones, a déclaré que le service de police avait accepté de retirer sa dernière demande d’extension d’utilisation de la technologie, approuvée pour la première fois en 2017, et de mener des actions de sensibilisation de la communauté avant de demander l’approbation pour prolonger le contrat jusqu’au 30 septembre 2022. .

DataWorks Plus, la société qui fournit le logiciel de reconnaissance faciale, a facturé 1 million de dollars à Detroit pour un contrat de deux ans en 2017.

L’année dernière, les responsables de la police ont révisé la politique proposée régissant l’utilisation du logiciel, supprimant une disposition litigieuse qui permettait de l’utiliser pour analyser les visages en temps réel en cas de menace terroriste. Les révisions prévoyaient également des sanctions pour les agents qui abusaient du système.

Craig a déclaré qu’il y avait eu une conversation avec le conseil de Détroit lors de l’achat du logiciel et qu’il n’y avait « rien de secret ».

Le conseiller municipal de Detroit, Roy McCalister Jr., qui a pris ses fonctions après que le conseil municipal a approuvé le contrat initial pour la technologie, a déclaré qu’il voterait en faveur de son retrait.

McCalister, un ancien officier de police de Détroit, a déclaré qu’il y avait une différence entre l’appareil lui-même, qui selon lui peut être inexact, et le personnel en place pour certifier les résultats.

« Ce n’est pas seulement le système lui-même dont dépend la police », a-t-il déclaré. « Ils dépendent principalement du personnel d’analystes humains qui effectue également des recherches continues pour le réduire et trouver la personne réellement impliquée. »

Le commissaire de police de Détroit, Willie Bell, qui prendra ses fonctions de président du conseil d’administration le 1er juillet, espère que la ville renouvellera le contrat.

En tant qu’ancien président de la National Black Police Officers Association, qui a été policier à Detroit de 1971 à 2003, Bell a fait pression pour que les policiers soient plus sensibles à la communauté noire qu’ils servent.

« La technologie n’est pas parfaite, mais la police arrête des milliers de personnes chaque année et il y a très peu d’erreurs », a-t-il déclaré. « C’est la nature du processus de justice pénale. Il y a des humains impliqués, donc il y aura parfois des erreurs. »

Bell a déclaré qu’il était persuadé après avoir parlé à la famille d’une victime de délit de fuite. La première chose qu’ils ont demandée est « y a-t-il une vidéo? » et si oui, la famille voulait que la police utilise le logiciel pour trouver le conducteur, a-t-il dit.

«La reconnaissance faciale est comme tout autre outil d’application de la loi; c’est un bon outil s’il est utilisé correctement », a-t-il déclaré. « Detroit l’utilise correctement. »

«Premier cas connu, mais pas le premier»

Burton-Harris a déclaré que le cas de Williams est unique, mais il est peu probable qu’il soit le premier à être accusé à tort sur la base du logiciel.

« Nous doutons fortement que ce soit la première fois, ce n’est que le premier cas connu », a-t-elle déclaré. « Nous demandons régulièrement des preuves de l’utilisation de cette technologie, mais rien ne nous est jamais remis pour montrer qu’elle a été effectivement utilisée.

« Rien n’indique qu’il est utilisé dans une affaire, et la seule raison pour laquelle nous savons que c’était … c’est parce que lorsque mon client était en détention, le policier a glissé et lui a dit que c’était le cas. »

Pour les résidents d’une ville où environ 85% des résidents sont noirs, l’utilisation de la reconnaissance faciale crée de l’anxiété, a déclaré le représentant américain Tlaib. Marquer les suspects grâce à la reconnaissance faciale, a-t-elle dit, « ne s’est pas traduit par être plus sûr ».

Après son arrestation, Williams a fouillé des informations sur un logiciel de reconnaissance faciale. Des études fédérales montrent les systèmes de reconnaissance faciale identifient à tort les Asiatiques et les Noirs jusqu’à 100 fois plus que les Blancs.

Selon une étude en cours de l’Institut national des normes et de la technologie, les algorithmes actuellement vendus peuvent mal identifier certains groupes raciaux jusqu’à 100 fois plus que les blancs.

Les scientifiques de l’Institut ont étudié 189 algorithmes provenant de 99 organisations, qui alimentent la majorité des systèmes de reconnaissance faciale utilisés dans le monde. Les scientifiques ont déclaré avoir trouvé des « preuves empiriques » que des caractéristiques telles que l’âge, le sexe et la précision de l’impact sur la race lors de la comparaison de deux photos.

« Je me fâche quand j’entends des entreprises, des politiciens et des policiers parler de la façon dont cette technologie n’est ni dangereuse ni défectueuse », a déclaré Williams. « Ce qui est pire, c’est qu’avant que cela ne m’arrive, je les ai réellement crus. Je pensais, qu’est-ce qui est si terrible s’ils n’atteignent pas notre vie privée et tout ce qu’ils font est d’utiliser cette technologie pour cibler un groupe de suspects? » « 

Au cours des 30 heures de détention de Williams, les policiers ne lui ont jamais demandé son alibi, a déclaré son avocat.

S’ils l’avaient demandé, il leur aurait dit qu’il rentrait du travail en voiture. Il avait posté une vidéo sur son compte Instagram privé, en chantant « We Are One » de 1983 par Maze et Frankie Beverly.

« Je continue de penser à la chance que j’ai eue d’avoir passé une seule nuit en prison – aussi traumatisant que cela ait été », a déclaré Williams.

« Beaucoup de Noirs n’auront pas autant de chance. Ma famille et moi ne voulons pas vivre avec cette peur. Je ne veux pas que quiconque vive avec cette peur. »

© 2020 The Detroit News. Distribué par Agence de contenu Tribune, LLC.