Nidaamka aqoonsiga wejiga ee Amazon wuxuu ku magacaabay daraasiin sharci-dejiyayaal California ah dambiilayaal - BGR

La technologie de reconnaissance faciale a parcouru un long chemin ces dernières années et aujourd'hui, de nombreux utilisateurs de smartphones comptent sur les fonctions de déverrouillage du visage pour protéger leurs appareils. Le logiciel de numérisation du visage d'Amazon, appelé Rekognition, ne déverrouille pas votre téléphone, mais il est actuellement utilisé par certaines forces de l'ordre pour identifier les criminels à l'aide de leurs photos d'identité.

L'année dernière, l'ACLU utilisait le logiciel Rekognition [ sur des photos de membres du Congrès et a constaté que le logiciel avait identifié 28 d'entre eux comme étant des criminels connus. Ces faux positifs montraient de graves défauts dans les logiciels d’Amazon et mettaient en évidence un préjugé racial dans le programme, marquant de manière disproportionnée les personnes de couleur. Maintenant, un an plus tard, l'ACLU a répété son test … et il semble que presque rien n'a changé.

Lors du dernier test, le logiciel Rekognition a été utilisé sur des photos de 120 législateurs californiens. il a encore une fois produit des dizaines de fausses correspondances avec des criminels connus. Dans une base de données criminelles, 26 personnes ont été identifiées comme correspondant à des photos d'identité, ce qui correspond à environ un fonctionnaire sur cinq soumis au système.

Le test visait à mettre en évidence les inconvénients de l'utilisation d'une technologie aussi imprécise pour identifier les risques potentiels. les criminels. Les forces de police qui peuvent utiliser le logiciel pour identifier rapidement les personnes ayant un casier judiciaire risquent de mal identifier une personne ou de croire à tort qu'elles sont recherchées sous un autre nom.

«Le logiciel n'est clairement pas prêt à être utilisé par les forces de l'ordre. Phil Ting, un membre de l'Assemblée de Californie qui était l'un des législateurs faussement accusé d'être un criminel, a déclaré à la LA Times . «Ces erreurs, on peut en rigoler un peu, mais si vous êtes arrêté et qu’il est dans votre casier, il peut être difficile de trouver un logement, un travail. Il a de réels impacts. ”

Amazon, pour sa part, affirme que l'ACLU“ abuse ”du logiciel, qui peut être personnalisé pour ne renvoyer les résultats que lorsqu'il est sûr à 99% d'une correspondance. La société a proposé la déclaration suivante à dhowna la :

L'ACLU utilise à nouveau sciemment et abusivement Amazon Rekognition pour faire la manchette. Comme nous l'avons dit à maintes reprises dans le passé, lorsqu'elle est utilisée avec le seuil de confiance recommandé de 99% et en tant que partie intégrante d'une décision humaine, la technologie de reconnaissance faciale peut être utilisée pour une longue liste d'objectifs utiles, tels que l'identification. des criminels à aider à retrouver les enfants disparus pour lutter contre la traite des êtres humains. Nous continuons de plaider en faveur d'une législation fédérale sur la technologie de reconnaissance faciale afin d'assurer une utilisation responsable, et nous avons partagé nos suggestions spécifiques à cet égard, à la fois en privé avec les décideurs et sur notre blog.

C'est excellent et tout, mais si le logiciel est conçu à utiliser avec cette configuration spécifique en place, pourquoi est-il même possible de la modifier et quelle est la probabilité que tous les organismes chargés de l'application de la loi qui l'utilisent suivent également cette recommandation?

Source Source: Markus Redmann / imageBROKER / REX / Shutterstock

Maqaalkani wuxuu horey u soo galay (Ingiriisi) BGR