Plataforma de reconocimiento facial identificó erróneamente a más de 100 políticos como delincuentes

Paul Bischoff de Comparitech descubrió que la plataforma de reconocimiento facial de Amazon identificó erróneamente a un gran número de personas, y, además, presentaba prejuicios raciales.El sistema reconoció más de 100 fotos de legisladores estadounidenses y británicos como delincuentes. Rekognition, la plataforma de reconocimiento facial basada en la nube de Amazon se lanzó por primera […]

Paul Bischoff de Comparitech descubrió que la plataforma de reconocimiento facial de Amazon identificó erróneamente a un gran número de personas, y, además, presentaba prejuicios raciales.
El sistema reconoció más de 100 fotos de legisladores estadounidenses y británicos como delincuentes.

Rekognition, la plataforma de reconocimiento facial basada en la nube de Amazon se lanzó por primera vez en 2016, y ha sido vendida y utilizada por varias agencias gubernamentales de los Estados Unidos, incluidas ICE y Orlando, la policía de Florida, así como entidades privadas.

Al comparar fotos de un total de 1.959 legisladores estadounidenses y británicos con sujetos en una base de datos de arrestos. Bischoff descubrió que Rekognition identificó mal a un promedio de 32 miembros del Congreso. 

Cifra que cuadruplica los resultados realizados en un experimento similar por la Unión Americana de Libertades Civiles (ACLU), hace dos años atrás. Se descubrió además que la plataforma estaba sesgada racialmente, identificando erróneamente a las personas no blancas a un ritmo mayor que a las blancas.

Con respecto a este tema, cabe destacar que la semana pasada, la ACLU informó sobre el caso de un ciudadano de Detroit, Robert Julian-Borchak Williams, quien fue arrestado después de que un sistema de reconocimiento facial combinara falsamente su foto con imágenes de seguridad de un ladrón de tiendas.

Por lo demás, expertos en tecnologías de organizaciones como el MIT, Microsoft, Harvard, firmaron esta carta abierta que denunciaba un artículo que describía sobre algoritmos de IA que podían predecir el crimen basándose solo en la cara de una persona.

Amazon ha vendido su tecnología a varios departamentos de policía en USA, no obstante, y hace poco tiempo interpuso una moratoria a la aplicación de la ley sobre reconocimiento facial, Microsoft e IBM también hicieron lo mismo.