Como parte de un acuerdo legal, el Departamento de Policía de Detroit ha aceptado nuevas medidas que limitan cómo puede usar la tecnología de reconocimiento facial.
Estas nuevas políticas prohíben que la policía arreste a personas basándose únicamente en los resultados de una búsqueda de reconocimiento facial, o en los resultados de ruedas de reconocimiento realizadas inmediatamente después de una búsqueda de reconocimiento facial. También establece que las ruedas de reconocimiento no pueden realizarse solamente en base al reconocimiento facial; en su lugar, debe haber evidencia adicional que vincule a un sospechoso con el crimen.
Las políticas, que pueden ser aplicadas por un tribunal durante los próximos cuatro años, también exigen capacitación policial sobre los riesgos y peligros de la tecnología de reconocimiento facial y una auditoría de todos los casos desde 2017 donde se usó el reconocimiento facial para obtener una orden de arresto.
Roger Williams, un hombre negro que fue arrestado después de ser identificado por la tecnología de reconocimiento facial, había demandado al departamento de policía y fue representado por abogados de la Unión Americana de Libertades Civiles y la Iniciativa de Litigio de Derechos Civiles de la Facultad de Derecho de la Universidad de Michigan.
Al anunciar el acuerdo, la ACLU lo describió como el logro de “las políticas y prácticas más fuertes del país para un departamento de policía que restringen el uso de esta peligrosa tecnología por parte de las fuerzas del orden”. También señaló que las mujeres y las personas de color tienen “una probabilidad sustancialmente mayor de ser identificadas erróneamente por la tecnología de reconocimiento facial”.
“Con este doloroso capítulo de nuestras vidas cerrándose, mi esposa y yo continuaremos creando conciencia sobre los peligros de esta tecnología”, dijo Williams en un comunicado.
Según se informa, pasó 30 horas en la cárcel después de ser identificado erróneamente como un hombre captado en cámaras de seguridad robando cinco relojes de una tienda en el centro de Detroit. Su foto de licencia de conducir apareció en una búsqueda de reconocimiento facial de una base de datos de fotos de fichas policiales y licencias, y el contratista de seguridad que proporcionó el video estuvo de acuerdo en que él era la mejor coincidencia, lo que llevó a su arresto.
Los fiscales luego retiraron los cargos. El departamento de policía dijo que también está pagando a Williams $300,000 como parte del acuerdo.
En su propio comunicado, el departamento de policía dijo que está “satisfecho con su trabajo con la ACLU y la Universidad de Michigan durante el último año y medio”, agregando que “cree firmemente” que la nueva política “servirá como una mejor práctica nacional y modelo para otras agencias que usan esta tecnología”.
Ciudades como San Francisco han prohibido el uso del reconocimiento facial por parte de las fuerzas del orden. Microsoft también prohibió recientemente que los departamentos de policía usen su tecnología de IA para el reconocimiento facial.
