El reconocimiento facial ha dado lugar a detenciones injustas. Entonces Detroit está haciendo cambios.

En enero de 2020, Robert Williams pasó 30 horas en una cárcel de Detroit porque la tecnología de reconocimiento facial sugería que era un criminal. El partido salió mal y el Sr. Williams presentó una demanda.

El viernes, como parte de un acuerdo legal por su arresto injusto, Williams obtuvo el compromiso del Departamento de Policía de Detroit de hacerlo mejor. La ciudad ha adoptado nuevas reglas para el uso policial de la tecnología de reconocimiento facial que, según la Unión Estadounidense de Libertades Civiles, que representó a Williams, debería ser el nuevo estándar nacional.

«Esperemos que esto mueva la aguja en la dirección correcta», dijo Williams.

Williams fue la primera persona conocida arrestada injustamente debido a un reconocimiento facial incorrecto. Pero no fue el último. La policía de Detroit arrestó al menos a dos personas más luego de que las búsquedas de reconocimiento facial salieran mal, incluida una mujer acusada de robo de auto cuando estaba embarazada de ocho meses.

Los organismos encargados de hacer cumplir la ley en todo el país están utilizando tecnología de reconocimiento facial para tratar de identificar a los delincuentes cuyas fechorías son captadas por la cámara. En Michigan, el software compara una cara desconocida con aquellas que aparecen en una base de datos de fotografías policiales o de licencias de conducir. En otras jurisdicciones, la policía utiliza herramientas, como Clearview AI, que buscan fotografías recuperadas de sitios de redes sociales y de la Internet pública.

Una de las nuevas reglas más notables adoptadas en Detroit es que las imágenes de personas identificadas mediante tecnología de reconocimiento facial ya no se pueden mostrar a un testigo en una fotografía policial a menos que haya otra evidencia que las vincule con el crimen.

«El proceso de ‘tomar una fotografía, ponerla en la alineación’ terminará», dijo Phil Mayor, abogado de la ACLU de Michigan. «Este acuerdo transforma al Departamento de Policía de Detroit de ser el usuario abusivo de tecnología de reconocimiento facial mejor documentado a un líder nacional en el uso de barandillas».

La policía dice que la tecnología de reconocimiento facial es una herramienta poderosa para ayudar a resolver delitos, pero algunas ciudades y estados, incluidos San Francisco, Austin, Texas y Portland, Oregon, han prohibido temporalmente su uso debido a preocupaciones sobre la privacidad y los prejuicios raciales. Stephen Lamoreaux, director de tecnología de la información de la unidad de inteligencia criminal de Detroit, dijo que el departamento de policía estaba «muy ansioso por utilizar la tecnología de manera significativa para la seguridad pública». Detroit, dijo, tiene «la política más fuerte de la nación ahora».

Williams fue arrestado después de un delito en 2018. Un hombre robó cinco relojes de una boutique en el centro de Detroit mientras era captado por una cámara de vigilancia. Una empresa de prevención de pérdidas proporcionó las imágenes al Departamento de Policía de Detroit.

Una búsqueda del rostro del hombre en comparación con fotografías de licencia de conducir y fotografías policiales arrojó 243 fotografías, clasificadas según si el sistema estaba seguro de que era la misma persona en el video de vigilancia, según documentos revelados como parte de la demanda del Sr. Williams. Una foto antigua del permiso de conducir del señor Williams ocupaba el noveno lugar en la lista. La persona que realizó la búsqueda lo consideró la mejor opción y envió un informe a un detective de la policía de Detroit.

El detective incluyó la fotografía del Sr. Williams en una «serie de fotografías de seis paquetes» (fotos de seis personas en una cuadrícula) que mostró al contratista de seguridad que había proporcionado el video de vigilancia de la tienda. Estuvo de acuerdo en que el señor Williams era el más cercano al hombre de la boutique, y esto dio lugar a la orden de arresto. Williams, que estaba en su escritorio en una empresa de suministros para automóviles cuando robaron los relojes, pasó la noche en la cárcel y le tomaron las huellas dactilares y el ADN. Fue acusado de fraude minorista y tuvo que contratar a un abogado para defenderse. Los fiscales finalmente abandonaron el caso.

Demandó a Detroit en 2021 con la esperanza de imponer una prohibición a la tecnología para que otros no sufrieran la misma suerte que él. Dijo que se sorprendió el año pasado cuando se enteró de que la policía de Detroit había acusado a Porcha Woodruff de robo de auto y robo después de un mal reconocimiento facial. La policía arrestó a la señora Woodruff mientras preparaba a sus hijos para la escuela. También demandó a la ciudad; el caso está en curso.

«Es muy peligroso», dijo Williams, refiriéndose a la tecnología de reconocimiento facial. «No veo ningún beneficio positivo en ello».

La policía de Detroit es responsable de tres de los siete casos conocidos en los que el reconocimiento facial condujo a un arresto injusto. (Los otros estaban en Luisiana, Nueva Jersey, Maryland y Texas). Pero los funcionarios de Detroit dijeron que los nuevos controles evitarían mayores abusos. Y siguen siendo optimistas sobre el potencial de la tecnología para resolver delitos, que ahora utilizan sólo en casos de delitos graves, incluidos asaltos, asesinatos e allanamientos de viviendas.

James White, jefe de policía de Detroit, atribuyó los arrestos injustos a un «error humano». Sus oficiales, dijo, dependían demasiado de las pistas producidas por la tecnología. Fue su criterio el que falló, no el de la máquina.

La nueva política, que entrará en vigor este mes, debería ayudar con esto. Según las nuevas reglas, la policía ya no puede mostrar el rostro de una persona a un testigo basándose únicamente en el reconocimiento facial.

«Tiene que haber algún tipo de evidencia secundaria que lo corrobore y que no esté relacionada antes de que haya una justificación suficiente para ir a la capacitación», dijo. Sr. Lamoreaux de la Unidad de Inteligencia Criminal de Detroit. La policía necesitaría información de ubicación del teléfono de una persona, por ejemplo, o evidencia de ADN, algo más que un parecido físico.

El departamento también está cambiando la forma en que realiza capacitaciones en fotografía. Se trata de adoptar lo que se llama una secuencia doble ciego, que se considera una forma más justa de identificar a alguien. En lugar de presentar un «paquete de seis» a un testigo, un oficial, que no sabe quién es el principal sospechoso, presenta las fotos una por una. Y el entrenamiento incluye una foto de la persona diferente a la que surgió del sistema de reconocimiento facial.

La policía también tendrá que revelar que se realizó un registro facial, así como la calidad de la imagen del rostro buscado (¿qué tan granulada era la cámara de vigilancia? ¿Qué tan visible es el rostro del sospechoso?) porque una imagen de mala calidad tiene menos probabilidad de producir resultados confiables. También tendrán que revelar la antigüedad de la foto que surgió del sistema automatizado y si había otras fotos de la persona en la base de datos que no coincidieran.

Franklin Hayes, subjefe de policía de Detroit, dijo que confiaba en que las nuevas prácticas evitarían futuras identificaciones erróneas.

«Todavía hay algunas cosas que podrían pasar desapercibidas, por ejemplo, los gemelos idénticos», dijo Hayes. «Nunca podremos decir nunca, pero creemos que esta es nuestra mejor política hasta ahora».

Arun Ross, profesor de informática en la Universidad Estatal de Michigan y experto en tecnología de reconocimiento facial, dijo que la política de Detroit es un excelente punto de partida y que otras agencias deberían adoptarla.

«No queremos pisotear los derechos y la privacidad de las personas, pero tampoco queremos que el crimen se vuelva rampante», dijo Ross.

La identificación de testigos presenciales es una tarea difícil y la policía ha adoptado cámaras y reconocimiento facial como herramientas más confiables que la memoria humana imperfecta.

El año pasado, el Jefe White dijo a los legisladores locales que la tecnología de reconocimiento facial había ayudado a «sacar de las calles a 16 asesinos». Cuando se les pidió más información, los funcionarios del departamento de policía no proporcionaron detalles sobre esos casos.

En cambio, para demostrar los éxitos del departamento con la tecnología, los agentes de policía reprodujeron un vídeo de vigilancia de un hombre rociando combustible dentro de una gasolinera y prendiéndole fuego. Dijeron que había sido identificado con tecnología de reconocimiento facial y arrestado esa noche. Posteriormente se declaró culpable.

El Departamento de Policía de Detroit es uno de los pocos que controla las búsquedas de reconocimiento facial y presenta informes semanales sobre su uso a una junta de supervisión. En los últimos años, ha realizado un promedio de más de 100 búsquedas por año, y aproximadamente la mitad de esas búsquedas arrojaron coincidencias potenciales.

El departamento solo registra la frecuencia con la que recibe una pista, no si funciona. Pero como parte de su acuerdo con Williams, quien también recibió 300.000 dólares, según un portavoz de la policía, debe realizar una auditoría de sus búsquedas de reconocimiento facial que se remontan a cuando comenzó a usar la tecnología en 2017. Si identifica otros casos en los que Si se arresta a personas con poca o ninguna evidencia que la respalde, aparte de una coincidencia facial, el departamento debe notificar al fiscal correspondiente.

Molly Kleinman, directora de un centro de investigación tecnológica de la Universidad de Michigan, dijo que las nuevas protecciones parecen prometedoras, pero sigue siendo escéptica.

«Detroit es una ciudad extraordinariamente vigilada. Hay cámaras por todas partes», afirmó. «Si toda esta tecnología de vigilancia realmente hiciera lo que dice que haría, Detroit sería una de las ciudades más seguras del país».

Willie Burton, miembro de la Junta de Comisionados de Policía, un grupo de vigilancia que respaldó las nuevas políticas, las describió como “un paso en la dirección correcta”, aunque todavía se oponía al uso de tecnología de reconocimiento facial por parte de la policía.

«La tecnología aún no está lista», dijo Burton. “Un arresto falso es demasiado, y tener tres en Detroit debería hacer sonar las alarmas para detenerlo”.