Reino Unido lanza un comprobador de fotos de pasaportes pese a fallar con gente negra

El Gobierno de Reino Unido siguió adelante con un sistema de detección de rostros para su servicio de verificación de fotos de pasaportes a pesar de saber que la tecnología no funcionó bien para las personas de algunas minorías étnicas.

La tecnología de reconocimiento facial tiene un historial de no reconocer a las personas con ciertos tonos de piel. Por ejemplo, Google tuvo que disculparse en 2015 cuando su aplicación de fotos etiquetaba a una pareja de negros como gorilas.

Ahora, los documentos publicados por el Ministerio del Interior esta semana muestran que era consciente de los problemas con el servicio de verificación de fotos de pasaportes de su sitio web, pero decidió usarlo de todos modos.

"La investigación de usuarios se llevó a cabo con una amplia gama de grupos étnicos e identificó que las personas con piel muy clara o muy oscura tenían dificultades para proporcionar una fotografía de pasaporte aceptable", escribió el departamento en un documento publicado en respuesta a la libertad de información (FOI) solicitud. "Sin embargo; el rendimiento general se consideró suficiente para desplegarse".

Desde la implementación, algunos usuarios han tenido problemas con el servicio de revisión de fotografías. El sistema le dijo recientemente a Joshua Bada, un entrenador deportivo negro, que su foto no cumplía con los requisitos después de confundir sus labios con la boca abierta.

Cat Hallam, una oficial de tecnología negra de la Universidad de Keele, Reino Unido, descubrió que el servicio sugirió erróneamente que tenía los ojos cerrados y la boca abierta. "Lo que es muy desalentador de todo esto es que lo sabían", dijo Hallam a 'New Scientist'.

"La raza de una persona no debería ser una barrera para usar la tecnología para servicios públicos esenciales", afirmó un portavoz de la Comisión de Igualdad y Derechos Humanos del Reino Unido. "Estamos decepcionados de que el Gobierno continúe con la implementación de esta tecnología a pesar de la evidencia de que es más difícil para algunas personas usarla en función del color de su piel".

El software de detección de rostros normalmente se entrena en miles de imágenes. Una forma en que el sesgo puede ingresar al sistema es si los datos de entrenamiento no son lo suficientemente grandes o diversos como para representar al grupo en el que se utilizará.

El Ministerio del Interior dice que los usuarios pueden anular el verificador de fotos y continuar con su solicitud de pasaporte, pero los observadores dicen que no entiende el punto. "Incluso cuando el usuario puede anular la selección, todavía está creando una disparidad, en gran medida racializada, en la experiencia entre los usuarios", señala Os Keyes, de la Universidad de Washington (Seattle, EEUU).

El Ejecutivo afirmó que para mitigar el problema "continuará realizando investigaciones de usuarios y pruebas de usabilidad con los participantes apropiados para garantizar que los usuarios de diferentes etnias puedan seguir la guía de la foto y proporcionar una foto que pase los controles de fotos".

Un portavoz del Ministerio del Interior señaló a 'New Scientist': "Estamos decididos a hacer que la experiencia de cargar una fotografía digital sea lo más simple posible, y continuaremos trabajando para mejorar este proceso para todos nuestros clientes".

Noel Sharkey, un científico informático de la Universidad de Sheffield, subrayó que el caso muestra la necesidad de una nueva regulación. "Es bien sabido que los sistemas actuales de reconocimiento facial son altamente inexactos para las personas con tonos de piel más oscuros. Eso es bastante malo, pero usar una tecnología que la oficina de pasaportes sabe que es parcial es inaceptable y normaliza la injusticia. Necesitamos urgentemente una nueva regulación para detener cualquier desigualdad".