Grado de dificultad: 1 (solo haremos una presentación superficial sobre este tema).

Columnista: Redacción

El reconocimiento facial es una técnica sofisticada. No se engañen, sin embargo: no es muy confiable, por varias razones que expondremos rápidamente.

Reconocimiento facial “interruptus”

Es una de las noticias tecnológicas del momento:

Tres grandes empresas desarrolladoras de algoritmos de reconocimiento facial decidieron prohibir el uso de sus algoritmos por servicios de policía.

Las empresas en cuestión son todas estadounidenses, y con nombres prestigiosos: IBM, Amazon y Microsoft.

Logo de IBM - Origen IBM
Logo Amazon - Origen Amazon
Logo Microsoft - Origen MIcrosoft

La más agresiva de las tres fue IBM, que anunció que se retiraba completamente de este negocio.

IBM will no longer develop or sell facial recognition software

Su CEO expresó su preocupación sobre la persecución racial y la vigilancia masiva.

Nota: el CEO de IBM no es blanco, lo cual pudo influenciar su visión. Aclaremos, sin embargo, que tal decisión puede cambiar en el futuro.

Amazon fue más “restrictivo” y “enfocado”, hablando de una pausa de 1 año y de las actividades policiacas.

Amazon suspends police use of its facial recognition technology for one year

El tercero, en orden cronológico, fue Microsoft, hablando, también, de temas de policía.

After IBM and Amazon, Microsoft bans facial recognition sales to police

Motivaciones no tan éticas

Una técnica poco confiable

Los diferentes matices en estas decisiones reflejan un tema no tan claro.

Según TMN, se trata más de estrategias tecnológicas y de negocios que de una preocupación societal (aunque el caso de IBM sea más radical al respecto).

Ciertamente, eventos recientes y dramáticos influyeron sobre la percepción de grandes corporaciones estadounidenses sobre ellas mismas y el entorno que las vio nacer.

Sin embargo, parece ser, sobre todo, una oportunidad sobre la cual saltaron para pedir una pausa.

Simbolo "Timeout" - Origen desconocido

La razón es sencilla: los sistemas de reconocimiento facial no funcionan bien.

Existen demasiadas maneras de engañar a los algoritmos:

  • Elementos faciales adicionales y opcionales (gafas, barba, máscaras, alteraciones intencionales),
  • Los tonos de piel más obscuros reducen el contaste en los rasgos analizados,
  • Una simple foto puesta delante de una cara puede ser interpretada como un rostro real.

Resultados manipulables

Por otra parte, es muy fácil orientar los resultados en una dirección u otra.

En la foto encabezando el artículo, por ejemplo, aparece una categoría “Ethnicity” en la cual la persona analizada es catalogada como “Africana”…

GIF confused - Origen desconocido

… Ejemplo que muestra una interpretación subjetiva y generadora de discriminación.

En particular una prueba sobre un algoritmo (el de Amazon) habría falsamente identificado 28 miembros del congreso americano con delincuentes conocidos…

Amazon’s Face Recognition Falsely Matched 28 Members of Congress With Mugshots

Nota: habría que ver en cuales condiciones se realizó esta prueba. Las fotos “oficiales” suelen “mejorar y alterar” la apariencia de estas personas.

Lo anterior, sin embargo, refleja que tan poco confiable es la técnica actual.

Más allá de los escrúpulos morales (…), esta baja confiabilidad afecta la confianza en las empresas implicadas.

Presenta, además, un riesgo alto de demandas en su contra.

Consecuencias contraproducentes

En consecuencia, si parece una decisión sana en la actualidad, no pensamos que sea por las razones correctas.

Esperamos, que los especialistas en esta disciplina aprovechen esta oportunidad para mejorar la confiabilidad de sus técnicas.

Quedara, sin embargo, una pregunta importante: ¿a qué sirve el reconocimiento facial?

Si es para crear una sociedad panóptica (como parece ser el objetivo de algunos), una contra cultura podría nacer:

El uso de técnicas de camuflaje, la creación de zonas “protegidas”, y la desaparición de las video comunicaciones serían sus consecuencias lógicas.

La prohibición siempre demostró ser contraproducente.

Header Kirabytes