IBM cierra su línea de software de reconocimiento facial

En un contexto en que la tecnología de reconocimiento facial va en aumento, y en plena crisis del coronavirus con sus implicaciones en la vigilancia poblacional, IBM ha anunciado que cierra su línea de software de reconocimiento facial. Las razones que alega el gigante tecnológico es que considera que hay sesgo y desigualdad, ataques a los derechos humanos.

El contexto de la decisión de IBM

La noticia saltó a la luz a principios de junio. No es trivial considerar que IBM ha tomado la decisión justamente en plena polémica anti-racista tras la muerte de George Floyd a manos de la policía norteamericana.

En una carta informada por CNBC y Axios, escrita en apoyo de la Ley de Justicia en la Policía presentada hace unos días, el CEO de IBM Krishna explicó la decisión.

IBM se opone firmemente y no tolerará el uso de ninguna tecnología, incluida la tecnología de reconocimiento facial ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con nuestros valores y principios de confianza y transparencia.

Además, Arvind Krishna mencionaba en su carta que consideran desde IBM que es el momento de empezar un diálogo sobre si las autoridades pueden o no aplicar la tecnología de reconocimiento facial, y cómo.

Para IBM no se trata de negar la utilidad del reconocimiento facial, sino de moderar y controlar su uso, por los peligros que puede suponer. Krishna sostiene que la IA es una «herramienta poderosa» para muchos objetivos, incluido el de garantizar la aplicación de la ley. Lo que señala el CEO de IBM es que en todo caso su uso debe mantenerse bajo control con pruebas auditadas de sesgo.

En la línea del sesgo, hay que tener en cuenta que otro contexto clave es que a finales de mayo la IA de Clearview ha sido denunciada por ACLU por sus violaciones de privacidad y su sesgo, que podría perjudicar a personas de origen latino e inmigrantes en general.

Más allá del reciente cierre oficial de IBM de su línea de negocio de reconocimiento facial, la compañía hace años que trabaja por evitar los abusos de esta tecnología. Por ejemplo, en el año 2018 lanzó una serie de datos públicamente para poder minimizar el sesgo.

Resiliente Digital

¿Hay sesgo en la inteligencia artificial de reconocimiento facial?

Las críticas a la tecnología de reconocimiento de caras se remontan a hace tiempo. En concreto en el año 2018 se realizó un estudio por parte de Joy Buolamwini y Timnit Gebru. Con esta investigación se reveló por primera vez el sesgo que tiene el reconocimiento facial, incluida la tecnología de IBM.

Más tarde, en 2019, hubo otro estudio revelador al respecto de la diferencia de enfoque en este tipo de algoritmos cuando se trataba de sujetos con rasgos afroamericanos o asiáticos. Así lo mostró el Instituto Nacional de Estándares y Tecnología.

El informe reveló que había evidencia empírica de la existencia de un amplio rango de precisión en las diferencias demográficas en la mayoría de los algoritmos de reconocimiento facial. También advertían sobre las violaciones de privacidad de este tipo de sistemas.

Un dato a tener en cuenta es que el estudio del NIST no incluía en su informe ningún sesgo por parte del sistema de reconocimiento de rostros de Amazon. Precisamente esta tecnología de Jeff Bezos es de las pocas que se venden a las autoridades para su uso por parte de las fuerzas del orden.

¿Está el software de Amazon libre de críticas a su sesgo racial? No, ya que la Unión Estadounidense de Libertades Civiles descubrió en el año 2018 que Amazon Rekognition asoció de manera incorrecta a 28 miembros del Congreso con rostros elegidos de 25.000 fotografías públicas, por ejemplo.

Por otro lado, ha habido más polémicas sobre el uso de reconocimiento facial en los tres últimos años. Por ejemplo, el hecho de que Moscú y Londres fueran las primeras ciudades en desplegar IA de reconocimiento facial hace ya más de un año. Por alguna razón muchas corporaciones preocupadas como Google decidieron hace más de un año defender la moratoria sobre esta tecnología, para retrasar así su uso y posibles abusos.

¿Una decisión política o empresarial?

Algunos dicen que la decisión de IBM puede ser estratégica, dado que hasta el momento el reconocimiento facial está en pañales. Es cierto que ha evolucionado mucho en la última década, pero todavía falta mucho para que cumpla las expectativas.

Además, parece que la compañía de momento está sacando poco provecho de esta línea de negocio. IBM compite con otras tecnologías como el sistema Rekognition de Amazon, que tampoco parece ofrecer por el momento suficiente calidad como para dar respuesta a las necesidades policiales.

Conclusión

En tiempos de coronavirus y de movimientos sociales contra los abusos de poder, el reconocimiento facial puede representar una amenaza para los derechos civiles. Con todo, también hay muchos especialistas y usuarios fascinados por esta tecnología y las extraordinarias posibilidades que ofrece en usos constructivos y beneficiosos para la sociedad, como la curación de enfermedades.

El reconocimiento facial se encuentra en un momento de revisionismo necesario, especialmente por el increíble poder que otorga a los que lo utilizan. La clave es mejorar su precisión y ajustar sus errores para evitar discriminaciones raciales, de género o de cualquier otro tipo. Además, también será fundamental asegurar la privacidad y evitar que unos pocos tengan el control de toda esta tecnología.

Déjanos tu comentario:

comentarios

Marketing Automation