Innovación

IBM cierra la puerta para siempre al reconocimiento facial

tecnología de reconocimiento facial

IBM deja de brindar software de análisis o reconocimiento facial, tal y como anunció su CEO Arvind Krishna, en una carta al Congreso estadounidense. El uso de esta tecnología choca con los principios de confianza y transparencia de la compañía.

Adiós al reconocimiento facial en IBM. La tecnológica anuncia que abandona “el propósito general” de este segmento de su negocio. La tecnológica incluso duda acerca de que deba usarse y sienta debate sobre el uso pernicioso de la misma, los sesgos ideológicos ante su empleo o las problemática de privacidad que plantea para la ciudadanía.

La compañía tampoco seguirá desarrollando o investigando la tecnología, según explica la carta firmada por su CEO. “IBM se opone firmemente y no tolerará el uso de ninguna tecnología ofrecida por otros proveedores, para la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas, o cualquier propósito que no sea coherente con nuestro valores y principios de confianza y transparencia”, apunta el documento, que insta a impulsar un diálogo nacional acerca de si las agencias nacionales de aplicación de la ley deben emplear estas herramientas biométricas y de detección de personas.

El Gran Hermano te vigila: así es el reconocimiento facial por países

El software de reconocimiento facial ha mejorado mucho en la última década gracias a los avances en inteligencia artificial. Al mismo tiempo, se ha demostrado que la tecnología, debido a que a menudo es proporcionada por compañías privadas con poca regulación o supervisión federal, muestra sesgos en función de la edad, la raza y el origen étnico, lo que puede hacer que las herramientas no sean confiables para la aplicación de la ley y seguridad, así como promotoras de abusos de los derechos civiles.

En 2018, una investigación realizada por Joy Buolamwini y Timnit Gebru puso sobre la mesa el hecho de que muchos sistemas comerciales de reconocimiento facial, entre los que se incluía la tecnología de IBM, estaban sesgados. Por su parte, otro estudio del NIST realizado en diciembre de 2019 encontró “evidencia empírica de la existencia de una amplia gama de precisión en las diferencias demográficas en la mayoría de los algoritmos de reconocimiento facial actuales que fueron evaluados”, por ejemplo. La tecnología también ha sido criticada por su papel en las violaciones de privacidad.

Se han sucedido múltiples casos: la herramienta de la compañía Clearview AI. construida con más de 3.000 millones de imágenes recopiñadas en parte a partir de redes sociales, fue utilizada por múltiples empresas del sector privado y las fuerzas del orden. Desde entonces, Clearview recibió numerosas órdenes de cese y desistimiento y se enfrenta a diversas demandas de privacidad. Facebook también recibió la orden en enero de pagar 550 millones de dólares para resolver una demanda colectiva por el uso ilegal de la tecnología de reconocimiento facial.

Fuente | The Verge

Te recomendamos

Sobre el autor

Andrea Núñez-Torrón Stock

Licenciada en Periodismo y creadora de la revista Literaturbia. Entusiasta del cine, la tecnología, el arte y la literatura.