IBM abandona el negocio del reconocimiento facial: alegan preocupaciones de privacidad y discriminación racial

En IBM se acabó el desarrollo y la venta de software para el reconocimiento facial. Así lo ha afirmado el CEO de la compañía en una carta enviada al Congreso de Estados Unidos. El presidente de la empresa no sólo avisa de que dejan de desarrollar e investigar esta tecnología, sino que pide revaluar si los organismos nacionales deben o no utilizar este tipo de tecnologías.

La carta enviada a un total de cinco senadores del Congreso de Estados Unidos recoge la oposición de IBM en el uso de esta tecnología para propósitos como "la vigilancia masiva, el perfil racial, las violaciones de los derechos humanos y las libertades básicas". Desde hace años IBM es uno de los grandes proveedores de tecnología del gobierno norteamericano.

En Xataka

Hay quien critica a mucha inteligencia artificial como racista/etnocéntrica, pero el problema está en los datos

Durante los últimos años la tecnología del reconocimiento facial ha evolucionado de forma considerable gracias al avance de otras tecnologías como la inteligencia artificial. Sin embargo a menudo sufre un sesgo por los datos de los que se alimenta para mejorar su precisión, como en cierto modo trató de reflejar la congresista Ocasio-Cortez confundiendo términos. Por otro lado, también se sabe que se puede utilizar esta automatización directamente para elaborar perfiles raciales.

Organismos como el MIT han trabajado para evitar este tipo de situaciones. Hasta la propia IBM hizo público en 2018 una gigantesca base de datos para el reconocimiento facial con la que aumentar la diversidad y evitar este tipo de sesgo. Pero claro, a IBM también se le ha acusado de categorizar y entrenar a su IA por el color de la piel de los rostros analizados con su tecnología de reconocimiento facial. En su historial también está el hecho de usar millones de fotos de Flickr para entrenar su IA. Relacionado con la discriminación racial, el año pasado en sus ofertas de trabajo pedía el grupo étnico a los candidatos.

Una llamada a la reconsideración del uso de la tecnología

Aparte de IBM, otros polémicos sistemas de grandes tecnológicas utilizados por las autoridades estadounidenses son por ejemplo Clearview AI o Rekognition de Amazon. El primero de ellos se ha visto envuelto en varias acusaciones de violación de la privacidad, mientras que Rekognition de Amazon se sabe que es utilizado por la policía de diferentes estados.

Indican fuentes a CNBC que la decisión es en parte ética y en parte por negocio. El reconocimiento facial no ha generado ingresos significativos para IBM en los últimos tiempos. La compañía ha tomado la decisión en los últimos meses y no ha sido algo apresurado por la situación actual de Estados Unidos tras la muerte de George Floyd. De hecho los clientes de IBM han sido informados previamente y ahora simplemente se ha comunicado públicamente, aseguran en Axios.

Dice el CEO de IBM que "es el momento de iniciar un diálogo nacional sobre si la tecnología de reconocimiento facial debe ser empleada por los organismos nacionales encargados de hacer cumplir la ley". La carta también incluye sugerencias para la legislación que incumbe a las autoridades y cómo se utiliza la tecnología en este caso.

Vía | Axios
Más información | IBM

-
La noticia IBM abandona el negocio del reconocimiento facial: alegan preocupaciones de privacidad y discriminación racial fue publicada originalmente en Xataka por Cristian Rus .

Fuente: Xataka
Enlace: IBM abandona el negocio del reconocimiento facial: alegan preocupaciones de privacidad y discriminación racial