Articles Intel·ligència Artificial
«Algoritmo: ¡Yo también existo!»
24 de setembre de 2019
0
, , , , ,
(artículo publicado en SHIFTA Medium, 2 de septiembre de 2019)

Por Karma Peiró y Ricardo Baeza-Yates

finales de enero, una concurrida zona del este de Londres fue escogida por la policía británica para llevar a cabo un ‘peculiar’ experimento: la cara de cualquier persona que entrara en el perímetro de cámaras que rodea las estaciones de tren era cruzada con un listado de los criminales más buscados en el Reino Unido.

(Flickr: Harshil Shah)

Londres es la segunda ciudad más monitorizada del mundo –después de Pekín– con 420 mil cámaras repartidas en espacios públicos y privados. Los agentes se ocultaron en una furgoneta con ordenadores en su interior. Si algún ciudadano se percataba de que estaba siendo vigilado y ocultaba el rostro, un policía se le acercaba para pedirle que facilitara el reconocimiento facial. A una queja insistente, le caía una multa. Aquel día, cuatro personas fueron arrestadas por no querer mostrar su cara.

El Servicio de Inmigración y Control de Aduanas de los Estados Unidos utiliza un sistema similar al de la policía británica pero con millones de fotografías del carnet de conducir. Y FaceApp –la aplicación viral presentada como un entretenimiento que recrea la niñez y vejez de cualquier persona– entrena su sistema con millones de caras concedidas gratuitamente, aunque sea sin leer los términos de uso y su cláusula de privacidad.

Cedemos gratuitamente nuestro rostro a cualquier empresa

Porque en esta cláusula se explicita que la persona concede una “licencia perpetua, irrevocable, no exclusiva, mundial y gratuita” de todos sus datos personales. Y añade que “comparte la información con terceros”. Lo que no se cuenta es que estos ‘terceros’ pueden ser un gobierno, una policía con la intención de cruzar los rostros con datos de criminalidad o cualquier otra empresa ubicada en otro país, con regulaciones bien distintas a las del usuario.

¿Debería preocuparnos este funcionamiento? Quizás no. Quizás nos debería preocupar mucho más el sesgo de los algoritmos de reconocimiento facial que discriminan injustamente a las mujeres y los que no son blancos, porque los obvia o los señala culpabilizándolos sin motivo.

Sin consentimiento y con sesgos

Actualmente, muchos de los dispositivos que reconocen las huellas digitales, la voz, la cara o el iris usan redes neuronales –algoritmos complejos que requieren grandes cantidades de datos para reconocer patrones–. Para que sean más precisos, se introducen al sistema millones de etiquetas que van entrenando la máquina.

El problema es que los algoritmos no son neutros. Tampoco los datos que sirven para entrenarlos, porque tienen sesgos. Y esto no es nada nuevo. Los sesgos son parecidos a los prejuicios: todos los tenemos, en menor o mayor grado. Si los sesgos no se corrigen, hay el riesgo de habitar en un futuro donde cada vez sea más difícil el progreso social porque los prejuicios se perpetúan.

Google Photo no reconocía a las personas negras

En los últimos años se han detectado y denunciado ampliamente los sesgos de los algoritmos para el reconocimiento facial porque discriminan, especialmente con caras no blancas y no masculinas. Por ejemplo, en 2015, Google Photos clasificó a algunas personas negras como ‘gorilas’. Su solución inicial fue eliminar ciertas etiquetas, como el término “gorilas”, en lugar de arreglar el modelo en sí. El año pasado, el programa Rekognition de Amazon identificó erróneamente a 28 de los 435 miembros del congreso como delincuentes.

Un último ejemplo es el de la compañía francesa IDEMIA: su programa escanea millones de caras y las sirve a la policía de los Estados Unidos, Australia y Francia. Pero sus algoritmos no siempre ven todas las caras con la misma claridad, es como si algunas, las más oscuras, no existieran. El Instituto Nacional de Estándares y Tecnología (NIST) de EE.UU. indicó — en su evaluación del pasado julio– que dos de los sistemas tenían muchas más probabilidades de confundir los rostros de las mujeres negras que los de las mujeres blancas.

¿Por qué tienen estos errores o sesgos los sistemas inteligentes? Porque el aprendizaje de la máquina se basa en los datos de entrenamiento. Pero no se puede aprender lo que no está en ellos. Y ésta es la principal razón de los problemas actuales en sistemas de reconocimiento de caras, coches sin conductor, etc.

Gender Shades Project estudia los sesgos en el reconocimiento de caras

El proyecto Gender Shades –dedicado a estudiar los sesgos en el reconocimiento facial– también concluye que los sistemas actuales tienen menos precisión cuando han de clasificar rostros femeninos oscuros, comparado con el resto de caras.

Numerosos ejemplos dejan claro que el reconocimiento facial sin consentimiento, con fines no especificados, ya se está aplicando en todo el mundo. Se sabe también que todos los algoritmos que facilitan esta función tienen sesgos, con las consecuentes repercusiones.

Tener conciencia de la existencia de las desviaciones de los algoritmos es el principal paso para cambiar la situación actual. Y cuando decimos ‘tener conciencia’ nos referimos a tener interés por el funcionamiento de la tecnología que facilita cualquier faceta de nuestra vida personal o pública, e interés por entender a qué estamos accediendo al aceptar una cláusula de privacidad, así como los posibles riesgos y errores que todo ello comporta.


Karma Peiró es periodista especializada en Tecnologías de la Información y la Comunicación desde 1995. Ricardo Baeza-Yates es experto en Inteligencia Artificial y CTO de NTENT, compañía de tecnología semántica de California.

 

About author

Karma Peiró

Continguts relacionats

Captura de Pantalla 2019-11-09 a les 0.07.58

«¿Por qué la inteligencia artificial discrimina a las mujeres?»

Artículo escrito por Ricardo Baeza-Yates y Karma ...

Llegir més
e69f6a9a-6f40-4c28-ae1b-02c4fad91686

Premi #DonaTic Divulgació 2019

Estic molt emocionada i agraïda per haver rebut e...

Llegir més
Captura de Pantalla 2019-07-14 a les 12.41.43

«Desprotegides, malgrat tot»

(artículo publicado en SHIFTA Medium, 2 de septie...

Llegir més

There are 0 comments

Deixa un comentari

L'adreça electrònica no es publicarà. Els camps necessaris estan marcats amb *