‘¿Qué tan normal soy?‘ es un documental interactivo que nos permite ver cómo actúan los sistemas de reconocimiento facial mediante una experiencia vivencial de forma segura y respetando nuestra privacidad ya que los datos quedan guardados en la nube y no en nuestro buscador. El proyecto Sherpa financiado por el fondo europeo Horizon 2020 ha sido creado por el artista y tecnólogo Pala de tomillo y se hacen eco entidades que trabajan el ciberactivismo como Donestech.
La herramienta utiliza diferentes sistemas de ‘aprendizaje automático’ de código abierto descargados de la plataforma GitHub que predicen nuestra belleza, nuestra edad, nuestro género, las emociones que sentimos, el índice de masa corporal y la esperanza de vida. Así, Scheper quiere evidenciar que muchas empresas no hacen el proceso de entrenamiento de sus algoritmos sino que los encargan a terceros que se dedican a la machine learning ‘dificultando así la mejora de los sesgos discriminatorios.
En el caso del índice de masa corporal, tuvo que crearlo de cero porque no encontró ninguna que le sirve para la herramienta en línea. Durante el desarrollo basado en todos los otros algoritmos que había encontrado que adjuntaban un montón de fotografías, se sintió sucio, afirma.
Los datos que recogía para elaborar la puntuación que serviría para decir si alguien estaba por encima o por debajo de su peso espiritual variaba en el caso de los hombres ya que según el algoritmo, que medía proporciones como por ejemplo la distancia entre las cejas y los ojos, solían tener la cara más ancha. También si eres atleta bajaba la predicción de tu masa corporal.
De este modo, como dice el nombre del documental, tenemos más puntuación cuanto más EBS parecemos a la media. Y eso es lo que ocurre en los algoritmos que organizan la información en aplicaciones y plataformas digitales, tales como Tinder, Que promueve los match entre personas con el mismo nivel de atractivo, o TikTok, que da más visibilidad a los contenidos como más atractivas son las personas que salen. Unos algoritmos que, además, tienen dificultades para reconocer las caras de las personas racializadas.
Sobre la predicción de la edad, que se utiliza en la observación fronteriza y también en las aplicaciones de citas, se puede comprobar que si movemos la cabeza el número varía y que, en muchos casos, la máquina no acierta.
Pero no se necesitan sistemas de reconocimiento facial para saber muchas cosas de nosotros. Sólo con la conexión a esta web con nuestra IP se puede saber dónde estamos, nuestro origen, qué edad tenemos, nuestro género e incluso nuestro índice de masa corporal y así calcular nuestra esperanza de vida. Y aún más: nuestra cara tiene una huella digital con un número que sirve para que las empresas de observación masiva puedan identificarnos. Ciencia ficción o realidad?