Tecnología

¿Twitter es racista? Muestran que la red 'esconde' a personas afro

¿Twitter es racista? Muestran que la red 'esconde' a personas afro

Un experimento informal realizado por usuarios de Twitter mostraría un 'sesgo' racista en el algoritmo que la red social usa. Se trata, puntualmente, de lo que se 'escoge' para destacar como imagen previa  de una fotografía demasiado grande. 

Por ejemplo, en fotos tipo 'collage' en las que aparecen varios rostros, el algoritmo eligió los rostros blancos por encima de los rostros afro para destacarlos en la versión pequeña.(Le recomendamos leer: Se crea robot colombiano que limpia bacterias para tiempos de pandemia).

Qué se hizo

Una de las primeras personas en intentar el experimento fue el desarrollador informático Toni Ancieri, quien subió una imagen con los rostros del expresidente Barack Obama y el líder republicano (blanco) Mitch McConnell. En un primer trino encontró que se elegía mostrar a este último, por lo que hizo dos pruebas más. 

(Siga leyendo: Último tuit de Chadwick Boseman es la publicación con más 'me gusta').

"Seguramente es la corbata roja", escribió en su segundo 'test', para el que simplemente intercambió el color de las corbatas que llevaban los políticos: McConnel seguía siendo 'elegido'. 

En una tercera imagen, Ancieri editó las fotos para que parecieran negativos y, en este caso, el algoritmo destacó al mandatario que estaba en la parte inferior de la imagen: en una salió Obama y en la otra, McConnel.

(¿Nos lee desde la app? Vea aquí los tres trinos de Ancieri).

El revuelo que generaron esos trinos llevaron a muchos otros internautas a querer comprobarlo por ellos mismos. Hubo intentos con personajes animados de 'Los Simpson'  y con hombres en traje. En ambos casos  el algoritmo puso de imagen previa al rostro más blanco. 

(Si usa la app vea acá la prueba que se hizo con dos personajes de 'Los Simpson').

Los 'resultados' del curioso estudio (que muchos atribuyeron a un error de desarrollo de inteligencia artificial - IA-) fueron tan llamativos que generaron un comunicado oficial de Twitter. 

(Le puede interesar: Robot escribe artículo y dice que es 'inútil erradicar a la humanidad').

"Hicimos pruebas antes de adquirir el modelo y no encontramos que priorizara por género o raza", informó en un tuit la plataforma. "Pero queda claro que todavía necesitamos llevar a cabo más análisis", agregó.

El 'machine learning', ¿culpable?

En 2016, Twitter adquirió la compañía británica Magic Pony Technology, una empresa especializada en el procesamiento visual utilizando técnicas de aprendizaje automático o 'machine learning'.

Según hizo público la red social en 2018, en el caso de las imágenes previas de una imagen más grande el algoritmo había aprendido a destacar los elementos más 'notables', esto basado en lo que los humanos le prestaríamos más atención.  

(Le puede interesar: Cosmonauta revela qué son los Ovnis que grabó en agosto desde la EEI).

Para incorporar algunas de las herramientas de esta empresa en su propia operación, Twitter aseguró haber hecho pruebas similares a las que recientemente se convirtieron en virales. Por lo que "todavía hay muchas preguntas que necesitamos responder", dijo el confundador de Magic Pony, Zehan Wang, según recogió la 'BBC'. 

No es la primera vez que el 'maching learning' que usan las empresas genera polémica. En 2019, por ejemplo, un estudio del Instituto Nacional de Estándares y Tecnología, organismo del Gobierno de Estados Unidos, encontró que a varias IA de reconocimiento facial que estaban probando les llevaba más tiempo reconocer rostros de personas afro y asiáticas que los de personas blancas. 

Tendencias