Twitter está tratando de determinar por qué su función de vista previa de fotos muestra signos de prejuicio racial. Varios usuarios descubrieron que era más probable que los rostros negros se recortaran de las vistas previas de las fotos en comparación con los rostros blancos.
Un defecto en el algoritmo de Twitter
Cuando ves una imagen en Twitter, es solo una vista previa, tienes que hacer clic en ella para ver la imagen completa. Twitter utiliza un algoritmo para recortar fotos y dicta lo que verá en las vistas previas de las imágenes.
En 2018, Twitter anunció su función de recorte automático inteligente en una publicación en el Blog de Twitter. Esta función utiliza la "prominencia" para concentrarse en las partes más destacadas de las fotos y luego recorta las vistas previas de las fotos en consecuencia.
Los usuarios de Twitter descubrieron que la red neuronal de la plataforma puede tener un sesgo racial. Un usuario publicó una foto del senador estadounidense Mitch McConnell junto al ex presidente Barack Obama.
Intentando un experimento horrible ...
- Tony “Abolish ICE” Arcieri 🦀 (@bascule) 19 de septiembre de 2020
¿Cuál elegirá el algoritmo de Twitter: Mitch McConnell o Barack Obama? pic.twitter.com/bR1GRyCkia
La vista previa de la imagen recorta descaradamente el rostro de Obama, incluso cuando su rostro se coloca en la parte superior de la foto. Cuando el mismo usuario intentó invertir los colores de la imagen, la cara de Obama finalmente apareció en la vista previa de la imagen.
Otros usuarios comenzaron a realizar sus propios experimentos. Una y otra vez, los usuarios descubrieron que el algoritmo parecía preferir constantemente las caras blancas a las negras.
Liz Kelley, miembro del equipo de comunicaciones de Twitter, envió un Tweet en respuesta a los hallazgos de los usuarios de Twitter. Señaló que, si bien el equipo de Twitter ya probó el algoritmo en busca de sesgos, tendría que investigar más.
gracias a todos los que plantearon esto. probamos el sesgo antes de enviar el modelo y no encontramos evidencia de sesgo racial o de género en nuestras pruebas, pero está claro que tenemos más análisis por hacer. Abriremos nuestro trabajo para que otros puedan revisarlo y reproducirlo. https://t.co/E6sZV3xboH
- liz kelley (@lizkelley) 20 de septiembre de 2020
Todos estos descubrimientos se derivaron del Tweet de un usuario sobre un Problema de llamada de zoom. Zoom continuamente no pudo detectar la cara de su amigo negro cuando intentó usar un fondo virtual. Cuando el usuario recurrió a Twitter para publicar capturas de pantalla del problema, Twitter eliminó a su amigo negro de la vista previa de la imagen.
Eliminando el sesgo de Twitter
Si bien todos estos experimentos son informales, parecen resaltar un problema real. Twitter definitivamente tendrá que observar más de cerca su función de recorte automático y ver si tiene un sesgo racial arraigado.
Dicho esto, el algoritmo de recorte automático de Twitter no es la única función de Twitter que ha sido criticada. Después de todo, muchos usuarios tampoco son fanáticos del algoritmo de la plataforma que organiza automáticamente su feed.
Los feeds algorítmicos solo sirven a las redes sociales. Aquí se explica cómo cambiar a feeds cronológicos en Twitter, Instagram y Facebook.
- Redes sociales
- Noticias tecnológicas
- Gorjeo
Emma es escritora senior y editora junior para las secciones de Internet y Creatividad. Se graduó con una licenciatura en inglés y combina su amor por la tecnología con la escritura.
Suscríbete a nuestro boletín
¡Únase a nuestro boletín de noticias para obtener consejos técnicos, reseñas, libros electrónicos gratuitos y ofertas exclusivas!
Un paso más…!
Confirme su dirección de correo electrónico en el correo electrónico que le acabamos de enviar.