Facebook está mejorando su eficiencia para reconocer y eliminar contenido que incita al odio. La plataforma Informe de cumplimiento de normas comunitarias muestra una reducción significativa en la prevalencia del discurso de odio en el último trimestre de 2020.
El discurso de odio en Facebook ha disminuido
En el Informe de cumplimiento de los estándares comunitarios de Facebook de octubre a diciembre de 2020, la plataforma reveló importantes mejoras en la forma en que Facebook está manejando el discurso de odio. Guy Rosen, vicepresidente de integridad de Facebook, hizo una publicación en el blog Acerca de Facebook para destacar su éxito.
Por cada 10,000 visitas de contenido de Facebook, solo de siete a ocho fueron vistas de contenido de odio. Facebook también tomó medidas en relación con 6,3 millones de publicaciones sobre acoso e intimidación, un aumento de las 2,5 millones de publicaciones en el tercer trimestre.
La plataforma también pudo capturar 6,4 millones de piezas de contenido de odio organizado, lo cual es una mejora en comparación con los cuatro millones de piezas de contenido que Facebook eliminó en la cuarto.
El Informe de cumplimiento de los estándares comunitarios mostró mejoras similares en Instagram. Se eliminaron cinco millones de publicaciones relacionadas con el acoso y la intimidación en Instagram, junto con 6.6 millones de contenido que contenía discursos de odio y 308,000 piezas de contenido de odio organizado. Todos estos números superan las estadísticas registradas en el tercer trimestre.
La tasa proactiva de Facebook, también conocida como la cantidad de contenido que Facebook elimina antes de que un usuario lo informe, también mejoró. En el caso de la intimidación y el acoso, la tasa proactiva de la plataforma se disparó del 26 al 49 por ciento en Facebook y del 55 al 80 por ciento en Instagram.
La IA de detección del odio de Facebook ha desempeñado un papel importante en el impulso de su respuesta al discurso de odio. Rosen señala que la plataforma ha realizado mejoras en su IA "donde los matices y el contexto son esenciales, como incitación al odio o la intimidación y el acoso ", que en última instancia ayudó a reducir la cantidad de contenido de odio en Facebook.
La IA de detección de odio de Facebook ha ayudado a la plataforma a detectar el discurso de odio incluso antes de que se informe.
Mike Schroepfer, director de tecnología de Facebook, hizo una publicación separada en el blog Acerca de Facebook para celebrar los logros de la IA en constante mejora de Facebook. A pesar de sus logros recientes, Schroepfer espera que la IA de Facebook pueda mejorar "en la visualización de contenido en contexto a través de idiomas, culturas y geografías".
La IA de Facebook se está volviendo más inteligente
Facebook comenzó a confiar más en su sistema de inteligencia artificial para ayudar a evaluar el contenido de odio debido a la pandemia de COVID-19 en curso. Rosen señaló que es probable que el equipo de Facebook todavía se vea afectado por la pandemia "hasta que una vacuna esté ampliamente disponible".
Aunque los moderadores de Facebook algún día volverán a trabajar con normalidad, no parece que la IA de la plataforma vaya a ninguna parte. Facebook solo ha hecho que su IA sea más inteligente y eficiente, y no parece que Facebook planee dejar de progresar pronto.
La herramienta automática de texto alternativo de Facebook ahora puede describir imágenes con precisión con más detalle.
- Sin especificar
Emma es escritora senior y editora junior para las secciones de Internet y Creatividad. Se graduó con una licenciatura en inglés y combina su amor por la tecnología con la escritura.
Suscríbete a nuestro boletín
¡Únase a nuestro boletín de noticias para obtener consejos técnicos, reseñas, libros electrónicos gratuitos y ofertas exclusivas!
Un paso más…!
Confirme su dirección de correo electrónico en el correo electrónico que le acabamos de enviar.
