Cuando se trata de las redes sociales, todos sabemos que además de los muchos beneficios que brinda al hacer conexiones más fácil, también puede haber ciertos riesgos y peligros que vienen con la interacción en línea, especialmente para los jóvenes. Afortunadamente, existen aplicaciones que están siendo proactivas y están tratando de limitar estos daños que pueden sufrir los jóvenes mediante la implementación de tecnologías de moderación adecuadas.
Yubo, la aplicación de descubrimiento social en vivo más utilizada por Gen Z, ha anunciado que su moderación de audio de transmisión en vivo La tecnología se está expandiendo a sus mercados más grandes, a saber, Estados Unidos, Reino Unido, Australia y Canadá.
Esto se produce después de varios meses de probar la función en algunas áreas de los Estados Unidos, ya que la compañía aprendió cómo abordar los problemas que surgen con el análisis de audio en tiempo real.
La importancia de la moderación del contenido
Moderar contenido en línea es un trabajo difícil de hacer. Hemos visto esto con Facebook, Twitter, Instagram, etc. Entre insultos, comentarios de odio o incluso, a veces, violencia o autolesiones, la moderación es muy importante para mantener estas plataformas seguras y sus usuarios protegidos. Hay algo en poder esconderse detrás del supuesto anonimato que ofrece Internet que puede sacar lo peor de algunas personas.
Bueno, Yubo continúa demostrando que está haciendo todo lo posible para ayudar a prevenir esto, especialmente porque su base de usuarios es mucho más joven. Según Yubo, el 99% de su base de usuarios es Gen Z de 13 a 25 años. Si bien el acoso en línea no es agradable de soportar para nadie, puede ser particularmente dañino para los adolescentes.
La tecnología de moderación de imágenes y videos ha existido por un tiempo y se ha implementado con varias etapas de éxito. Moderación de audio, sin embargo, sigue siendo un gran desafío, especialmente con las transmisiones en vivo. Ya sea una transmisión en vivo tomada mientras camina por la calle o una en la que alguien está jugando un videojuego, en realidad no importa.
Cómo funciona la moderación de audio de Yubo
A partir de mayo de 2022, Yubo inició una fase de prueba de su tecnología de moderación de audio en varias áreas de los Estados Unidos. Ahora, la siguiente fase incluye la mayoría de las regiones de habla inglesa donde Yubo tiene una gran base de usuarios para permitir que la empresa obtenga una mejor visión de su nueva herramienta de seguridad.
Aunque todavía es nueva, se trata de una tecnología que podría acabar siendo ampliamente utilizada para detectar violencia o autolesiones en el futuro.
Yubo no está haciendo todo esto solo, sino en asociación con Hive. Hive, si no ha oído hablar de ellos, es una empresa que crea y proporciona API de moderación de contenido para procesar imágenes y videos casi en tiempo real.
La tecnología que implementó Yubo funciona grabando y transcribiendo fragmentos de audio de 10 segundos en transmisiones en vivo de 10 o más personas. El texto es inmediatamente analizado por inteligencia artificial para detectar cualquier palabra o frase que viole la aplicación. Principios de la Comunidad.
Espera, no se detiene aquí. Si bien la inteligencia artificial puede ser excelente para detectar tales cosas, todavía está lejos del punto en el que puede diferenciar entre usos problemáticos reales y banderas falsas.
Las banderas falsas pueden ser, por ejemplo, canciones que se reproducen de fondo o lenguaje lúdico que no tiene malas intenciones.
Entonces, aquí es donde entran en juego los especialistas en seguridad de Yubo, ya que son contratados para investigar los incidentes señalados. Los humanos son los que pueden determinar si una situación requiere escalar o no si hay acciones. que se debe tomar en contra de las personas que usan malas palabras, o incluso si es necesario llevar a cabo la aplicación de la ley en.
Si la transmisión en vivo está perfectamente bien, no se revisan las transcripciones ni se guardan más allá de un límite de 24 horas, por lo que todo permanece privado; o tan privado como puede ser una transmisión en vivo con más de 10 personas.
Sin embargo, si los algoritmos detectan amenazas violentas, discursos de odio o autolesiones, por ejemplo, las transcripciones se almacenan hasta por un año. Esta es, por supuesto, una medida de seguridad para la empresa en caso de que las fuerzas del orden requieran la información o la propia empresa necesite los detalles para futuras investigaciones internas.
El director de operaciones de Yubo, Marc-Antoine Durand, ve la expansión de moderación de audio la tecnología como un elemento clave en la evolución de la seguridad en línea en toda la industria.
“Todavía queda mucho por hacer en el área de la detección de voz, pero estamos orgullosos de abrir un camino para nuestros pares al ser el primero en lanzar la moderación de audio con Hive y ayudar a que esta herramienta sea más confiable y efectiva a través de esta prueba”, Durand dicho.
Obviamente, las plataformas sociales no quieren intimidación desenfrenada, discurso de odio y comentarios que inciten a la violencia, ya que alejarían a otros usuarios. La implementación de dicha tecnología de moderación es una gran herramienta para mantener a los usuarios seguros y también para ayudar a garantizar el crecimiento y el éxito de Yubo a largo plazo.
