¿La base de datos de contenido terrorista violará su privacidad?

Anuncio

Facebook, Twitter, Microsoft y YouTube he anunciado que estarían trabajando juntos para construir una base de datos masiva. Esta base de datos contendrá imágenes y videos. utilizado por redes terroristas Crimen, terrorismo y seguridad: el lado oscuro de las redes socialesLas redes sociales no son solo memes de gatos y videos de bromas. Los usuarios de Facebook, Twitter y Tumblr pueden encontrar fácilmente material más oscuro distribuido por grupos terroristas tecnológicamente expertos. Que deberias hacer al respecto? Lee mas difundir propaganda y llegar a posibles reclutas. La base de datos alertará a estas compañías cuando algo en su sitio probablemente viole sus términos de uso.

Parece una buena idea, ¿verdad?

Los detalles

A partir de ahora, los detalles no están claros. Cada imagen y video en la base de datos tendrá una "huella digital única" y las empresas recibirán alertas cuando ese contenido aparezca en su sitio. Al comienzo del programa, las compañías solo agregarán "las imágenes y videos terroristas más extremos y atroces" a la base de datos.

La idea es que estas imágenes y videos sean los más propensos a violar el términos de Uso Por qué deberías leer los Términos de servicio, hacer que Pokemon GO se vaya... [Resumen de noticias tecnológicas]Todos pasan por alto los Términos de Servicio, PokeGone convierte a Pokémon GO en Pokémon NO, Facebook mantiene sus conversaciones en secreto, Blizzard silencia a los jugadores de World of Warcraft y Samuel L. Jackson explica Game of Thrones. Lee mas de todas las plataformas. Esto hace que sea una decisión fácil eliminar ese contenido si aparece en otro lugar. Cada compañía decide qué imagen y videos deben estar en la base de datos. También tendrán el poder de decidir si eliminar el contenido si aparece en su sitio.

Eso es todo lo que sabemos hasta ahora. Twitter espera que "esta colaboración conduzca a una mayor eficiencia a medida que continuamos aplicando nuestras políticas para ayudar a frenar el apremiante problema global del contenido terrorista en línea ". Pero realmente no sabemos mucho lejos. ¿Quién decidirá qué contenido contribuir? ¿Las empresas establecerán comités de revisión independientes para este tipo de cosas? ¿O simplemente agregarán algunas cosas de vez en cuando cuando lo deseen?

Un pobre registro

Es realmente difícil controlar el contenido en línea. Ya sea información errónea, abuso, videos de reclutamiento terrorista Cómo las plataformas de redes sociales luchan contra los extremistasLas redes sociales presentan una poderosa herramienta para los grupos terroristas, principalmente para propaganda y reclutamiento. Entonces, ¿qué están haciendo Facebook y Twitter al respecto? ¿Cómo pueden las redes sociales combatir el terrorismo? Lee mas , o uno de los miles de otros tipos de contenido incorrecto en línea, hay un campo minado de problemas inherentes al proceso. ¿Quién decide qué grupos califican como terroristas? ¿Cómo se toma la decisión de eliminar contenido? ¿Saldrán las empresas a buscarlo o dependerán de los usuarios para informarlo?

Microsoft, en su declaración sobre contenido terrorista en línea, dijo esto:

Cuando el contenido terrorista en nuestros servicios de consumidor alojados se nos llame a través de nuestra herramienta de informes en línea, lo eliminaremos.

Y proporcionan un enlace a un formulario utilizado específicamente para informar sobre contenido terrorista. Pero, ¿qué posibilidades hay de que alguien realmente busque y use ese formulario? También dicen que "eliminarán los enlaces a contenido relacionado con el terrorismo de Bing solo cuando esa eliminación sea requerida por los proveedores de búsqueda de conformidad con la ley local".

Esto pone aún más la responsabilidad en otra parte.

Cuestiones de responsabilidad

La Electronic Frontier Foundation ha escrito ampliamente sobre las dificultades para vigilar este tipo de contenido en línea. En una publicación de 2014, criticaron el plan del Reino Unido para obligar a los ISP a bloquear el "contenido extremista" sin procedimientos de transparencia y responsabilidad. Los grupos de derechos humanos también han criticado a Francia por tener definiciones muy amplias de actividad terrorista.

Tanto Twitter como Facebook tienen registros bastante pobres con contenido policial en sus sitios Cómo las plataformas de redes sociales luchan contra los extremistasLas redes sociales presentan una poderosa herramienta para los grupos terroristas, principalmente para propaganda y reclutamiento. Entonces, ¿qué están haciendo Facebook y Twitter al respecto? ¿Cómo pueden las redes sociales combatir el terrorismo? Lee mas . Aunque Twitter eliminó más de 100,000 cuentas de Twitter relacionadas con ISIS y comenzó a controlar el discurso de odio grupos más fuertemente, tienen una mala reputación por permitir que el extremismo y el abuso corran desenfrenados en sus plataforma. Facebook también parece contento de seguir usando un enfoque de no intervención bajo el estandarte de la libertad de expresión.

Por supuesto, es bastante difícil gestionar este tipo de responsabilidad. No digo que sea fácil. Pero las empresas tecnológicas son expertas en distanciarse de para qué se utiliza su tecnología. Eso incluye la propagación de imágenes terroristas, videos, campañas de reclutamiento y otros contenidos. En agosto de 2016, un Informe británico declaró que Facebook, Twitter y YouTube estaban "fallando conscientemente en combatir el uso de sus sitios para promover el terrorismo y los asesinatos".

El establecimiento de una base de datos de imágenes y videos no parece que cambie eso. Es alentador que estén tomando medidas, pero es difícil imaginar que sea poco entusiasta.

¿Podría ser esto un problema de privacidad?

Debido a que las compañías agregarán elementos manualmente a la base de datos después de que los usuarios los reporten, no parece que existe la posibilidad de que tus imágenes o videos lleguen accidentalmente a la base de datos. Lo cual es alentador. Sin embargo, la creación de una base de datos central masiva llena de contenido "malo" identificado de forma única es preocupante.

Esto se debe en gran parte a que las personas a cargo en ese momento pueden decidir qué cuenta como "malo". Esto es especialmente cierto si hay participación gubernamental. Puede que seas parte de la mayoría un día, y en una minoría perseguida al día siguiente. El despliegue de este tipo de tecnología hace que ese tipo de cambio sea aún más aterrador.

Por supuesto, no hay indicios de que estas empresas utilizarán esta base de datos para nada más que la aplicación laxa de sus propias pautas de términos de uso. Pero el hecho de que las organizaciones privadas hayan desarrollado y estén implementando esta tecnología podría preocupar a algunas personas. Los gobiernos seguramente tienen tecnología de vigilancia que ya es tan poderosa, pero la proliferación podría ser una señal de que las corporaciones tendrán las herramientas para recopilar más información en el futuro cercano.

En este momento, no hay razón para preocuparse de que su privacidad se vea amenazada por la base de datos de contenido terrorista. Pero organizaciones de privacidad y defensa ¿Quién está luchando en su nombre contra la NSA y por la privacidad?Hay varios grupos de activismo en Internet que luchan en su nombre por la privacidad. También están haciendo todo lo posible para educar a los internautas. Aquí hay algunos de ellos que son increíblemente activos. Lee mas haría bien en vigilar el despliegue de este tipo de tecnología en otros lugares.

¿Un paso adelante?

Es bueno ver que las empresas tecnológicas están intensificando y siendo proactivas sobre el contenido terrorista en sus plataformas. Pero su historial está lleno de aplicación laxa y negligencia deliberada. ¿Esta herramienta ayudará a cambiar eso? No parece probable. (A menos que lo automaticen, lo que viene con una gran cantidad de otros problemas). En mi opinión, esta base de datos no cambiará mucho, y Twitter, Facebook, Microsoft y YouTube lo han concebido muy bien como una medida de relaciones públicas en lugar de una realmente destinada a hacer el bien

¿Qué piensas? ¿Esta base de datos ayudará a combatir la propagación de contenido terrorista en línea? ¿O es un gesto vacío en un esfuerzo por obtener admiración pública? ¡Comparte tus pensamientos en los comentarios a continuación!

Créditos de imagen: Yunava1 / Shutterstock