Hace tiempo que se viene reclamando a las empresas de internet, sobre todo a las gestoras de redes sociales y contenidos como Facebook, Twitter y Youtube, una mayor proactividad en la lucha contra la difusión del extremismo violento. Las propias compañías han declarado en los últimos meses que estaban poniendo en marcha iniciativas conjuntas y particulares para actuar contra este tipo de contenidos, iniciativas que, parece, empiezan a dar resultados.
Youtube, la división de Google dedicada a vídeos, ha implementado Jigsaw para evitar la difusión de vídeos de carácter violento antes incluso de que puedan detectarlos y borrarlos. El modelo es establecer una redirección automática en el momento en el que el usuario busque determinado tipo de contenidos.
Para ello, Youtube fija una serie de palabras clave de forma que, cuando alguien introduzca alguna o varias en su motor de búsqueda, automáticamente sea redirigido a una playlist con contenidos completamente opuestos. El usuario encontrará de repente vídeos en los que se condena, critica y desmonta los fundamentos del terrorismo, el extremismo y cualquier ideología que haga apología de ellos.
Inicialmente, la funcionalidad se aplica a búsquedas en inglés, aunque la compañía dependiente de Google ha anunciado un plan de mejora que se centra en varios puntos:
- Expandir la funcionalidad a otros idiomas.
- Habilitar el machine learning o aprendizaje automático para mantener actualizado el listado de palabras clave.
- Continuar trabajando con Jigsaw para expandir el Método de Redirección en Europa.
- Desarrollar nuevos contenidos contrarios al extremismo violento con los que contraatacar estas búsquedas mediante la colaboración con instituciones y Organizaciones No Gubernamentales.