Diseño de un control de contenidos

Abstract

En este trabajo se ha realizado una extensión de Google Chrome utilizando un modelo de machine learning para la detección y posterior bloqueo en tiempo real de los contenidos “ProAnaMia” (apología de la anorexia y la bulimia). Para ello, se ha complementado el servidor que integra los modelos de clasificación y procesa las peticiones de análisis del texto que se extrae de las páginas web visitadas. La extensión, desarrollada desde cero, intercepta de manera dinámica el contenido de cada sitio que se visita, envía el texto al servidor para que lo evalúe y, en caso de que el contenido sea peligroso, restringe al usuario la web redirigiéndolo a una página de bloqueo. Además, tiene una lista negra con todas las direcciones de los sitios peligrosos almacenada de manera local, para su posterior revisión en caso de que fuese necesario. Este sistema ofrece así una solución completa a un problema en auge dentro de internet.

This project presents the development of a Google Chrome extension that leverages a machine learning model to detect and block “ProAnaMia” content (glorification of anorexia and bulimia) in real time. A complementary server was implemented to host the classification models and handle analysis requests for text extracted from visited web pages. The extension, built from scratch, dynamically intercepts page content, sends it to the server for evaluation, and—if deemed dangerous—redirects the user to a designated block page. Additionally, it maintains a locally stored blacklist of all blocked URLs for subsequent review if needed. This modular system provides a comprehensive solution to counter the growing problem of harmful online content.