Aplicación móvil para la detección y bloqueo de vídeos con contenido explícito utilizando técnicas de Aprendizaje Profundo

Abstract

La amplia proliferación de las tecnologías móviles, ha causado que personas cada vez más jóvenes tengan acceso a redes sociales sin una supervisión adecuada ante los riesgos a los que se expone. El presente trabajo, se enfoca en el estudio y desarrollo de una aplicación móvil para dispositivos Android que tenga la capacidad de detectar y alertar casos de Grooming. El funcionamiento principal de la aplicación se basa en el análisis y documentación del registro de vídeos e imágenes recibidos a través de mensajería instantánea Telegram, de la carpeta de descargas y de la carpeta de la cámara. Dichos vídeos serán analizados extrayendo fotogramas claves y estos por una Inteligencia Artificial, la cual en caso de encontrar material pornográfico, se manda una alerta directamente al tutor correspondiente y borrará el vídeo. El objetivo principal de la aplicación es mantener su funcionamiento de manera continua e imperceptible en segundo plano y poder analizar los vídeos del menor desde el propio dispositivo sin necesidad de un servidor. Por último se evaluará el desempeño de la aplicación, según la efectividad y eficiencia en el análisis de los vídeos y alertado y borrado de los vídeos una vez analizados.

Due to the widespread use of mobile technologies, an increasing number of young people access social networks globally without adequate supervision regarding the risks they may face. In this context, this study focuses on the development of a mobile application for Android devices with the purpose of detecting and alerting cases of Grooming, as well as continuously monitoring the user’s location. The main functionality of the application is based on the analysis and monitoring of videos received through instant messaging application Telegram, the download folder and the camera folder. These videos will be analyzed extracting key frames and these by an Artificial Intelligence, which, in the event of finding pornographic material, will send a direct alert to the corresponding guardian and delete the video. The main goal of the application is to maintain its continuous and imperceptible operation in the background, enabling the analysis of the minor’s videos directly on the device without the need for a server. Finally, the performance of the application will be evaluated, according to the effectiveness and efficiency in the analysis of the videos and the alerting and deletion of the videos once analyzed.