Sensitive Content Detection on Android Using Deep Learning and Secure Federated Learning Techniques

Abstract

Nowadays, the exposure of minors to social networks and multimedia content on the Internet is increasingly frequent and early, which means an increased risk of receiving images with unwanted content on their mobile devices. This problem is further aggravated by the general lack of education for a correct and safe use of Internet services.

Faced with this problem, this Final Degree Project proposes a solution to mitigate the risk of this problem. For this purpose, a mobile application has been developed that analyzes and automatically detects images with sexual content. Taking advantage of deep learning technologies, a model capable of identifying photographs with sexual content has been developed.

In addition, in order to keep the model updated without compromising user privacy, the system has been implemented following a federated architecture. This approach allows the models to be updated directly on the users’ devices, without having to transfer personal data to a central server. In this way, the local models are trained with the device data and then send the necessary parameters to a server. These parameters are aggregated to generate a global version of the model. From this global model the same parameters are extracted and sent to the devices for updating.

As an additional layer of security, all data transmitted between the server and the mobile devices is transmitted in encrypted form, thus avoiding possible interception by third parties. To guarantee this protection, a hybrid encryption system has been implemented, in which a secret key is shared through a secure channel, ensuring both the confidentiality and integrity of the information transmitted during the communication process.

En la actualidad, la exposición de los menores a las redes sociales y al contenido multimedia de internet es cada vez mas frecuente y temprana, lo que supone un aumento del riesgo a recibir imágenes con contenido indeseado en sus dispositivos móviles. Esta problemática se agrava además ante la falta generalizada de educación para realizar un uso correcto y seguro de los servicios de internet.

Ante esta problemática, en este Trabajo Fin de Grado se propone una solución que mitigue el riesgo de esta problemática. Para ello, se ha desarrollado una aplicación móvil que analiza y detecta de manera automática imágenes con contenido sexual. Aprovechando las tecnologías de aprendizaje profundo, se ha desarrollado un modelo capaz de identificar fotografías con contenido sexual.

Además, con el objetivo de mantener el modelo actualizado sin comprometer la privacidad de los usuarios, se ha implementado el sistema siguiendo una arquitectura federada. Este enfoque permite actualizar de manera directa los modelos en los dispositivos de los usuarios, sin tener que transferir datos personales a un servidor central. De esta manera, los modelos locales se entrenan con los datos del dispositivo y, luego, envía los parámetros necesarios a un servidor. Estos parámetros se agregan para generar una versión ́global del modelo. De este modelo global se extraen los mismos parámetros y se envía a los dispositivos para actualizarlos. Como capa adicional de seguridad, todos los datos transmitidos entre el servidor y los dispositivos móviles se transmiten de forma cifrada, evitando así posibles interceptaciones por parte de terceros. Para garantizar esta protección, se ha implementado un sistema de cifrado hıbrido, en el que una clave secreta es compartida a través de un canal seguro, permitiendo asegurar tanto la confidencialidad como la integridad de la información transmitida durante el proceso de comunicación.