App en iOS para la detección de contenido explícito en audio y texto

Abstract

El objetivo de este TFG es investigar, desarrollar e implementar un sistema basado en técnicas de Aprendizaje Profundo que sea capaz de detectar contenido explícito en archivos tanto de audio como de texto en dispositivos con Sistema Operativo iOS. Con el fin de alcanzar tal meta, se ha creado una aplicación móvil que posibilita grabar un audio, escribir manualmente un mensaje o cargar archivos de texto y audio. Luego, analiza dichos contenidos utilizando redes neuronales entrenadas con Python y Swift como lenguajes clave para su desarrollo. Este proceso se divide en dos etapas. En la primera, utilizamos técnicas de inteligencia artificial para convertir audio en texto utilizando el modelo de OpenAI Whisper. En la segunda etapa, empleamos un modelo entrenado que nos ayuda a determinar si el contenido es explícito o no. El detector ha sido desarrollado utilizando TensorFlow como la biblioteca principal. La combinación de TensorFlow para la clasificación y Whisper para la transcripción de audios nos brindarrá una solución completa.

The aim of this TFG is to research, develop and implement a system based on Deep Learning techniques that is capable of detecting explicit content in both audio and text files on iOS devices. To do so, we have develop a mobile app that allows to record an audio, manually write a message or upload text and audio files. It then uses neural networks to analyze its content, with Python and Swift as the key languages for its development. This process is divided into two stages. Firstly, we use artificial intelligence techniques to convert speech to text using the OpenAI Whisper model. In the second stage, we use a trained model to help us determine whether the content is explicit or not. The detector has been developed using TensorFlow as the main library. The combination of TensorFlow for classification and Whisper for audio transcription will give us a complete solution.