De modelos lingüísticos tradicionales a modelos extensos de lenguaje: un nuevo modelo basado en pnl para el análisis de sentimientos en redes sociales

Identificador:  TFM:2338

Handle: https://hdl.handle.net/20.500.11797/TFM2338

Autores:  Arias Cámara, Daniel

Resumen:
Esta tesis aborda la necesidad de herramientas de análisis de sentimiento en catalán mediante la creación de un nuevo corpus equilibrado de 23 000 muestras y el desarrollo de un modelo de clasificación especializado, el CSXSC. Este modelo RoBERTa, optimizado y con 125 millones de parámetros, que solo utiliza el codificador, se comparó con dos modelos que solo utilizan el decodificador y que cuentan con 7 000 millones de parámetros, entrenados eficientemente con QLoRA. Los resultados demuestran la superioridad del modelo especializado, que alcanzó una precisión del 83,69 % en el conjunto de prueba final, siendo más de 24 veces más eficiente computacionalmente. Este estudio concluye que, para esta tarea discriminativa, un modelo más pequeño y con una arquitectura adecuada proporciona una solución más precisa y práctica que los modelos LLM de propósito general de mayor tamaño.