De models tradicionals a models de llenguatge extensos: un nou model basat en pnl per a l'anàlisi de sentiments a xarxes socials

Identificador:  TFM:2338

Handle: https://hdl.handle.net/20.500.11797/TFM2338

Autors:  Arias Cámara, Daniel

Resum:
Aquesta tesi aborda la necessitat d'eines d'anàlisi de sentiments en català mitjançant la creació d'un nou corpus equilibrat de 23.000 mostres i el desenvolupament d'un model de classificació especialitzat, el CSXSC. Aquest model RoBERTa ajustat, només amb codificador i 125 milions de paràmetres, es va comparar amb dos models només amb descodificador i 7.000 milions de paràmetres entrenats eficientment mitjançant QLoRA. Els resultats demostren la superioritat del model especialitzat, que va aconseguir una precisió del conjunt de proves final del 83,69%, alhora que va ser més de 24 vegades més eficient computacionalment. Aquest estudi conclou que per a aquesta tasca discriminativa, un model més petit i arquitectònicament apropiat proporciona una solució més precisa i pràctica que els LLM més grans i d'ús general.