Aprofitant les distàncies inter i intra classe per als atacs d'enverinament.

Identificador:  TFM:1634

Handle: https://hdl.handle.net/20.500.11797/TFM1634

Autors:  Bel Ribes, Eduard Josep

Resum:
En el món interconnectat en què vivim, la intel·ligència artificial (IA) i l'aprenentatge automàtic (ML) han revolucionat les nostres interaccions amb la tecnologia. Entre els paradigmes emergents, l'aprenentatge federat (FL) és un nou enfocament per entrenar models de ML d'una manera descentralitzada. FL permet que els models ML obtinguin respostes de les dades dels usuaris sense comprometre la seva privadesa, cosa que fa que sigui essencial per a aplicacions com ara teclats de text predictiu, sistemes de reconeixement de veu i fins i tot models de diagnòstic de malalties. Tanmateix, la descentralització intrínseca de FL també l'exposa a vulnerabilitats de seguretat. Aquesta investigació està motivada per la necessitat d'entendre i abordar aquestes vulnerabilitats, ja que FL s'integra cada cop més en aplicacions del món real, inclosos sistemes crítics com els vehicles de conducció autònoma. L'objectiu principal d'aquest estudi és investigar les vulnerabilitats a què s'enfronten els sistemes FL i identificar estratègies per mitigar eficaçment possibles atacs. Concretament, explorem la viabilitat de les tècniques intel·ligents de canvi d'etiquetes en comparació amb els mètodes de força bruta quan s'ataquen sistemes FL. El nostre objectiu és determinar si una selecció estratègica de mostres per al canvi d'etiquetes pot produir atacs més reeixits que el canvi d'etiquetes indiscriminat. En aquesta tesi, hem realitzat experiments sobre atacs de volteig d'etiquetes i podem treure dues conclusions clau. En primer lloc, vam trobar que l'eficàcia dels atacs de volteig d'etiquetes augmenta a mesura que augmenta el nombre de mostres amb etiquetes girades, especialment en escenaris amb nombrosos atacants i defenses febles. En segon lloc, els nostres atacs més sigils proposats presenten una major resistència als mecanismes de defensa en comparació amb l'atac estàndard.