Leveraging inter- and intra-class distances for poisoning attacks

Bel Ribes, Eduard Josep

Pertany a la col·lecció TFM:SerieGeneralMESIIA

TÍTOL:

Leveraging inter- and intra-class distances for poisoning attacks - TFM:1634

Handle:

https://hdl.handle.net/20.500.11797/TFM1634

Estudiant:	Bel Ribes, Eduard Josep
Idioma:	en
Títol en la llengua original:	Leveraging inter- and intra-class distances for poisoning attacks
Títol en diferents idiomes:	Aprofitant les distàncies inter i intra classe per als atacs d'enverinament.
Paraules clau:	Federated Learning, Label Flipping, Machine Learning
Matèria:	Enginyeria informàtica
Resum:	En el món interconnectat en què vivim, la intel·ligència artificial (IA) i l'aprenentatge automàtic (ML) han revolucionat les nostres interaccions amb la tecnologia. Entre els paradigmes emergents, l'aprenentatge federat (FL) és un nou enfocament per entrenar models de ML d'una manera descentralitzada. FL permet que els models ML obtinguin respostes de les dades dels usuaris sense comprometre la seva privadesa, cosa que fa que sigui essencial per a aplicacions com ara teclats de text predictiu, sistemes de reconeixement de veu i fins i tot models de diagnòstic de malalties. Tanmateix, la descentralització intrínseca de FL també l'exposa a vulnerabilitats de seguretat. Aquesta investigació està motivada per la necessitat d'entendre i abordar aquestes vulnerabilitats, ja que FL s'integra cada cop més en aplicacions del món real, inclosos sistemes crítics com els vehicles de conducció autònoma. L'objectiu principal d'aquest estudi és investigar les vulnerabilitats a què s'enfronten els sistemes FL i identificar estratègies per mitigar eficaçment possibles atacs. Concretament, explorem la viabilitat de les tècniques intel·ligents de canvi d'etiquetes en comparació amb els mètodes de força bruta quan s'ataquen sistemes FL. El nostre objectiu és determinar si una selecció estratègica de mostres per al canvi d'etiquetes pot produir atacs més reeixits que el canvi d'etiquetes indiscriminat. En aquesta tesi, hem realitzat experiments sobre atacs de volteig d'etiquetes i podem treure dues conclusions clau. En primer lloc, vam trobar que l'eficàcia dels atacs de volteig d'etiquetes augmenta a mesura que augmenta el nombre de mostres amb etiquetes girades, especialment en escenaris amb nombrosos atacants i defenses febles. En segon lloc, els nostres atacs més sigils proposats presenten una major resistència als mecanismes de defensa en comparació amb l'atac estàndard.
Director del projecte:	Blanco Justicia, Alberto
Departament:	Enginyeria Informàtica i Matemàtiques
Ensenyament(s):	Enginyeria de la Seguretat Informàtica i Intel·ligència Artificial
Entitat:	Universitat Rovira i Virgili (URV)
Data de la defensa del treball:	2023-09-15
Curs acadèmic:	2022-2023
Confidencialitat:	No
Àrees temàtiques:	Enginyeria informàtica
Aprenentatge Servei:	No
Data d'alta al repositori:	2024-04-09
Drets d'accés:	info:eu-repo/semantics/openAccess

Cerca el teu registre a:

Fitxers disponibles
Fitxer	Descripció	Format
Memòria	Memòria	application/pdf

Tots els objectes d'aquesta col·lecció

Cobertura:	No
Tipus:	info:eu-repo/semantics/masterThesis
Títol:	Leveraging inter- and intra-class distances for poisoning attacks
Coautor:	Blanco Justicia, Alberto
Matèria:	Enginyeria informàtica Computer engineering Ingeniería informática Enginyeria informàtica
Data:	2023-09-15
Idioma:	en
Format:	Universitat Rovira i Virgili (URV)
Autor:	Bel Ribes, Eduard Josep
Drets:	info:eu-repo/semantics/openAccess

Informació