Entidad: Universitat Rovira i Virgili (URV)
Confidencialidad: No
Enseñanza(s): Enginyeria de la Seguretat Informàtica i Intel·ligència Artificial
APS: No
Título en diferentes idiomas: Aprovechando las distancias inter e intraclase para ataques de envenenamiento.
Resumen: En el món interconnectat en què vivim, la intel·ligència artificial (IA) i l'aprenentatge automàtic (ML) han revolucionat les nostres interaccions amb la tecnologia. Entre els paradigmes emergents, l'aprenentatge federat (FL) és un nou enfocament per entrenar models de ML d'una manera descentralitzada. FL permet que els models ML obtinguin respostes de les dades dels usuaris sense comprometre la seva privadesa, cosa que fa que sigui essencial per a aplicacions com ara teclats de text predictiu, sistemes de reconeixement de veu i fins i tot models de diagnòstic de malalties. Tanmateix, la descentralització intrínseca de FL també l'exposa a vulnerabilitats de seguretat. Aquesta investigació està motivada per la necessitat d'entendre i abordar aquestes vulnerabilitats, ja que FL s'integra cada cop més en aplicacions del món real, inclosos sistemes crítics com els vehicles de conducció autònoma. L'objectiu principal d'aquest estudi és investigar les vulnerabilitats a què s'enfronten els sistemes FL i identificar estratègies per mitigar eficaçment possibles atacs. Concretament, explorem la viabilitat de les tècniques intel·ligents de canvi d'etiquetes en comparació amb els mètodes de força bruta quan s'ataquen sistemes FL. El nostre objectiu és determinar si una selecció estratègica de mostres per al canvi d'etiquetes pot produir atacs més reeixits que el canvi d'etiquetes indiscriminat. En aquesta tesi, hem realitzat experiments sobre atacs de volteig d'etiquetes i podem treure dues conclusions clau. En primer lloc, vam trobar que l'eficàcia dels atacs de volteig d'etiquetes augmenta a mesura que augmenta el nombre de mostres amb etiquetes girades, especialment en escenaris amb nombrosos atacants i defenses febles. En segon lloc, els nostres atacs més sigils proposats presenten una major resistència als mecanismes de defensa en comparació amb l'atac estàndard.
Materia: Enginyeria informàtica
Curso académico: 2022-2023
Idioma: en
Fecha de la defensa del trabajo: 2023-09-15
Áreas temàticas: Ingeniería informática
Estudiante: Bel Ribes, Eduard Josep
Departamento: Enginyeria Informàtica i Matemàtiques
Fecha de alta en el repositorio: 2024-04-09
Palabras clave: Federated Learning, Label Flipping, Machine Learning
Título en la lengua original: Leveraging inter- and intra-class distances for poisoning attacks
Derechos de Accesso: info:eu-repo/semantics/openAccess
Director del proyecto: Blanco Justicia, Alberto
Repositori URV