Optimización de la implementación de redes neuronales mediante particiones

Identificador:  TFM:2416

Handle: https://hdl.handle.net/20.500.11797/TFM2416

Autores:  Petkos, Theofanis

Resumen:
Este trabajo estudia cómo dividir los modelos ResNet en k grupos secuenciales para la inferencia distribuida. Evaluamos ResNet18–152 utilizando entradas ImageNet de lote 16 en un entorno controlado, exclusivamente de CPU. Para evaluar los diseños, definimos una puntuación de rendimiento de la canalización Perf(G, n) que simula n solicitudes concurrentes a través de la canalización de k etapas, respetando la disponibilidad de los grupos, las dependencias entre etapas y los retrasos de transferencia. El tiempo de grupo combina el cálculo (suma de los tiempos de ejecución de las partes) y la comunicación (tamaño del último tensor sobre el ancho de banda). Salvo que se indique lo contrario, los coeficientes de ponderación se fijan en α = 0,3, β = 0,4 y γ = 0,3.