Intelligent Assistant System Based on Single Camera and Deep Neural Networks for Aiding Visual Impaired Individuals

Identificador:  TFM:946

Handle: https://hdl.handle.net/20.500.11797/TFM946

Autors:  Farouk Marei, David George

Resum:
Els mètodes de detecció d'objectes i estimació de profunditat poden ajudar els individus amb discapacitat visual a entendre l'escena davant d'ells. Hi ha múltiples aplicacions que proporcionen ajuda a aquests individus connectant-los (per una videotrucada) a altres que poden ajudar-los a descriure l'escena. No obstant això, creiem que puc donar una alternativa a aquestes aplicacions utilitzant models d'aprenentatge automàtic ràpid i lluminós i evitar la interacció del suport humà. El projecte es divideix en dues parts. La primera part és la detecció d'objectes en una escena. Utilitzem el model YOLOV5S que es va formar en el conjunt de dates del COCO amb 80 objectes diferents. La segona part del model d'estimació de profunditat. Vam utilitzar Midas de pytorch després de provar diversos models de profunditat. El model d'estimació de profunditat m'ajudarà a estimar la distància de cada objecte extret del model de profunditat. L'objectiu final és prendre una imatge o un vídeo de l'usuari i extreure els objectes amb la distància de cadascun d'ells i enviar aquestes dades a l'usuari en un format de nota de so.