Dimensionality expansion for motif recognition in time series data

Bertalanič, Blaž (author), Meža, Marko (mentor), Fortuna, Carolina (comentor)

This thesis explores the application and optimization of dimensionality expansion techniques for time series classification, focusing on two critical smart infrastructure scenarios: wireless link layer anomaly detection and appliance recognition in smart grids via non-intrusive load monitoring. Initial investigations reveal that dimensionality expansion methods substantially enhance classification accuracy. However, a significant challenge arises with scalability, as these methods typically increase computational complexity quadratically with the length of the time series. To overcome this, we developed a novel approach that not only ensures linear scalability but also surpasses traditional imaging techniques in classification accuracy. Further, recognising the need for rapid response in time-sensitive applications, we aimed to deploy our models on constrained edge devices. We achieved this through the integration of Graph Neural Networks with Visibility Graph transformations. The Visibility Graph transformation effectively converts time series data into a graph data structure, adeptly capturing complex patterns and temporal dependencies that are less discernible with conventional imaging methods. Our results demonstrate that combining Graph Neural Networks with Visibility Graph not only enhances classification accuracy but also reduces computational demand, making these models suitable for deployment on edge devices. This thesis confirms the potential of advanced dimensionality expansion techniques as a powerful tool for improving the accuracy and efficiency of time series data classification in smart infrastructure environments.

• Language: English
• Keywords: time series classification, dimensionality expansion, deep learning, time series imaging, graph neural networks, time series to graph transformation, wireless anomaly detection, non-intrusive load monitoring, appliance classification, anomaly classification.
• Work type: Doctoral dissertation
• Organization: FE - Faculty of Electrical Engineering
• Year: 2024
• PID: 20.500.12556/RUL-161466
• Publication date in RUL: 11.09.2024

Secondary language

• Language: Slovenian
• Title: Razširjanje dimenzij za razpoznavo motivov v podatkovnih časovnih vrstah

Abstract

To delo raziskuje uporabo in optimizacijo tehnik razširjanja dimenzij za klasifikacijo časovnih vrst s poudarkom na dveh scenarijih na področju pametne infrastrukture: odkrivanje anomalij na ravni brezžičnih povezav in prepoznavanje gospodinjskih naprav v pametnih omrežjih. Začetne raziskave so pokazale, da metode za razširitev dimenzij bistveno izboljšajo natančnost razvrščanja časovnih vrst. Toda pojavlja se velik izziv z razširljivostjo, saj se računska zahtevnost teh metod običajno povečujejo kvadratno z dolžino časovne vrste. Da bi rešili ta problem, smo razvili nov pristop, ki ne le zagotavlja linearno računsko razširljivost, temveč tudi izboljša uspešnost razvrščanja časovnih vrst glede na tradicionalne tehnike razširjanja dimenzij. Z zavedanjem potrebe po hitrem odzivu v časovno občutljivih aplikacijah, zato smo si prizadevali izboljšati naše modele, da bi lahko delovali na računsko omejenih robnih napravah. To smo dosegli z uporabo grafnih nevronskih mrež s transformacijo grafov vidljivosti. Transformacija učinkovito pretvori podatke o časovnih vrstah v grafno podatkovno strukturo, pri čemer spretno zajame zapletene vzorce in časovne odvisnosti, ki so z običajnimi metodami razširjanja manj opazni. Naši rezultati kažejo, da kombinacija grafnih nevronskih mrež z grafi vidljivosti ne le poveča natančnost razvrščanja, temveč tudi zmanjša računske zahteve, zaradi česar so ti modeli primerni za uporabo v robnih napravah. To delo potrjuje potencial naprednih tehnik širjenja dimenzij kot močnega orodja za izboljšanje natančnosti in učinkovitosti klasifikacije podatkov časovnih vrst v okoljih pametne infrastrukture.

• Keywords: razvrščanje časovnih vrst, razširitev dimenzionalnosti, globoko učenje, slikovne transformacije časovnih vrst, grafne nevronske mreže, pretvorba časovnih vrst v grafe, zaznavanje brezžičnih anomalij, neinvazivno spremljanje porabe, razvrščanje gospodinjskih naprav, razvrščanje anomalij.