20.500.12556/RUL-173275 Razširitev temeljnih modelov za časovne vrste z zunanjimi spremenljivkami Extension of foundation models for time series with exogenous covariates Pri napovedovanju časovnih vrst lahko zunanje spremenljivke modelu zagotovijo dodatne informacije, ki jih iz same časovne vrste ne more pridobiti. Ker je število multivariatnih temeljnih modelov za časovne vrste omejeno, se v diplomski nalogi osredotočamo na razširitev modela Time-MoE z zunanjimi spremenljivkami. Na podatkovnem naboru z višinami gladin podtalnice smo preizkusili več pristopov za dopolnitev modela Time-MoE: zaporedne in vzporedne ansamble, uporabo zadnjega sloja temeljnega modela ter neposreden vnos zunanjih spremenljivk v napovedno glavo. Med preizkušenimi metodami so se najbolje odrezali ansambli, ki so kombinirali statistične modele z modelom Time-MoE. Najuspešnejši med njimi je dosegel povprečno vrednost R2 enako 0,672, medtem ko je najboljši pristop z uporabo zadnjega sloja dosegel povprečno vrednost 0,607, pristop z neposrednim vnosom pa 0,500. V primerjavi z obstoječimi univariatnimi metodami so razvite metode dosegle boljše rezultate, predvsem zaradi dostopa do vremenskih podatkov. V primerjavi z obstoječimi multivariatnimi metodami pa so razlike izgledale zanemarljive, kar nakazuje, da Time-MoE v kombinaciji z vremenskimi podatki na obravnavanem podatkovnem naboru ne prinaša dodatnih prednosti. Kljub temu je prednost razvitih pristopov njihova modularnost, saj je mogoče temeljni model po potrebi zamenjati. When forecasting time series data, exogenous covariates can provide the model with additional information that cannot be obtained from the time series alone. Since the number of multivariate foundation models for time series is limited, this thesis focuses on extending the Time-MoE model with exogenous covariates. On the dataset of groundwater level measurements, we tested several approaches to augment the Time-MoE model: sequential and parallel ensembles, using the last hidden layer of the foundation model and directly inputting exogenous covariates into the prediction head. Among the methods tested, the best-performing approaches were ensembles that combined statistical models with the Time-MoE model. The most successful among them achieved an average R2 value of 0.672, while the best approach using the last layer achieved an average value of 0.607, and the approach with direct input 0.500. Compared to existing univariate methods, the developed methods achieved better results, primarily due to access to weather data. Compared to existing multivariate methods, however, the differences looked negligible, indicating that Time-MoE combined with weather data does not provide additional advantages on the dataset considered. Nevertheless, the advantage of the developed approaches is their modularity, as the foundational model can be replaced if needed. časovna vrsta multivariatni modeli Time-MoE zunanje spremenljivke time series multivariate model Time-MoE exogenous covariates true false false Slovenski jezik Angleški jezik Diplomsko delo/naloga 2025-09-15 12:20:01 2025-09-15 12:20:07 2025-10-16 11:54:34 0000-00-00 00:00:00 2025 0 0 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 38157 253461507 Klancic_Rok_-_Razsiritev_temeljnih_modelov_za_casovne_vrste_z_zunanjimi_spremenljivkami.pdf Klancic_Rok_-_Razsiritev_temeljnih_modelov_za_casovne_vrste_z_zunanjimi_spremenljivkami.pdf 1 AA53DFBC6F94EEC9EBCE7DD4BBA87786 f83aebd19e380d065797afaa26f6768f06a3851c7f5c92874e8555f4d930e7a7 62cabce1-921d-11f0-9328-0050569b8976 https://repozitorij.uni-lj.si/Dokument.php?lang=slv&id=217517 Fakulteta za računalništvo in informatiko 0 0 0