20.500.12556/RUL-128919 Adaptive graph neural network training objective for link prediction Prilagodljiv učni cilj grafovskih nevronskih mrež za napovedovanje povezav One of the most important factors which contributes to success of a machine learning model is good training objective. Training objective crucially influences model’s performance and generalization capabilities. We focus on graph neural network training objective for link prediction, because it is barely explored in literature. In this case, training objective includes, among others, training mode, negative sampling strategy, and various hyperparameters, such as edge message ratio. Commonly, these hyperparameters are fine-tuned by complete search, which is very time consuming and model dependent. To mitigate these limitations, we propose Adaptive Grid Search (AdaGrid), which dynamically adjusts edge message ratio during training. It is model agnostic and highly scalable with fully customizable computational budget. AdaGrid can also boosts performance of the models up to 2.3%, while can be nine times more efficient than complete search. Eden izmed najbolj pomembnih faktorjev, ki pripomore k uspehu modela strojnega učenja, je dober učni cilj. Učni cilj kritično vpliva na modelovo uspešnost in njegovo sposobnosti posploševanja. Mi se osredotočimo na učni cilj grafovskih nevronskih mrež za napovedovanje povezav, saj je le-ta še neraziskan v literaturi. V tem primeru učni cilj med drugim zajema tudi učni način, način vzorčenja negativnih povezav in številne druge hiperparametre, kot je razmerje povezav za širjenje sporočil. Pogosto so ti hiperparametri izbrani s pomočjo izčrpnega iskanja, kar je izredno časovno potratno, optimalni hiperparametri pa niso prenosljivi med različnimi modeli. Da bi odpravili te težave, predlagamo Adaptive Grid Search (AdaGrid), ki med učenjem dinamično spreminja razmerje povezav za širjenje sporočil. Je neodvisen od modela in visoko skalabilen, saj se lahko čas učenja prilagodi do potankosti. AdaGrid prav tako lahko izboljša modele kar do 2,3%, pri čemer je lahko kar devetkrat učinkovitejši od izčrpnega iskanja. machine learning meta-learning link prediction graph neural networks training objective strojno učenje meta-učenje napovedovanje povezav grafovske nevronske mreže učni cilj true false false Angleški jezik Slovenski jezik Diplomsko delo/naloga 2021-08-17 13:10:00 2021-08-17 13:10:04 2023-11-27 14:12:29 0000-00-00 00:00:00 2021 0 0 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 32301 75109379 Postuvan_Tim_-_Prilagodljiv_ucni_cilj_grafovskih_nevronskih_mrez_za_napovedovanje_povezav.pdf Postuvan_Tim_-_Prilagodljiv_ucni_cilj_grafovskih_nevronskih_mrez_za_napovedovanje_povezav.pdf 1 BDC4BC52D7D87E84EC2F9DF8FE02AF3D f0f58a3bfd619214fec0181c11a8ac27fb941fce89e871ca38f7c977a40de870 77919a56-ff4b-11eb-a523-00155dcfd717 https://repozitorij.uni-lj.si/Dokument.php?lang=slv&id=145827 Fakulteta za računalništvo in informatiko Fakulteta za matematiko in fiziko 0 0 0