20.500.12556/RUL-171234 Utility of embeddings in multi-modal models for click-through rate prediction Uporabnost vložitev v večmodalnih modelih za napovedovanje verjetnosti klika na oglas Accurate click-through rate (CTR) prediction under strict real-time bidding latency constraints is central to modern programmatic advertising. Models powering large-scale recommender systems rely on high-cardinality categorical IDs and neglect the rich semantic cues present in ad creatives and page context, limitations that become acute in cold-start setting. This thesis sys- tematically explores the integration of off-the-shelf image and text embed- dings into production-ready CTR models. We introduce three fusion strate- gies (early,intermediate,late), a block-wise multi-optimiser training scheme which reduces training memory by approximately threefold and computa- tional demand by approximately fivefold, and the Aligned Deep & Cross Network,which explicitly aligns categorical and external embedding spaces. Experiments on a large, real-world impression log show consistent lifts of up to 0.69% in relative information gain (RIG) over a highly optimised produc- tion model, with pronounced improvements for previously unseen creatives, all while respecting serving-time budgets.The proposed framework offers a practical path to multi-modal CTR prediction at production scale. Natančno napovedovanje verjetnosti klika na oglas (angl. click–through rate oz. CTR prediction) ob strogih časovnih omejitvah dražb v realnem času (RTB) je ključnega pomena za sodobno programatično oglaševanje. Modeli, ki poganjajo velike priporočilne sisteme, sicer uspešno izkoriščajo kategorične značilke visokih kardinalnosti, vendar pogosto spregledajo bogate semantične signale, ki jih vsebujejo oglasi in kontekst spletnih strani. Ta omejitev je še posebej opazna, ko v sistem pride nova kreativa (t.i. problem hladnega zag- ona). V tej diplomski nalogi sistematično raziščemo vključevanje slikovnih in besedilnih vložitev v produkcijske CTR modele. Predstavimo tri strate- gije združevanja modalnosti (zgodnjo, vmesno in pozno), razvijemo shemo učenja z več optimizatorji za vsako posamezno podmnožico parametrov, kar zmanjša porabo pomnilnika za približno trikrat ter število potrebnih op- eracij za približno petkrat, in uvedemo novo arhitekturo Aligned Deep& Cross (A-DCN). Empirični poskusi, izvedeni na obsežnem realnem naboru podatkov, kažejo izboljšave do +0,69% relativnega informacijskega pribitka (RIG) v primerjavi z močno optimiziranim produkcijskim modelom. Predla- gani pristopi tako ponujajo praktično izvedljive rešitve za učinkovito multi- modalno napovedovanje CTR v velikih priporočilnih sistemih. machine learning click-through rate prediction programmatic advertising multi-modal embeddings real-time bidding strojno učenje napovedovanje verjetnosti klika programatično oglaševanje večmodalne vložitve dražbe v realnem času (RTB) true false false Angleški jezik Slovenski jezik Diplomsko delo/naloga 2025-08-20 13:35:01 2025-08-20 13:35:08 2025-09-02 10:43:13 0000-00-00 00:00:00 2025 0 0 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 38357 247342339 Znidar_Mark_-_Uporabnost_vlozitev_v_vecmodalnih_modelih_za_napovedovanje_verjetnosti_klika_na_og.pdf Znidar_Mark_-_Uporabnost_vlozitev_v_vecmodalnih_modelih_za_napovedovanje_verjetnosti_klika_na_og.pdf 1 214B344F2A19255B0511864B3CB006EC efd5a5a824e2a72d0806f5d245783e70caa49ae275f847211daa676d1c88f99a a05af3c3-7db9-11f0-9328-0050569b8976 https://repozitorij.uni-lj.si/Dokument.php?lang=slv&id=214393 Fakulteta za računalništvo in informatiko 0 0 0