Application of the transformer architecture to position-sensitive silicon detector simulation

Djorlev, Dimitar (avtor), Lotrič, Uroš (mentor), Šter, Branko (komentor), Novak, Tadej (komentor)

This thesis explores the use of generative machine learning in particle physics, with a particular focus on simulating the detection and reconstruction of muon trajectories in colliders such as the Large Hadron Collider (LHC) at CERN. The goal of the thesis is to develop a generative model based on the Transformer or GPT architecture, capable of producing realistic synthetic data from actual detector signals. This approach can significantly complement existing simulation methods, which are often computationally intensive and time-consuming. The model is trained on simulated detector data and generates new collision event samples that mimic physically plausible particle trajectories. In this work, we examine various architectural configurations, training methods, and strategies for evaluating the quality of the generated data. Validation results show that such a model can successfully replicate key characteristics of real collision events, offering the potential for faster and more cost-effective experimental preparations in particle physics. The results indicate that generative approaches have the potential to improve the efficiency of data analysis in large-scale experiments and to enhance existing simulation tools. Future work could explore the inclusion of spatial information, improved evaluation of physical consistency, and the application of the model in real-time event detection.

• Jezik: Angleški jezik
• Ključne besede: Transformers, Silicon detectors, CERN
• Vrsta gradiva: Diplomsko delo/naloga
• Tipologija: 2.11 - Diplomsko delo
• Organizacija: FRI - Fakulteta za računalništvo in informatiko
• Leto izida: 2025
• PID: 20.500.12556/RUL-173280
• COBISS.SI-ID: 253447427
• Datum objave v RUL: 15.09.2025

Sekundarni jezik

• Jezik: Slovenski jezik
• Naslov: Uporaba arhitekture transformerja za simulacijo pozicijsko občutljivih silicijevih detektorjev

Izvleček

V tej diplomski nalogi raziskujemo uporabo generativnega strojnega učenja v fiziki delcev, s posebnim poudarkom na simulaciji detekcije in rekonstrukcije poti mionov v trkalnikih, kot je Veliki hadronski trkalnik (LHC) v Cernu. Cilj naloge je razviti generativni model, zasnovan po arhitekturi Transformer oziroma GPT, ki omogoča ustvarjanje realističnih sintetičnih podatkov na osnovi dejanskih signalov iz detektorjev. Tak pristop lahko pomembno dopolni obstoječe metode simulacij, ki so pogosto računsko zahtevne in časovno potratne. Model se uči iz podatkov, pridobljenih iz simulacij detektorjev, ter generira nove primerke dogodkov trkov, ki oponašajo fizično pravilne poti delcev. Pri tem smo raziskali različne arhitekturne možnosti modela, metode učenja in strategije vrednotenja kakovosti generiranih podatkov. Validacija je pokazala, da lahko tak model uspešno posnema ključne značilnosti dejanskih trkov, s čimer odpira možnosti za hitrejše in cenejše eksperimentalne priprave v fiziki delcev. Rezultati nakazujejo potencial generativnih pristopov za izboljšanje učinkovitosti analiz podatkov v velikih eksperimentih in možnost nadgradnje obstoječih simulacijskih orodij. V prihodnje bi bilo smiselno raziskati vključitev prostorskih informacij, izboljšano vrednotenje fizikalne skladnosti ter uporabo modela v realnem času pri zaznavanju dogodkov.

• Ključne besede: Transformerji, Silicijski detektorji, CERN