Self-Supervised and Active Learning for Object Detection in Satellite Images

Georgiev, Aleksandar (avtor), Čehovin Zajc, Luka (mentor)

Object detection in satellite imagery remains challenging due to small object sizes, large scale variations, and the high cost of producing expert annotations. This thesis investigates how self-supervised learning (SSL) and active learning (AL) can be combined to address these challenges. We evaluate four SSL-pretrained transformer backbones on the DIOR dataset: DINOv2, DINOv3, SatMAE, and ScaleMAE. For active learning, we compare random sampling, several uncertainty-based strategies, and a diversity-based clustering method. Experiments were conducted across labeling budgets up to 20%, with results reported using the COCO evaluation protocol. Among the SSL models, ScaleMAE achieved the strongest performance, reaching mAP50 = 76.0 ± 0.7 %, substantially narrowing the gap to supervised pretraining. Furthermore, we show that uncertainty-based acquisition strategies begin to outperform random sampling once moderate annotation budgets are available. These findings demonstrate that combining SSL and AL can reduce annotation requirements while maintaining competitive detection performance in remote sensing.

• Jezik: Angleški jezik
• Ključne besede: Active learning, self-supervised learning, object detection, Satellite images
• Vrsta gradiva: Magistrsko delo/naloga
• Tipologija: 2.09 - Magistrsko delo
• Organizacija: FRI - Fakulteta za računalništvo in informatiko
• Leto izida: 2025
• PID: 20.500.12556/RUL-174269
• COBISS.SI-ID: 255237123
• Datum objave v RUL: 30.09.2025

Sekundarni jezik

• Jezik: Slovenski jezik
• Naslov: Samonadzorovano in aktivno učenje za detekcijo objektov na satelitskih slikah

Izvleček

Detekcija objektov na satelitskih posnetkih je zahtevna zaradi majhnih objektov, velike raznolikosti v merilu in visokih stroškov strokovnega označevanja. V tej magistrski nalogi raziskujemo, kako je mogoče združiti učenje brez nadzora (SSL) in aktivno učenje (AL), da bi naslovili te izzive. Ocenili smo štiri modele Transformer z učno predpripravo SSL na podatkovni zbirki DIOR: DINOv2, DINOv3, SatMAE in ScaleMAE. Za aktivno učenje smo primerjali naključno izbiro, več strategij, temelječih na negotovosti, ter metodo raznolikosti, ki temelji na gručenju. Eksperimente smo izvedli pri proračunih označevanja do 20% in rezultate poročali z uporabo protokola COCO ter intervalov zaupanja, dobljenih z metodo bootstrap. Med SSL modeli je ScaleMAE dosegel najboljšo uspešnost z mAP50 = 76.0 ± 0.7 % in tako bistveno zmanjšal zaostanek za nadzorovano predpripravo. Poleg tega pokažemo, da strategije, temelječe na negotovosti, začnejo presegati naključno izbiro pri srednje velikih proračunih označevanja. Rezultati kažejo, da lahko kombinacija SSL in AL zmanjša potrebo po označevanju, hkrati pa ohranja konkurenčno uspešnost detekcije objektov v daljinskem zaznavanju.

• Ključne besede: Aktivno učenje, Samonadzorovano učenje, Detekcija objektov, Satelitske slike