Scenario-guided temporal prototypes in reinforcement learning

Dobravec, Blaž (avtor), Žabkar, Jure (avtor)

Deep reinforcement learning policies are hard to deploy in safety-critical settings, because they fail to explain why a sequence of actions is taken. We introduce an intrinsically interpretable framework that learns compact summaries of recurring behavior and uses them for case-based decision making. Our method (i) discovers global regimes by grouping trajectories into a small set of recurrent patterns and (ii) learns a prototype-conditioned local policy that maps the current short-horizon pattern to an action (“this matches prototype X → take action Y”). Each action is accompanied by a similarity score to relevant prototypes, which provide the explanations. We evaluate our approach on two domains: (1) CarRacing (pixel-based continuous control) and (2) a real voltage-control problem in low-voltage distribution networks. Our results indicate that the method provides clear pre hoc explanations while keeping task performance close to the reference policy.

• Jezik: Angleški jezik
• Ključne besede: deep reinforcement learning, explainability, prototypes
• Vrsta gradiva: Članek v reviji
• Tipologija: 1.01 - Izvirni znanstveni članek
• Organizacija: FRI - Fakulteta za računalništvo in informatiko
• Status publikacije: Objavljeno
• Različica publikacije: Objavljena publikacija
• Leto izida: 2026
• Št. strani: 14 str.
• Številčenje: Vol. 8, iss. 1, art. 21
• PID: 20.500.12556/RUL-181718
• UDK: 004.8:007.52
• ISSN pri članku: 2504-4990
• DOI: 10.3390/make8010021
• COBISS.SI-ID: 265133315
• Datum objave v RUL: 14.04.2026

Gradivo je del revije

• Naslov: Machine learning and knowledge extraction
• Založnik: MDPI
• ISSN: 2504-4990
• COBISS.SI-ID: 1537706179

Licence

• Licenca: CC BY 4.0, Creative Commons Priznanje avtorstva 4.0 Mednarodna
• Povezava: http://creativecommons.org/licenses/by/4.0/deed.sl
• Opis: To je standardna licenca Creative Commons, ki daje uporabnikom največ možnosti za nadaljnjo uporabo dela, pri čemer morajo navesti avtorja.

Sekundarni jezik

• Jezik: Slovenski jezik
• Ključne besede: globoko spodbujevano učenje, razložljivost, prototipi

Projekti

• Financer: ARIS - Javna agencija za znanstvenoraziskovalno in inovacijsko dejavnost Republike Slovenije
• Številka projekta: L2-4436
• Naslov: Optimizacija obratovanja nizkonapetostnega distribucijskega omrežja z integrirano fleksibilnostjo v realnem času s pomočjo globokega spodbujevanega učenja (DRIFT)

• Financer: ARIS - Javna agencija za znanstvenoraziskovalno in inovacijsko dejavnost Republike Slovenije
• Številka projekta: P2-0209
• Naslov: Umetna inteligenca in inteligentni sistemi