20.500.12556/RUL-128892 Razlaga v umetni inteligenci na podlagi strojnega učenja iz človeških razlag Explanation in artificial intelligence based on machine learning from human explanations Zaradi hitrega razvoja in vsak dan širše prisotnih praktičnih aplikacij umetne inteligence se vse bolj pojavlja tudi potreba po razumljivosti inteligentnih sistemov. S tem problemom se ukvarja področje razložljive umetne inteligence, ki stremi k razvoju umetne inteligence z zmožnostjo razlage svojih odločitev na človeku razumljiv način. Zanimalo nas je, ali lahko s strojnim učenjem na podlagi človeških razlag rešitev nalog planiranja sestavimo algoritem za avtomatsko generiranje razlag planov. S tem namenom smo izvedli poskus, v katerem so udeleženci razložili svoje odločitve tekom reševanja problemov iz domene sveta kock. Njihove razlage smo pretvorili v obliko, primerno za strojno učenje, in jih uporabili za indukcijo odločitvenega drevesa. Na podlagi naučenega klasifikatorja lahko algoritem za planiranje nato izbere ustrezno vrsto razlage za vsako svojo akcijo. Tako dobimo razlage, ki so bolj podobne človeškim in posledično bolj razumljive. Razložljiva umetna inteligenca na podlagi učenja iz človeških razlag je na področju planiranja še neraziskana ideja. Naši rezultati predstavljajo prvi poskus s tem pristopom. Odpirajo tudi možnost številnih praktičnih aplikacij na drugih, bolj kompleksnih domenah planiranja. The fast progress in artificial intelligence (AI), combined with the constantly widening scope of its practical applications also necessitates the need for AI to be understandable to humans. This issue is the key focus of the field of Explainable AI, which aims to develop approaches to AI which would make its decisions and actions more comprehensible to humans interacting with it. We used machine learning from examples of human explanations to develop an algorithm which can automatically generate explanations of its problem-solving process in natural language. Specifically, it explains plans in the blocks world domain. We recorded human participants explaining the reasons for their actions as they solved blocks world problems, and transformed their explanations into a form which could then be used for machine learning. We used these examples to induce a classifier which our planner can use to select an appropriate explanation in any given situation. The use of machine learning from human explanations is a hitherto unexplored idea in explainable planning. Our results represent the first demonstration of this approach. This opens the possibility of numerous practical applications on other, more complex planning domains. razložljiva umetna inteligenca explainable artificial intelligence true false false Slovenski jezik Angleški jezik Magistrsko delo/naloga 2021-08-12 04:35:33 2021-08-16 08:34:59 2025-04-17 04:54:14 0000-00-00 00:00:00 2021 0 0 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 72797187 Magistrsko_delo_Timotej_Volavsek.pdf Magistrsko_delo_Timotej_Volavsek.pdf 1 25AAA7053B987FC3E185FB3A15F73561 06854fa7a5dd78e699128fda7221a5dd046c0dc745bee9b3d3e9a0b7eaa7daf8 b1dbd386-1ab6-11f0-b232-0050569b8976 https://repozitorij.uni-lj.si/Dokument.php?lang=slv&id=207747 Pedagoška fakulteta 0 0 0