20.500.12556/RUL-161735 Razlage modelov strojnega učenja s posploševanjem predznanja Explaining machine learning models using background knowledge generalization S porastom uporabe modelov strojnega učenja in pospešenim razvojem kompleksnih modelov se pojavlja tudi potreba po učinkovitih rešitvah razložljive umetne inteligence, ki poskuša približati delovanje modelov človeškemu razumevanju. V tem delu predstavimo novo metodologijo razlaganja modelov, ki povezuje že uveljavljene metode luščenja najpomembnejših značilk z metodami gručenja in novim pristopom posploševanja razlag na podlagi strojno berljivega predznanja. Za demonstracijo delovanja zasnovane metode ustvarimo umetno domeno in jo ovrednotimo na dveh različnih realnih javno dostopnih podatkovnih množicah, s čimer prikažemo uporabnost metode in kompatibilnost z različnimi tipi podatkov. Za ocenjevanje kakovosti razlag pridobimo mnenje domenskih strokovnjakov. Posplošitve so ocenjene kot smiselne, vendar za potrebe strokovnjakov presplošne, zato predlagamo možnosti uporabe za druge skupine uporabnikov. Metodo implementiramo v obliki javno dostopne knjižnice Python. With the growing use of machine learning models and the accelerated development of complex models, there is a need for efficient solutions in the field of explainable artificial intelligence. In this work, we propose a new method of explaining models that couples state-of-the-art "most important" feature extraction methods with clustering methods and a new approach to feature generalization using machine-readable domain knowledge. We demonstrate the methodology on an artificially created domain and two different real domains. We evaluate the quality of explanations with the help of domain experts. Generalizations are evaluated as sensible but too general for researchers. We propose potential use cases for other groups of users. The implemented method is created as a publicly available Python library. razložljiva umetna inteligenca razlage modelov posploševanje razlag strojno učenje gručenje procesiranje naravnega jezika explainable AI model explanations explanation generalization machine learning clustering natural language processing true false false Slovenski jezik Angleški jezik Magistrsko delo/naloga 2024-09-13 10:05:00 2024-09-13 10:05:14 2024-10-07 05:17:08 0000-00-00 00:00:00 2024 0 0 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 37019 210383619 Stepisnik_perdih_Timen_-_Razlage_modelov_strojnega_ucenja_s_posplosevanjem_predznanja.pdf Stepisnik_perdih_Timen_-_Razlage_modelov_strojnega_ucenja_s_posplosevanjem_predznanja.pdf 1 805AC4D544465E5DB6CA21A991EB1715 e46e6fa378d5b13e5134248849f8f7cd5bb2d558a5913864e1aa2bee224be79f d868f22e-71a6-11ef-b232-0050569b8976 https://repozitorij.uni-lj.si/Dokument.php?lang=slv&id=190716 Fakulteta za računalništvo in informatiko 0 0 0