20.500.12556/RUL-184362 Prilagajanje velikih jezikovnih modelov za poučevanje Adaptation of large language models for education V nalogi obravnavamo, ali lahko preprost, popolnoma lokalno delujoč cevovod RAG (angl. Retrieval-Augmented Generation, s pridobivanjem obogatenega generiranja), sestavljen izključno iz odprtokodnih komponent in poganjan na centralnih procesorskih enotah, služi kot klepetalni robot za pomoč pri poučevanju. Cilj naloge je ugotoviti, ali je takšen cevovod zmožen brskanja po dokumentaciji in odgovarjanja na vprašanja dovolj hitro in kakovostno za uporabo v učnem procesu. Naloga je nastala v sodelovanju s podjetjem, kjer zaradi strogih zahtev po varovanju podatkov in omejene infrastrukture uporaba velikih jezikovnih modelov (VJM) prek storitev v oblaku ni sprejemljiva. Implementiramo naivni cevovod RAG z uporabo vektorske podatkovne baze ChromaDB, treh majhnih splošnih vložitvenih modelov ter treh manjših, sledenju ukazom prilagojenih VJM, ki jih poganjamo prek inferenčnega strežnika Ollama. Posamezne komponente najprej ovrednotimo ločeno, nato še v sklopu celotnega cevovoda. Ugotavljamo, da cevovod RAG, ki ustreza kriterijem naše arhitekture, ne dosega kakovosti in hitrosti delovanja za uporabo v izobraževalnem procesu. This thesis examines whether a simple, fully local Retrieval-Augmented Generation (RAG) pipeline, composed exclusively of open-source components and executed on central processing units, can serve as a chatbot supporting teaching. The aim of the thesis is to determine whether such a RAG pipeline is capable of retrieving and browsing documentation and answering questions with sufficient speed and quality for real-time use in the educational process. The work was carried out in collaboration with a company where, due to strict data protection requirements and limited infrastructure, the use of large language models (LLMs) via cloud services is not acceptable. We implement a naive RAG pipeline using the ChromaDB vector database, three small general-purpose embedding models, and three smaller instruction tuned LLMs, which are run via the Ollama inference server. Individual components are first evaluated separately and then within the full pipeline. We find that the RAG pipeline, which satisfies our architectural criteria, does not achieve the quality and performance required for use in an educational setting. klepetalni robot veliki jezikovni model RAG chatbot large language model RAG true false false Slovenski jezik Angleški jezik Diplomsko delo/naloga 2026-07-06 08:20:18 2026-07-06 08:20:32 2026-07-24 07:01:29 0000-00-00 00:00:00 2026 0 0 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 38802 285903619 Wernig_Luka_-_Prilagajanje_velikih_jezikovnih_modelov_za_poucevanje.pdf Wernig_Luka_-_Prilagajanje_velikih_jezikovnih_modelov_za_poucevanje.pdf 1 0C6C7AEBFD73D596D50DBDFCECCD5BC5 f867d79436b9b1ba6ea1e41d35723f27133e17258b5e731236f8cebb06d2332b b269ba21-7902-11f1-9b0d-0050569b8976 https://repozitorij.uni-lj.si/Dokument.php?lang=slv&id=237044 Fakulteta za računalništvo in informatiko 0 0 0