Prilagajanje velikih jezikovnih modelov za poučevanjeWernig, Luka (Avtor) Robnik Šikonja, Marko (Mentor) Balent, Jošt (Komentor) klepetalni robotveliki jezikovni modelRAGV nalogi obravnavamo, ali lahko preprost, popolnoma lokalno delujoč cevovod RAG (angl. Retrieval-Augmented Generation, s pridobivanjem obogatenega generiranja), sestavljen izključno iz odprtokodnih komponent in poganjan na centralnih procesorskih enotah, služi kot klepetalni robot za pomoč pri poučevanju. Cilj naloge je ugotoviti, ali je takšen cevovod zmožen brskanja po dokumentaciji in odgovarjanja na vprašanja dovolj hitro in kakovostno za uporabo v učnem procesu. Naloga je nastala v sodelovanju s podjetjem, kjer zaradi strogih zahtev po varovanju podatkov in omejene infrastrukture uporaba velikih jezikovnih modelov (VJM) prek storitev v oblaku ni sprejemljiva. Implementiramo naivni cevovod RAG z uporabo vektorske podatkovne baze ChromaDB, treh majhnih splošnih vložitvenih modelov ter treh manjših, sledenju ukazom prilagojenih VJM, ki jih poganjamo prek inferenčnega strežnika Ollama. Posamezne komponente najprej ovrednotimo ločeno, nato še v sklopu celotnega cevovoda. Ugotavljamo, da cevovod RAG, ki ustreza kriterijem naše arhitekture, ne dosega kakovosti in hitrosti delovanja za uporabo v izobraževalnem procesu.20262026-07-06 08:20:18Diplomsko delo/naloga184362sl