20.500.12556/RUL-188807 Zasnova in razvoj sistema RAG za podajanje zaupanja vrednih informacij Design and development of a RAG system for providing trustworthy information Sistemi RAG z uporabo zunanjega znanja zmanjšujejo tveganje haluciniranja velikih jezikovnih modelov. Pomanjkanje ustreznega gradiva v zaupanja vrednih virih pa omejuje nabor vprašanj, na katera lahko sistem odgovori. Vsebina spletnih skupnosti lahko zapolni to vrzel, vendar ni nujno zanesljiva. Zasnovali in razvili smo sistem z ločenima indeksoma dveh virov različnih stopenj verodostojnosti. Sistem prednostno uporabi odlomke iz znanstvenega korpusa, ob pomanjkanju dokazov pa se opre na trditve s spletnega foruma in oceni, koliko jim sme zaupati. Kadar zanesljive podlage ne ponuja noben vir, se odgovoru odpove. Delovanje smo ovrednotili na zdravstveni domeni pri usmerjanju med viroma, določanju oznake trditve ter presoji zaupanja in ozemljenosti odgovorov. Pokazali smo izvedljivost pristopa, ki izbiro vira prilagodi razpoložljivemu gradivu in njegovi verodostojnosti. Retrieval-augmented generation (RAG) systems reduce the risk of hallucinations in large language models by using external knowledge. However, a lack of relevant material in trusted sources limits the range of questions these systems can answer. Content from online communities can fill this gap, but it is not necessarily reliable. We designed and developed a system with separate indexes for two sources with different levels of credibility. The system prioritizes passages from a scientific corpus. When sufficient evidence is unavailable, it relies on claims from an online forum and assesses their trustworthiness. If neither source provides a reliable basis for an answer, the system abstains. We evaluated the system in the health domain by examining source routing, claim classification, trust assessment and response grounding. We demonstrated the feasibility of an approach that adapts source selection to the available material and its credibility. generiranje z razširjenim iskanjem preverjanje trditev naravnojezikovno sklepanje strojno učenje veliki jezikovni modeli retrieval-augmented generation claim verification natural language inference machine learning large language models true false false Slovenski jezik Angleški jezik Magistrsko delo/naloga 2026-09-28 16:45:03 2026-09-28 16:45:09 2026-09-29 04:06:24 0000-00-00 00:00:00 2026 0 0 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 1970-01-01 38598 Jehart_Brina_-_Zasnova_in_razvoj_sistema_RAG_za_podajanje_zaupanja_vrednih_informacij.pdf Jehart_Brina_-_Zasnova_in_razvoj_sistema_RAG_za_podajanje_zaupanja_vrednih_informacij.pdf 1 F4A64033C5FB583AF2C147949C56E1E1 9dbe49878185582ef56e297a90421618ce26fb1132436fbebae7b2b33b295c1a 1c136431-bb4b-11f1-8bc5-0050569b8976 https://repozitorij.uni-lj.si/Dokument.php?lang=slv&id=249153 Fakulteta za računalništvo in informatiko 0 0 0