20.500.12556/RUL-177208 Fine-tuning large language models for target-based summarization in less-resourced languages Prilagajanje velikih jezikovnih modelov za ciljno povzemanje besedil v jezikih z manj viri State-of-the-art large language models demonstrate strong performance in text summarization, yet their effectiveness varies significantly across languages with restricted training resources. This work addresses the challenge of query-focused summarization in Slovene, a language with limited availability of labeled datasets and evaluation tools. We present a novel query-focused summarization (QFS) framework, QFS-Composer, which integrates query decomposition, question generation (QG), question answering (QA), and abstractive summarization to increase factual alignment of a summary with user intent. To enable high-quality supervision and evaluation, we develop the Slovenian QA and QG models based on large language model (LLM) GaMS-9B-Instruct, and adapt evaluation approaches for reference-free summary evaluation in the Slovenian language. Experimental results show that the QA-guided summarization pipeline yields improved consistency and relevance over baseline LLMs. This research establishes an extensible methodology for advancing QFS in less-resourced languages. Sodobni veliki jezikovni modeli kažejo visoko zmogljivost pri povzemanju besedil, vendar se njihova učinkovitost med jeziki z omejenimi viri precej razlikuje. To delo obravnava izziv ciljnega povzemanja besedil v slovenščini, jeziku z omejeno razpoložljivostjo označenih učnih množic in orodij za vrednotenje. Predstavljamo novo ogrodje za ciljno povzemanje besedil (QFS - query-focused summarization), QFS-Composer, ki združuje dekompozicijo poizvedb, generiranje vprašanj (QG), odgovarjanje na vprašanja (QA) in abstraktno povzemanje za povečanje skladnosti povzetka s ciljem povzemanja. Da bi omogočili kakovosten nadzor in vrednotenje učenja, smo razvili slovenske modele QA in QG na podlagi velikega jezikovnega modela GaMS-9B-Instruct, in prilagojene metrike QAGS, QuestEval in RQUGE za vrednotenje povzetkov v slovenščini. Eksperimentalni rezultati kažejo, da sistem za povzemanje, usmerjen z QA, zagotavlja izboljšano doslednost in ustreznost v primerjavi z osnovnimi velikimi jezikovnimi modeli. Raziskava vzpostavlja razširljivo metodologijo za izboljšanje QFS v jezikih z manj viri. summarization large language models less-resourced languages question answering based evaluation Slovene povzemanje besedil veliki jezikovni modeli jeziki z manj viri evaluacija na podlagi vprašanj in odgovorov slovenščina true false false Angleški jezik Slovenski jezik Magistrsko delo/naloga 2025-12-17 14:40:01 2025-12-17 14:40:07 2025-12-28 04:10:36 0000-00-00 00:00:00 2025 0 0 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 37886 262745859 Duranovic_Vuk_-_Prilagajanje_velikih_jezikovnih_modelov_za_ciljno_povzemanje_besedil_v_jezikih_z.pdf Duranovic_Vuk_-_Prilagajanje_velikih_jezikovnih_modelov_za_ciljno_povzemanje_besedil_v_jezikih_z.pdf 1 33B8E94F501458528C56FB1F483E5239 d50b461a64ff731a442ec43fcc2b9a723655651ccbbed5e7d9c3d96af5cb9ca1 759faaef-db4d-11f0-9328-0050569b8976 https://repozitorij.uni-lj.si/Dokument.php?lang=slv&id=224120 Fakulteta za računalništvo in informatiko 0 0 0