20.500.12556/RUL-167540 Strojno generiranje parafraz v slovenščini magistrsko delo Paraphrase Generation in Slovene Language Using Machine Learning Parafraziranje je pomembna naloga na področju obdelave naravnega jezika, saj vključuje tvorjenje povedi, ki se od izvorne razlikujejo po obliki, vendar ohranjajo enak pomen. Avtomatsko ustvarjanje raznolikih in razumljivih parafraz prispeva k lažjemu razumevanju in interpretaciji besedil ter izboljšuje komunikacijo med človekom in računalnikom. V tej nalogi smo razvili model za parafraziranje v slovenščini, ki temelji na vnaprej naučenih velikih generativnih jezikovnih modelih. Zaradi računske zahtevnosti velikih modelov smo izbrali manjšo različico večjezikovnega modela mT5 in slovenskega modela SloT5. Temeljita na arhitekturi transformer, ki trenutno prevladuje na področju obdelave naravnega jezika. Iz množice podnapisov OpenSubtitles2018 smo pridobili slovenske in angleške podnapise, angleške smo prevedli v slovenščino in tako ustvarili učno množico s poravnanimi slovenskimi parafrazami. Množica je uporabna za nadaljnje raziskave ter gradnjo modelov za generiranje slovenskih parafraz. Uporabili smo jo za prilagoditev modelov, ki smo ju ovrednotili z metrikama ROUGE in BERTScore ter kvalitativno s človeško presojo. Model SloT5 je dosegel boljše rezultate. Z analizo ustvarjenih parafraz smo opredelili glavne strategije parafraziranja v slovenščini ter najpogostejše napake. Paraphrasing is an important task in natural language processing, involving the generation of expressions that differ in form from the original text while preserving its meaning. Automatically generating versatile and comprehensible paraphrases enhances text understanding and interpretation, and also improves human-computer interaction. We developed a paraphrasing model for Slovene, leveraging pre-trained models. Due to the computational complexity of large models, we selected a smaller version of the multilingual mT5 model and the Slovene SloT5 model, both of which are based on the transformer architecture which currently prevails in the field of natural language processing. Using the OpenSubtitles2018 dataset, we obtained Slovene and English subtitles, translating the English subtitles into Slovene to create a training set with aligned Slovene paraphrases. The dataset can be used for future research and developing models for generating Slovene paraphrases. We fine-tuned the models using this dataset and evaluated their performance with ROUGE and BERTScore metrics, as well as qualitative human judgment. The SloT5 model produced better results. By analyzing the generated paraphrases, we identified key paraphrasing strategies in Slovene and the most common errors. digitalno jezikoslovje obdelava naravega jezika strojno prevajanje veliki jezikovni modeli generiranje parafraz kognitivna znanost digital linguistics natural language processing machine translation large language models paraphrase generation true false false A. Debeljak Šokić Slovenski jezik Angleški jezik Magistrsko delo/naloga 2025-02-27 08:30:07 2025-02-27 08:30:13 2025-03-06 14:15:31 0000-00-00 00:00:00 2025 0 Ljubljana 0 Ljubljana 65 str. 0000-00-00 NiDoloceno NiDoloceno NiDoloceno 0000-00-00 0000-00-00 0000-00-00 1970-01-01 004.4:81'322.2(043.2) 183139 227906051 38875.pdf 38875.pdf 1 B42FAA18CEDD01AC5DAFD676890E95E3 e62bc6bd8ba7b473304e41d5c0f3528fb1c10fd72790c4f4ac155fe2676e14ac c3c3ca56-f4db-11ef-b232-0050569b8976 https://repozitorij.uni-lj.si/Dokument.php?lang=slv&id=200163 Pedagoška fakulteta 0 0 0