Avtomatsko povzemanje slovenskih besedil z globokimi nevronskimi mrežami

Zidarn, Rok (avtor), Robnik Šikonja, Marko (mentor)

Povzemanje besedil naslavlja problem naraščujoče količine tekstovnih podatkov, v katerih želimo odkrivati pomembne informacije, npr. med raziskovanjem dokumentov želimo proces izbire poenostaviti in se odločati le na podlagi povzetkov. V delu smo se posvetili problemu povzemanja slovenskih besedil. Naš cilj je generiranje kvalitetnega in berljivega povzetka. Problema smo se lotili z uporabo globokih nevronskih mrež in arhitekture zaporedje v zaporedje. Razvili smo devet modelov, ki se razlikujejo po tipu rekurenčnih celic, številu rekurenčnih celic, številu nivojev in dodatnih mehanizmih, kot sta mehanizem pozornosti in mehanizem kopiranja. Uspešnost povzemanja smo evalvirali z metrikama ROUGE in BERTScore. Med trenutno obstoječimi slovenskimi povzemalniki naš najuspešnejši model dosega najboljše rezultate.

• Jezik: Slovenski jezik
• Ključne besede: obdelava naravnega jezika, povzemanje besedil, nevronske mreže, globoko učenje, umetna inteligenca
• Vrsta gradiva: Magistrsko delo/naloga
• Organizacija: FRI - Fakulteta za računalništvo in informatiko
• Leto izida: 2020
• PID: 20.500.12556/RUL-113698
• COBISS.SI-ID: 1538516419
• Datum objave v RUL: 27.01.2020

ZIDARN, Rok, 2020, Avtomatsko povzemanje slovenskih besedil z globokimi nevronskimi mrežami [na spletu]. Magistrsko delo. [Dostopano 28 marec 2025]. Pridobljeno s: https://repozitorij.uni-lj.si/IzpisGradiva.php?lang=slv&id=113698

Sekundarni jezik

• Jezik: Angleški jezik
• Naslov: Automatic text summarization of Slovene texts using deep neural networks

Izvleček

Text summarization allows us to extract useful information from a vast amount of textual documents. For example, during research we want to simplify the paper selection process by reading only abstracts instead of whole articles. In this thesis we focus on the problem of summarization of Slovene texts. Our goal is to generate an accurate and readable summary. We tackle the problem by applying a Sequence2Sequence architecture and deep neural networks. We developed nine models, which differ from one another by the type of recurrent cells, number of recurrent cells, number of levels and additional mechanisms, such as attention and copying. For evaluation we used ROUGE and BERTScore evaluation metrics. Our most succesful model produces the best results among Slovene text summarizers.

• Ključne besede: natural language processing, text summarization, neural networks, deep learning, artificial intelligence