Uporaba velikih jezikovnih modelov za izboljšanje razpoznavanja slovenskega govoraKlemen, Anton (Avtor) Bajec, Marko (Mentor) obdelava naravnega jezikarazpoznavanje govoraveliki jezikovni modelistrojno učenjeZa slovenščino, ki sodi med jezike z manj viri, ostaja razpoznavanje govora še vedno zahtevna naloga, sodobni veliki jezikovni modeli pa s svojim bogatim jezikovnim znanjem odpirajo nove možnosti za izboljšanje njegove točnosti. V magistrski nalogi sistematično preučimo in ovrednotimo štiri skupine metod za vključevanje velikih jezikovnih modelov v sistem za razpoznavanje slovenskega govora, ki segajo od plitke integracije (ponovno ocenjevanje hipotez, pozivanje in preslikava hipotez v transkript) do globoke integracije (večmodalni model SALM). Metode preizkusimo z osmimi velikimi jezikovnimi modeli in jih primerjamo na šestih slovenskih evalvacijskih množicah z napako na ravni besed (WER) in s hitrostjo napovedovanja (RTFX). Najboljšo točnost doseže ponovno ocenjevanje z modelom SlovenianGPT (povprečni WER 10,26 %). Ugotovili smo, da so za slovenski govor veliki jezikovni modeli najučinkovitejši, kadar uporabljajo hipoteze sistema za razpoznavanje govora in jim način uporabe strogo določimo oziroma jih za nalogo doučimo. Najbolje se torej odrežejo kot ocenjevalec hipotez ali pri uglašeni preslikavi hipotez v transkript, ne pa pri prostem tvorjenju transkriptov. Analiza računske zahtevnosti pokaže, da so vse metode z velikimi jezikovnimi modeli občutno počasnejše in pomnilniško zahtevnejše od izhodiščnega razpoznavalnika, najboljši kompromis med točnostjo in hitrostjo pa med njimi ponudi preslikava hipotez v transkript.20262026-09-07 15:45:10Magistrsko delo186952VisID: 38630sl