Odkrivanje pristranosti in razpristranjevanje v jezikovnem modelu SloBERTaNarat, Marko (Avtor) Robnik Šikonja, Marko (Mentor) veliki jezikovni modelipristranostrazpristranjevanjeSloBERTaspolna pristranostVeliki jezikovni modeli so omogočili velik napredek pri obdelavi naravnega jezika, vendar so lahko pristrani, predvsem zaradi učnih podatkov. Pristranost lahko vodi do diskriminatornih odločitev v zaposlovanju, v pravosodju in v drugih aplikacijah. V magistrskem delu raziskujemo spolno pristranost slovenskega maskirnega jezikovnega modela SloBERTa. Predstavimo in uporabimo šest metod za analizo pristranosti ter prilagodimo angleško metodo razpristranjevanja Kaneko in Bollegala (2021) za slovenski model SloBERTa. Zmogljivost modela pred in po razpristranjevanju ovrednotimo z nalogami iz zbirke SuperGLUE ter z nalogo klasifikacije sentimenta z množico Sentinews. Rezultati testa stavčne asociacije potrjujejo pristranost v prid moškim v odnosu do poklicev v modelu SloBERTa, medtem ko ostalih pet metod pristranosti test ne zazna. Po razpristranjevanju pristranosti ne zazna več nobena metoda, vendar razpristranjeni modeli dosegajo slabše rezultate pri nalogah iz zbirke SuperGLUE in pri nalogi klasifikacije sentimenta.M. Narat20252025-02-16 08:30:15Magistrsko delo/naloga167343sl