Spolna pristranost v jeziku in orodjih umetne inteligenceSupej, Anka (Avtor) Markič, Olga (Mentor) Pollak, Senja (Komentor) spolna pristranostjezikovna pristranostspolni stereotipiumetna inteligencaveliki jezikovni modelivektorske vložitveantropomorfizacijaanimizemtransparentnostPredmetno magistrsko delo predstavlja interdisciplinarni pristop k razumevanju spolne pristranosti, ki se pojavlja v rezultatih orodij umetne inteligence, ki temeljijo na jezikovnih modelih. Pristranosti in stereotipi postanejo problematični, ko sistematično izkazujemo nepravično pozitivno ali negativno nagnjenost do določene skupine, kar lahko vodi to hevristik in napačnega ter nepravičnega odločanja. Delo preko več korakov osvetljuje, kako do pristranosti v orodjih umetne inteligence sploh pride: najprej pojasni metode sistemov obdelave naravnega jezika ter modeliranje pomena besed preko vektorskih besednih vložitev. Nato se ukvarja s tem, kako se spolna pristranost manifestira v jeziku samem, ter kako jezik neke učne množice podatkov vpliva na rezultate besednih vložitev. Kot razloge za spolno pristranost v orodjih umetne inteligence poleg izbire učnih množic navedem še označevanje, predstavitev vhodnih podatkov, modele ter konceptualizacijo raziskav. Na podlagi lastnih študij, objavljenih med leti 2019 in 2021, naloga pokaže, na kakšne načine orodja obdelave naravnega jezika izkazujejo spolno pristranost. Magistrska naloga se s spolno pristranostjo ukvarja tudi z vidika interakcije človeka s pristranimi orodji. Antropomorfizacija in navidezna objektivnost umetne inteligence predstavljata dva izmed glavnih negativnih vplivov tovrstnih orodij na človekovo odločanje. Ključni doprinos naloge je preko širokega pregleda literature virov jezikoslovja, računalništva, filozofije in drugih ved predlagati več smernic, ki bi lahko zmanjšale spolno pristranost v orodjih, kot so veliki jezikovni modeli. Spolno pristranost je potrebno natančno definirati s pomočjo družboslovnih ved. Orodja umetne inteligence morajo hkrati zadoščati visokim etičnim standardom, biti vključevalna in upoštevati zastopanost različnih izkušenj. Za razvijalce orodij je potrebno vzpostaviti jasen okvir odgovornosti. Podjetja se morajo zavezati k nenehnim izboljšavam orodij in transparentnosti, četudi jim te finančno ne koristijo. Kljub koristim, ki jih lahko imamo od orodja, ki posnema človeka, menim, da je dobro, da se razvijalci zavežejo k zmanjševanju antropomorfizacije orodij, saj le-ta lahko neželeno vpliva na človekovo odločanje in s tem posega v njegovo avtonomijo. S tem, ko orodja sama ustvarjajo besedila, ta pa uporabimo kot učno množico za nadaljnja orodja, ustvarjamo »fenomen povratne zanke«. Ena izmed smernic naloge je tovrsten efekt preprečiti. Nazadnje naloga predlaga vodilno vlogo, ki naj jo ima izobrazba na področju umetne inteligence in spolne pristranosti, saj lahko opolnomoči ljudi tako pri uporabi orodij kot pri življenju v novi realnosti.20242024-03-14 07:45:07Magistrsko delo/naloga155014VisID: 542772sl