Pristranskost v strojnem učenju: primer COMPASFarič, Ana (Avtor) Bratko, Ivan (Mentor) umetna inteligencastrojno učenjepristranskostpravičnostsistem COMPASSistem COMPAS, ki se v ameriškem pravosodju uporablja za napovedovanje povratništva, predstavlja enega najbolj polemičnih primerov uporabe strojnega učenja. Leta 2016 je prispevek v reviji ProPublica sprožil razpravo o njegovi domnevni rasni pristranskosti. Zaradi pomanjkanja univerzalne definicije pristranskosti in nasprotujočih si kriterijev pravičnosti pa še danes ni konsenza, ali je sistem pristranski. Delo združuje teoretično sintezo tehničnih, pravnih in družbenih vidikov pristranskosti. Natančno sem dokumentirala atribute in analizirala podatkovno zbirko, ki so jo objavili avtorji ProPublice in se od leta 2016 pogosto uporablja za preučevanje pristranskosti. V empiričnem delu sem eksperimentalno potrdila ugotovitve predhodnih študij, da bolj kompleksni modeli (nevronske mreže) ne dosegajo večje napovedne točnosti kot enostavnejši modeli (odločitvena drevesa, logistična regresija, odločitvena pravila). Prav tako sem reproducirala vzorec napak, kjer imajo temnopolti višji delež napačnih pozitivnih napovedi (FPR), belci pa višji delež napačnih negativnih napovedi (FNR). Kot ključna mehanizma, ki prispevata k tem razlikam, sem opredelila 1) porazdelitev učnih podatkov (predvsem razlike v osnovni stopnji povratništva ter v distribuciji starosti in predhodnih kaznivih dejanj med skupinama) in 2) postopek binarizacije verjetnostnih ocen, ki razlike med skupinama še poveča. Poskus napovedovanja rase na podlagi preostalih atributov kaže, da modeli rase na podlagi preostalih podatkov ne rekonstruirajo zanesljivo, kar omejuje argument o približkih. Prav tako je končna ocena pristranskosti modelov odvisna od izbranega kriterija. Po kriteriju izenačenih možnosti so vsi analizirani modeli pristranski, po kriteriju napovedne paritete pa nepristranski. Ugotovitve pojasnjujejo nasprotujoče si zaključke preteklih raziskav in poudarjajo pomen upoštevanja verjetnostnih ocen in izvorne porazdelitve učnih podatkov pri vrednotenju modelov strojnega učenja.A. Farič20262026-09-23 08:30:16Magistrsko delo/naloga188450UDK: 004.8(043.2)VisID: 211685COBISS_ID: 292361475sl