Zaupanje in uspešnost umetne inteligence v mediciniMiklavčič, Jonas (Avtor) umetna inteligencamedicinatransparentnostzaupanjeuspešno delovanjeEvropska komisija je aprila 2021 izdala predlog pravilnika, ki bo omogočil regulacijo umetne inteligence (UI). Mnogi kompleksni algoritemski sistemi, ki v medicini ponujajo največ upanja za drastičen napredek, strogih kriterijev, ki jih v svojem predlogu navaja Evropska komisija, pogosto žal ne dosegajo – npr. ne delujejo transparentno. Kot enega izmed kriterijev za presojanje etičnosti uporabe UI tako predlagam kriterij uspešnega delovanja, saj bi morda lahko sistemom, ki konsistentno delujejo uspešno, zaupali tudi, če kriterija transparentnosti ne bi dosegali. Tu naletimo na problem odnosa med zaupanjem in uspešnostjo. Ne le, da je naše zaupanje v odnosu do UI odvisno od uspešnega delovanja sistemov, pač pa je tudi uspešnost njihovega delovanja odvisna od našega zaupanja – saj njihova odličnost temelji tudi na uporabi podatkov, ki jim jih zaupamo v učne namene. Morda je edini način za rešitev tega krožnega problema ta, da sistemom zaupamo, tudi ko ti zaupanja še niso povsem vredni. 20212024-10-16 10:29:28Članek v reviji164050sl