Prepovedani in tvegani sistemi umetne inteligence v pravnem redu EUStariha, Andraž (Avtor) Završnik, Aleš (Mentor) Akt o umetni inteligenciAIAprepovedani sistemi UIvisoko tvegani sistemi UIumetna inteligencatveganja umetne inteligencepregon kaznivih dejanjpravosodjevojaški nameniV nalogi je obravnavan pristop k pravni regulaciji prepovedanih in visoko tveganih sistemov umetne inteligence, ki ga vpeljuje novi Akt o umetni inteligenci (Uredba 2024/1689). Namen naloge je predvsem ugotoviti, v kolikšni meri novi akt odraža realna tveganja, ki jih s seboj prinašajo ti sistemi, in ali jih temu primerno tudi ureja. V ta namen je sprva podana preprosta opredelitev sistemov umetne inteligence, nato pa so nekatera izbrana nevarnejša tveganja, kot npr. manipulacija in izvršitev kaznivih dejanj, predstavljena z resničnimi primeri uporabe. Zatem je na kratko povzet razvoj zakonodajnega pristopa, ki ga danes poznamo v Aktu o umetni inteligenci, čemur sledi podrobnejša opredelitev 5. in 6. člena uredbe, ki predstavlja poglavitni del naloge. Tako je sprva predstavljena ureditev prepovedanih praks, kjer je posebna pozornost posvečena sistemom za napovedovanje kaznivih dejanj in sistemom za biometrično identifikacijo na daljavo. Nato je predstavljena še ureditev visoko tveganih sistemov UI, kjer so pod drobnogled vzeti sistemi za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj ter sistemi, ki naj bi se uporabljali v kazenskem pravosodju. V obeh poglavjih so izpostavljene tudi nekatere pomanjkljivosti trenutne ureditve, pri čemer so mestoma predlagani drugačni pristopi. Na koncu sta ločeno obravnavani še dve poglavji, in sicer ureditev sistemov umetne inteligence za vojaške, obrambne in nacionalne varnostne namene, ter potencialen pristop k regulaciji razširjene prakse t. i. »nevidnega dela«, kjer lahko kršitve temeljnih vrednot Unije nastopijo še preden je sistem dan na trg ali v uporabo.20252025-08-28 09:00:04Magistrsko delo/naloga171558VisID: 128706COBISS_ID: 249135107sl