Zaupanje in uspešnost umetne inteligence v medicini

Miklavčič, Jonas (avtor)

Evropska komisija je aprila 2021 izdala predlog pravilnika, ki bo omogočil regulacijo umetne inteligence (UI). Mnogi kompleksni algoritemski sistemi, ki v medicini ponujajo največ upanja za drastičen napredek, strogih kriterijev, ki jih v svojem predlogu navaja Evropska komisija, pogosto žal ne dosegajo – npr. ne delujejo transparentno. Kot enega izmed kriterijev za presojanje etičnosti uporabe UI tako predlagam kriterij uspešnega delovanja, saj bi morda lahko sistemom, ki konsistentno delujejo uspešno, zaupali tudi, če kriterija transparentnosti ne bi dosegali. Tu naletimo na problem odnosa med zaupanjem in uspešnostjo. Ne le, da je naše zaupanje v odnosu do UI odvisno od uspešnega delovanja sistemov, pač pa je tudi uspešnost njihovega delovanja odvisna od našega zaupanja – saj njihova odličnost temelji tudi na uporabi podatkov, ki jim jih zaupamo v učne namene. Morda je edini način za rešitev tega krožnega problema ta, da sistemom zaupamo, tudi ko ti zaupanja še niso povsem vredni.

• Jezik: Slovenski jezik
• Ključne besede: umetna inteligenca, medicina, transparentnost, zaupanje, uspešno delovanje
• Vrsta gradiva: Članek v reviji
• Tipologija: 1.01 - Izvirni znanstveni članek
• Organizacija: TEOF - Teološka fakulteta
• Status publikacije: Objavljeno
• Različica publikacije: Objavljena publikacija
• Datum objave: 01.01.2021
• Leto izida: 2021
• Št. strani: Str. 935-946
• Številčenje: Letn. 81, [št.] 4
• PID: 20.500.12556/RUL-164050
• UDK: 004.89:61
• ISSN pri članku: 0006-5722
• DOI: 10.34291/BV2021/04/Miklavcic
• COBISS.SI-ID: 91442179
• Datum objave v RUL: 16.10.2024

Gradivo je del revije

• Naslov: Bogoslovni vestnik : glasilo Teološke fakultete v Ljubljani
• Skrajšan naslov: Bogosl. vestn.
• Založnik: Teološka fakulteta
• ISSN: 0006-5722
• COBISS.SI-ID: 8745472

Licence

• Licenca: CC BY 4.0, Creative Commons Priznanje avtorstva 4.0 Mednarodna
• Povezava: http://creativecommons.org/licenses/by/4.0/deed.sl
• Opis: To je standardna licenca Creative Commons, ki daje uporabnikom največ možnosti za nadaljnjo uporabo dela, pri čemer morajo navesti avtorja.

Sekundarni jezik

• Jezik: Angleški jezik
• Naslov: Trust and success of artificial intelligence in medicine

Izvleček

The European Commission has proposed legislation to enable the regulation of artificial intelligence (AI). However, many complex algorithmic systems that offer the greatest hope for dramatic advances in medicine often fail to meet the strict criteria of the European Commission – e.g. they often do not operate transparently. As one of the criteria for assessing the ethical use of AI, I propose the criterion of successful performance since perhaps systems that work consistently well could be trusted even if they do not meet the criterion of transparency. Here we encounter the problem of the relationship between trust and performance. Not only does our trust in AI depend on the successful operation of the systems, but the success of their operation depends on our trust since their performance also relies on the use of data we provide for algorithm’s learning. Perhaps we need to trust the systems before they can be trustworthy.

• Ključne besede: artificial intelligence, medicine, transparency, trust, successful performance