Na Univerzi v Ljubljani so v četrtek, 5. junija, priredili mednarodno konferenco o uporabi umetne inteligence v medicini in znanosti.

Konference se je udeležil tudi ljubljanski pomožni škof dr. Anton Jamnik: zbranim je predstavil svoje predavanje o etičnih vprašanjih, ki jih odpira uporaba umetne inteligence. Škofovo predavanje objavljamo v celoti.

Izredno hiter napredek znanosti in tehnike odpira številna nova etična vprašanja in tudi teološka etika skuša razumeti, kakšne so najnovejše pridobitve in kaj prinašajo za življenje posameznih ljudi, človeške družbe in celotnega naravnega okolja. Ena od takšnih pridobitev je prav gotovo tudi t. i. umetna inteligenca. Najprej je treba jasno povedati, da ne gre za inteligenco v pravem pomenu besede, ampak gre za stroj, ki na izredno učinkovit način posnema človeško inteligenco. Gre za proizvod človeka, ki pa je več kot samo sredstvo. V marsičem ga namreč presega in čedalje bolj usmerja številna področja našega življenja.

Katoliška Cerkev načeloma pozdravlja napredek sodobne tehnike in vidi v novih tehnoloških dosežkih nadaljevanje stvarjenjskega procesa. Bog je ustvaril človeka kot razumno bitje in mu zaupal skrb za nadaljnji razvoj stvarstva. Človek si je s pomočjo razuma in ustvarjalnosti v marsičem olajšal življenje in razvil različne možnosti, da živi bolj polno in srečno življenje. Tudi ves razvoj digitalne tehnologije in umetne inteligence je treba naprej presojati v tej pozitivni luči. Prinaša namreč ogromno prednosti za življenje človeka kot posameznika in za človeško družbo.

»Tako kot druge pridobitve človeškega razuma pa tudi sistemi umetne inteligence prinašajo s seboj številne možnosti pasti in možnosti zlorab. Prej omenjena osebna prilagoditev algoritmov posameznika čedalje bolj zapira v krog enako mislečih (mehurčki) in ga tako oddaljuje od prave resničnosti. Uporabnik je omejen na informacije, ki so skladne z njegovimi že izraženimi pogledi in interesi, medtem ko je vsebina, ki bi postavila njegova stališča pod vprašaj, pogosto izločena. Velik problem je tudi izvor podatkov, iz katerih se učijo sistemi umetne inteligence. Lahko gre za pristranske podatke, zaradi katerih prihaja do napačnih zaključkov in možnost diskriminacije zaradi rase, spola, ekonomskega položaja, starosti. Izkušnje že kažejo, da ima taka uporaba nevarne posledice za številna področja, od izobraževanja, zdravstva in zavarovanja do zaposlovanja, sodstva in zagotavljanje javnega reda. Odpirajo se tudi vprašanja glede uporabe umetne inteligence v medicini. Po eni strani je analiza velike količine podatkov v veliko pomoč pri postavljanju diagnoze, po drugi strani pa UI ne more celostno dojeti enkratnosti situacije posameznega pacienta. Vemo, da so možne zlorabe osebnih informacij, ki jih zbirajo sistemi velikih podatkov za komercialne, medijske, politične in vojaške namene. S tem je povezan tudi prevelik nadzor na zasebnim življenjem in sledenje vedenjskim vzorcem prebivalcev. Ena največjih dilem je prav gotovo vprašanje transparentnosti pri sprejemanju odločitev in odgovornost za povzročeno škodo pri napačnih odločitvah. Niti največji strokovnjaki niti razvijalci umetne inteligence ne morejo popolnoma razložiti njenega delovanja« je zapisal prof. dr. Roman Globokar.

Etične zahteve za umetno inteligenco, ki bo osredinjena na človeka

Smo v dinamičnem okolju tehnološkega napredka priče pospeševanju inovacij in učinkovitosti umetne inteligence (UI) brez primere. Velikanski napredek umetne inteligence je utrl pot četrti industrijski revoluciji: to zaznamujejo novi tehnološki preboji na več področjih, ki brišejo meje med ljudmi in stroji, med naravnim in umetnim ter med fizičnim in virtualnim svetom.  Hitro napredovanje umetne inteligence napoveduje preobrazbeno obdobje na številnih področjih, kot so zdravstvo, izobraževanje, zaposlovanje in delovna mesta, gospodarstvo in industrija, promet in komunikacije. Te tehnološke korake pa spremljajo pomembna etična vprašanja.

• Sistemi umetne inteligence morajo biti zasnovani, oblikovani in izvedeni tako, da služijo ljudem in njihovemu okolju ter jih varujejo.
• UI je treba ocenjevati z etičnega vidika. Za to so poleg zakonodaje potrebna tudi načela notranjega nadzora in ocena tveganja.
• UI ni povezana zgolj s tehnološko in gospodarsko rastjo ter varovanjem temeljnih pravic in vrednot državljanov.
• Upoštevati je treba globlje antropološko razumevanje človeškega delovanja, avtonomije, samozavedanja, premišljevanja, namernosti, svobode in odgovornosti za razliko od prefinjenih dejavnosti 'inteligentnih strojev'.
• Umetna inteligenca nikoli ne sme biti vir pristranskih in diskriminatornih odločitev.
• Tehnologija umetne inteligence ne sme biti antropomorfizirana.
• Varovati je treba človekovo dostojanstvo, skupno dobro, subsidiarnost, solidarnost in pravičnost.
• V skladu s ključnimi načeli Rimskega poziva k etiki na področju UI^[1] so potrebni preglednost, izmenjava informacij, vključenost, odgovornost, nepristranskost, zanesljivost, varnost in zasebnost. UI naj bi pomagala ustvarjati življenjske pogoje (tako družbene kot osebne), ki bi skupnosti in njenim posameznim članom omogočali čim večji razcvet.
• V skladu s previdnostnim načelom je potrebna temeljita ocena in obvladovanje tveganj ter tehnična dokumentacija.
• Zaščita demokracije in pravne države je izjemnega pomena.
• Večplastne etične izzive, ki jih predstavlja UI, je treba obravnavati s sodelovalnim in interdisciplinarnim pristopom. Tak multidisciplinarni dialog je temeljnega pomena za oblikovanje politik, ki tehnološke inovacije usklajujejo z moralnimi in etičnimi vidiki.

Papež Frančišek je v poslanici ob 57. svetovnem dnevu miru januarja 2024 poudaril: »... Velik napredek novih informacijskih tehnologij, zlasti v digitalni sferi, zato predstavlja navdušujoče priložnosti in resna tveganja s pomembnimi posledicami za prizadevanje za pravičnost in harmonijo med ljudstvi. Zato si moramo nujno postaviti številna vprašanja …«

Papež v svojem sporočilu za mir še poglobi občutek omejenosti tehnokratske paradigme:

»'Inteligentni' stroji lahko vse učinkoviteje opravljajo naloge, ki so jim dodeljene, cilj in pomen njihovega delovanja pa bodo še vedno določali ali omogočali ljudje s svojim vesoljem vrednot. Obstaja tveganje, da merila, na katerih temeljijo nekatere izbire, postanejo manj jasna, da se odgovornost za odločanje skrije in da se proizvajalci izognejo obveznosti delovanja v dobro skupnosti.«^[2]