Umetna inteligenca igra vse večjo vlogo na področju kmetijstva. Podjetje Carbon Robotics je konec marca predstavilo traktorju podoben stroj, ki z umetno inteligenco prepoznavana in lasersko uničuje plevel na njivah. Foto: Pixabay
Umetna inteligenca igra vse večjo vlogo na področju kmetijstva. Podjetje Carbon Robotics je konec marca predstavilo traktorju podoben stroj, ki z umetno inteligenco prepoznavana in lasersko uničuje plevel na njivah. Foto: Pixabay

Umetna inteligenca se uporablja že desetletja, a dobiva s tehnološkim razvojem nove zmogljivosti, kar odpira ogromno priložnosti na različnih področjih, kot so zdravstvo, promet, energetika, kmetijstvo, turizem ali kibernetska varnost.

O prednostih in tveganjih uporabe umetne inteligence smo se pogovarjali s predstavniki Mednarodnega raziskovalnega centra za umetno inteligenco pod okriljem UNESCA (IRCAI).

"Umetna inteligenca je matematika v praksi. Mi jo kreiramo, pri čemer uporabljamo matematiko in statistiko iz lastnega razumevanja sveta," za MMC pojasnjuje direktor operative pri IRCAI-ju Davor Orlič.

IRCAI si med drugim prizadeva za demistifikacijo fenomena, saj je v popkulturi umetna inteligenca pogosto predstavljena kot nekaj nevarnega, kar se bo obrnilo proti človeštvu, nato pa nas bodo pobili roboti. "Matematike človeštvo ne zanima. V resnici se mi prek teh stvari bojimo sami sebe," razlaga Orlič.

Dostava zdravil z brezpilotniki in prepoznavanje bolezni v iztrebkih

Mednarodni raziskovalni center ima sedež v Sloveniji in prek partnerske mreže sodeluje v številnih razvojnih projektih po svetu. V Tanzaniji so sodelovali pri razvoju mobilne aplikacije, s katero lahko umetna inteligenca s fotografij fekalij prepozna, ali so kokoši bolne. V Ruandi umetna inteligenca nadzira brezpilotne letalnike Zipline, ki podeželskim, težko dostopnim bolnišnicam dostavljajo zaloge krvi in zdravil. V Indiji jo kmetovalci uporabljajo pri prepoznavanju bolezni sviloprejk.

"Kmetovalec z aplikacijo na telefonu pride v sadovnjak, naredi fotografijo sadeža in jo pošlje nazaj na strežnik, umetna inteligenca pa sporoči: ojej, v jabolku so črvi, treba je s škropljenjem počakati še dva tedna. Na račun te aplikacije je potencialno lahko vsak mesec sitih 50.000 ljudi," tehnologijo zagovarja naš sogovornik.

O etiki "izjemno veliko razprav", a je "pravičnost težko kodificirati"

Veliki kitajski brat: prva digitalna diktatura

Evropska unija želi na področju umetne inteligence dohiteti velesili Kitajsko in ZDA. Pri tem se zaradi izkušenj iz tujine pojavljajo pomisleki glede zlorab, osebnih podatkov in nadzora nad prebivalstvom.

"O etiki v umetni inteligenci se v zadnjem letu izjemno veliko razpravlja. Gradijo se varovalke prek etičnih principov, priporočil in mednarodnih pravnih instrumentov," pojasnjuje vodja komunikacij pri IRCAI-ju Mihajela Črnko.

Davor Orlič dodaja, da razprave na mednarodni ravni sicer kažejo, da je razumevanje "pravičnosti" subjektivno, da gre za relativni pojem. "Ti pogovori so zato refleksija naših norm, pri čemer nam umetna inteligenca nastavlja ogledalo," pojasnjuje in dodaja, da je "pravičnost težko kodificirati".

Kako daleč regulirati, da se ne omejuje razvoj

Evropski pravni okvir – o katerem bosta še razpravljala Evropski parlament in Svet EU-ja – naj bi zavaroval varnost in pravice ljudi in podjetij ter hkrati spodbudil naložbe v tehnološki razvoj in inovacije, piše Slovenska tiskovna agencija (STA). Pri vzpostavljanju evropskega pravnega okvira sodeluje tudi Cahai, ad hoc odbor Sveta Evrope za umetno inteligenco, ki ustvarja priporočila za zakonodajalce. Znotraj Cahaia ima IRCAI status opazovalca.

"Na podlagi diskusij se išče ravnotežje, kako daleč regulirati umetno inteligenco, da se ne omejuje razvoj," še pove Mihajela Črnko.

"Umetne inteligence se ni treba bati"

Na predstavitvi zakonodajnega predloga Evropske komisije je izvršna podpredsednica komisije za digitalne zadeve Margrethe Vestager poudarila, da je treba za učinkovito in varno uporabo umetne inteligence "zagotoviti sinergijo ekosistemov zaupanja in odličnosti".

"Naš cilj v centru je ne samo demistificirati, temveč tudi ljudem eksplicitno povedati, da se ni treba bati. Da je Evropa vedno bolj varna na tem področju, da se zelo veliko razmišlja o tem in da je prostor za napake vse manjši," še poudarja direktor operative pri IRCAI-ju.

Margrethe Vestager je pri predstavitvi pravnega okvira EU-ja poudarila pomembnost zaupanja in odličnosti. Foto: EPA
Margrethe Vestager je pri predstavitvi pravnega okvira EU-ja poudarila pomembnost zaupanja in odličnosti. Foto: EPA

Evropska komisija je v zakonodajni predlog vključila tudi prepoved uporabe umetne inteligence v določenih primerih in finančne kazni za kršitelje pravil. Predlog Evropske komisije temelji na logiki, da je umetna inteligenca sredstvo, ne cilj, zato komisija ne ureja umetne inteligence kot take, temveč kdaj in kako se uporablja. "Večje je tveganje uporabe za življenje ljudi, strožja so pravila," je ponazorila Margrethe Vestager.

Bruselj: "Večje kot je tveganje, strožja so pravila."

Komisija predlaga ureditev v obliki piramide iz štirih delov, poroča STA. Spodnji in najširši del se nanaša na uporabo umetne inteligence brez tveganja ali z majhnim tveganjem, to so na primer filtri za nezaželeno elektronsko pošto.

Pri naslednji plasti gre za omejeno tveganje, na primer pri sistemih kupovanja vozovnic ali vstopnic. Ko gre za sisteme umetne inteligence, kot so klepetalni boti, morajo uporabniki vedeti, da so v stiku s strojem, poudarjajo pri Evropski komisiji, na to pa opozarjata tudi naša sogovornika.

Ključni del te piramide je tretja plast, ki se nanaša na uporabo umetne inteligence v primerih, ki pomembno vplivajo na naša življenja, na primer pri zaposlovanju in izobraževanju ter v kritični infrastrukturi, na primer v prometu – v prihodnosti se pričakujejo samovozeči avtomobili. Ta del lahko ogrozi življenje in zdravje ljudi.

V tem primeru Evropska komisija predlaga pet strogih pogojev za uporabo: zagotovitev kakovostnih podatkov, podrobno spremljanje delovanja sistema, ustrezno obveščanje uporabnikov, ustrezna raven človeškega nadzora tako pri zasnovi kot pri izvajanju ter spoštovanje najvišjih standardov na področju kibernetske varnosti in točnosti.

Identifikacija na daljavo dovoljena v izjemnih primerih

Med sistemi velikega tveganja namenja Evropska komisija posebno pozornost biometrični identifikaciji na daljavo, najbolj poznana tehnologija je prepoznavanje obraza. Njena uporaba v živo na javnih prostorih za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj je načeloma prepovedana.

Veliki evropski brat se prebuja - "Obraza ne moremo zamenjati"

Vendar zakonodaja opredeljuje vrsto izjem, na primer ko je uporaba nujna pri iskanju pogrešanega otroka, za preprečevanje konkretne in neposredne teroristične grožnje ali pri odkrivanju, iskanju, prepoznavanju ali pregonu storilca ali osumljenca hudega kaznivega dejanja. To so sicer primeri, ko je storilcu, če je spoznan za krivega, zagrožena več kot triletna zaporna kazen.

Za tako uporabo je potrebno dovoljenje pravosodnega ali drugega neodvisnega organa. Poleg tega mora biti omejena glede časa, geografskega obsega in podatkovnih zbirk, ki se preiskujejo.

Za najožje področje komisija predlaga prepoved uporabe umetne inteligence, ker ocenjuje, da gre za nesprejemljivo tveganje, ki ogroža varnost in pravice ljudi. V to skrajno prepovedano kategorijo spadajo sistemi, ki manipulirajo z vedenjem ljudi, na primer igrača z glasovnim upravljanjem, ki otroka spodbuja k nevarnemu ravnanju, in sistemi, ki vladam omogočajo družbeno točkovanje, po katerem bi na primer oseba, ki krši prometna pravila, lahko imela težave pri pridobivanju posojila na banki.

Za kršitelje so v skrajnem primeru predvidene finančne kazni – do 30 milijonov evrov ali v primeru podjetja do šest odstotkov njegovega celotnega letnega prometa, odvisno od tega, kateri znesek je večji, pravni okvir še povzema STA.

Tehnologijo prepoznavanja obraza bi Bruselj omejil na izredne primere. Foto: Reuters
Tehnologijo prepoznavanja obraza bi Bruselj omejil na izredne primere. Foto: Reuters

EDPS poziva k popolni prepovedi prepoznavanja obrazov

Neodvisna organizacija EU-ja za varstvo podatkov (EDPS) je dva dni po predstavitvi pravnega okvira sporočila, da bi morali uporabo tehnologije prepoznavanja obraza popolnoma prepovedati. "Potreben je strožji pristop, saj biometrična identifikacija na daljavo, pri čemer lahko umetna inteligenca prispeva k razvoju nezaslišanih razsežnosti, predstavlja izjemno veliko tveganje zaradi globokega in nedemokratičnega vdora v zasebno življenje posameznikov," so zapisali v izjavi.

"Glede prepoznave obraza je še vedno na mizi debata o tem, kako zagotoviti nepristranskost, kakšne grožnje vidimo. Mnenja se izoblikujejo zelo pedantno. To se bo definiralo zelo jasno, v kakšnih primerih in pod kakšnimi pogoji. Spet smo v iskanju ravnotežja," je dogajanje komentirala Mihajela Črnko.

EU v pravnem okviru resda omejuje uporabo na terorizem ter iskanje pogrešanih in kriminalcev, a za učinkovito uporabo te tehnologije morajo imeti državni organi na voljo dostop do velike podatkovne baze.

"Posameznik mora imeti možnost vpogleda v uporabo"

"Glavna infrastruktura naše podatke že ima. Moj zdravnik uporablja moje zdravstvene podatke, DURS uporablja moje finančne podatke," pojasnjuje Davor Orlič. Pri tem pa poudarja, da "je pomembno, da ima posameznik možnost vpogleda, če, kdaj in kako se ti podatki uporabljajo. Spet gre za demistifikacijo. Uporaba mora biti komunicirana na pravilen način".

Pravni okvir, ki ga je predlagala Evropska komisija, se bo sprejemal po rednem postopku. Zdaj gre z obravnavo v Svet EU-ja in Evropski parlament. Uredba se začne ob sprejetju neposredno uporabljati v vseh članicah EU-ja.

Vse pogosteje se roboti in umetna inteligenca uporabljajo v zdravstvu. Na fotografiji robot Da Vinci v bolnišnici na Poljskem. Foto: EPA
Vse pogosteje se roboti in umetna inteligenca uporabljajo v zdravstvu. Na fotografiji robot Da Vinci v bolnišnici na Poljskem. Foto: EPA

V Sloveniji napredno raziskovanje, a pomanjkljiva digitalna infrastruktura

Zanimalo nas je tudi, kako je z uporabo umetne inteligence v Sloveniji. Sogovornika navajata raziskovalni projekt, ki se ukvarja s sistemom javnih naročil. IRCAI programski svet za umetno inteligenco in izobraževanje razvija tudi projekt uporabe umetne inteligence v izobraževanju, in sicer za dostop do odprtih izobraževalnih virov.

IRCAI programski svet za umetno inteligenco in zdravstvo pa je tudi podprl in sodeloval pri vključitvi umetne inteligence v razvoj cepiva proti covidu-19, ki bo med drugim namenjeno državam v razvoju.

Sodelavci na Institutu Jožef Stefan se medtem trudijo vzpostaviti digitalno jezikovno infrastrukturo, da se "ne bomo rabili s svojimi telefoni več pogovarjati v angleščini".

Digitalizirana republika, kjer je obiskovanje uradov preteklost

V Sloveniji je znanstveno raziskovanje precej razvito. Konec koncev je mednarodno definicijo umetne inteligence, ki jo uporablja Organizacija za gospodarsko sodelovanje in razvoj (OECD) – "strojni sistem, ki lahko za nabor človeško opredeljenih ciljev poda napovedi, priporočila ali sprejema odločitve, ki vplivajo na resnično ali navidezno okolje" – pripravil slovenski strokovnjak Marko Grobelnik.

Digitalna infrastruktura je na drugi strani razvita precej slabše. V evropski prvakinji digitalizacije Estoniji umetno inteligenco uporabljajo tudi za pomoč pri odločanju na sodiščih. V Sloveniji smo še daleč od te stopnje. "Umetna inteligenca je na vrhu celotne podatkovne infrastrukture. Najprej moraš imeti zgrajeno kuhinjo, napeljano vodo in elektriko, nato potrebuješ še vse kuhinjske pripomočke. Potrebuješ še recept, da lahko spečeš torto. Umetna inteligenca je samo tista češnja na vrhu," ponazarja Davor Orlič.