Umetna inteligenca: služabnik ali gospodar?

O umetni inteligenci v resnici vemo zelo malo

Umetna inteligenca sodeluje v znanstvenih raziskavah. Medtem ko prebirate te besede, se po vsem svetu intenzivno uči voziti avtomobile, pa tudi uporabljati orožje. Z vami se – če tako želite – tudi pogovarja in vam pri pogovoru pomaga s simultanim prevajanjem. Ruski predsednik Vladimir Putin je pred kratkim izjavil: "Kdor bo obvladoval umetno inteligenco, bo vladal svetu!"

06. oktober 2017 ob 18:01
Ljubljana - MMC RTV SLO
Vsakič ko odpremo Googlov iskalnik, predamo temu podjetju množico podatkov o sebi, o tem, kaj nas zanima, in tako večamo njihovo zakladnico znanja. Enako velja za Facebook, za Airbnb in za vsa druga velika spletna podjetja," izpostavlja Blaž Zupan, predstojnik Laboratorija za bioinformatiko na ljubljanski fakulteti za računalništvo in informatiko. Foto: Reuters

Umetna inteligenca je v naglem vzponu. Število nalog, ki jim je nadvse prepričljivo kos, se širi iz meseca v mesec. Srečamo jo vsakič, ko brskamo po spletu. V zadnjih nekaj letih so druga za drugo padle številne ovire, ki so umetni inteligenci desetletja omejevale domet. Zdaj se zdi, da utegne s svojo osupljivo učinkovitostjo kmalu nadomestiti človeka tudi na številnih področjih, za katera se je še včeraj zdelo, da so v naši izključni domeni in tako mimogrede zdesetkati delovna mesta, ki jih danes še imamo. Opozorila strokovnjakov si zato sledijo kot po tekočem traku, toda večinoma ne padejo na plodna tla.

Razloga za to sta dva. O umetni inteligenci in izzivih, ki jih postavlja pred nas, vemo pravzaprav izredno malo. Tako ljudje na splošno, čeprav nas umetna inteligenca na spletu neprestano spremlja, kot tudi odločevalci, ki bi se morali ukvarjati s pripravo ustrezne zakonodaje. Po drugi strani je velik del podatkov, na podlagi katerih umetna inteligenca šele razvija vso svojo moč, v lasti zasebnih korporacij. Ob pomanjkanju ustrezne zakonodaje lahko te z njimi počnejo skoraj kar koli.

Naši podatki – vir moči korporacij
Umetna inteligenca ni od včeraj. Z njenim razvojem se intenzivno ukvarjajo že več kot 40 let. Toda šele z razmahom svetovnega spleta in z vsemi podatki, ki jih tja dnevno nalagamo v vse večjih količinah, so se odprle povsem nove razsežnosti. Ne brez razloga. "Podatki zagotavljajo določeno moč, toda moraš jih znati tudi obdelati. Tukaj pride v igro umetna inteligenca. Ta ti da moč, če imaš podatke. Vprašanje je torej, kdo razpolaga s podatki in z umetno inteligenco. Dokler je to država, ki ji zaupamo ali pa tudi ne, smo še nekako zadovoljni. V trenutku, ko ima to moč v rokah neko podjetje, ki ima svoje interese, pa nam situacija ni več všeč," izpostavlja današnjo dilemo Janez Demšar s Fakultete za računalništvo in informatiko Univerze v Ljubljani.

Dejstvo je, da je danes velika večina podatkov v rokah precej omejene skupine korporacij. Če je osnovni interes teh podjetij v tem trenutku morda še vedno povečevanje prodaje oziroma tržnega deleža, se s povezavo podatkov in umetne inteligence odpirajo vse subtilnejše možnosti vplivanja na uporabnika spleta in družbenih omrežij. "Z brezobzirnim zbiranjem osebnih podatkov lahko umetna inteligenca za vsakega posameznika napove, kakšen je njegov okus, kakšne so njegove preference, tudi politične. Te preference je s pomočjo manipulacije prek družbenih omrežij mogoče tudi spreminjati. Metode za to že obstajajo in se hitro razvijajo," opozarja oče razvoja umetne inteligence pri nas, akademik Ivan Bratko, ki meni, da takšna raba umetne inteligence že resno ogroža demokracijo.

Teh razsežnosti se večina izmed milijard uporabnikov svetovnega spleta, ki danes dnevno in prostovoljno predajamo svoje osebne, službene in druge podatke v roke izjemno ozkemu krogu podjetij, ne zaveda. Storitve, ki nam jih ta podjetja nudijo, nam lahko zelo koristijo, nam poenostavijo in olajšajo življenje, toda to ni njihov osnovni namen. Njihov namen je, da ustvarjajo dobiček. "Vsakič ko odpremo Googlov iskalnik, predamo temu podjetju množico podatkov o sebi, o tem, kaj nas zanima, in tako večamo njihovo zakladnico znanja. Enako velja za Facebook, za Airbnb in za vsa druga velika spletna podjetja," izpostavlja Blaž Zupan, predstojnik Laboratorija za bioinformatiko na ljubljanski Fakulteti za računalništvo in informatiko. "Nato morajo samo še uporabiti algoritme umetne inteligence. Ti algoritmi niso zapleteni. Vsak naš študent jih zna uporabiti. Zato so po mojem mnenju v tem trenutku podatki bolj dragoceni kot algoritmi, ki so prosto dostopni, saj jih je razvila akademska skupnost."

Razlog, da so podatki danes v lasti korporacij, je tesno povezan z razvojem svetovnega spleta, ki ga tako kot vse druge tehnologije zaznamujejo poteze kapitalizma, meni ekonomist Igor Feketija. Vprašanje, ali bi takšna baza podatkov sploh smela obstajati, je danes povsem odveč. Toda v 60. letih 20. stoletja so v Združenih državah Amerike idejo o takšni bazi, ki bi bila dostopna vladnim agencijam in univerzam, zavrnili kot preveč tvegano z vidika zasebnosti. "Ena izmed možnosti v začetkih razvoja računalniških povezav je bila bolj podobna računalništvu v oblaku. Obstajal bi javni ponudnik računalniškega oblaka, ki bi opravljal vsa računalniška opravila, posamezni uporabniki pa bi imeli pri sebi samo terminale, ki bi potrebovali neprimerno manj procesorske moči, saj bi vsa obdelava podatkov potekala centralno. Nekako tako, kot imamo danes uporabniki vodovodne pipe, dobava vode pa je v domeni velikega, za zdaj običajno javnega ponudnika. Zgodnji Applovi računalniki so imeli vidno vlogo pri tem, da je danes računalništvo decentralizirano. V vsakem primeru je tak model bolj v duhu kapitalizma, saj omogoča udeležbo zasebnih korporacij in ustvarjanje dobička," še izpostavlja Feketija.

Nova doba manipulacij
Iz množice podatkov, ki so danes na razpolago, se umetna inteligenca s pomočjo različnih metod strojnega učenja uči razbirati najrazličnejše vzorce. Tudi tiste, za katere nismo vedeli, da obstajajo. Vpliv umetne inteligence na naše življenje bo zato brez dvoma izreden. Kakšne možnosti za manipulacijo se tu ponujajo, odlično ponazarja način, kako denimo podjetje Facebook filtrira novice, ki jih vidimo na svojem profilu. "Ko na Facebooku beremo novice, ne vidimo vseh novic, ki so objavljene v tem času, ampak tiste, za katere se je Facebook odločil, da bi nam bile zanimive. Tega pa ne počnejo ljudje, ampak algoritmi. Če se ti algoritmi preusmerijo tako, da bodo favorizirali določene novice, bodo te dosegle širši krog ljudi in s tem povzročile spremembo mišljenja ljudi. Če se odločijo, da določenih novic ne bodo širili, potem te ne morejo doseči dovolj velike kritične mase, da bi se zares razširile, ampak ostanejo omejene na ozek krog ljudi," razlaga ozadje delovanja Facebookovih algoritmov Anže Starič s fakultete za računalništvo in informatiko.

Trenutno ta velika podjetja še vedno skrbijo predvsem za svoj dobiček, izpostavlja Demšar. Objavljajo take novice, da bodo z oglasi kar največ zaslužila. Toda funkcijo, ki jo optimizirajo, lahko tudi spremenijo. Pri načrtni manipulaciji pride moč umetne inteligence najbolj do izraza, saj omogoča zanesljive napovedi, katera novica bo najbolj vplivala na določenega volivca in kakšna mora biti novica, da bo imela največji učinek. Pri takšnih napovednih modelih je kombinacija umetne inteligence in velikih podatkov ključna, saj omogoča analiziranje zaznanih vzorcev vedenja in napovedovanje najverjetnejših odzivov.

Tak vpliv algoritmov podjetja Facebook se je do neke mere pokazal že pri zadnjih ameriških volitvah in britanskem referendumu o članstvu v Evropski uniji. Tudi naglo širjenje najrazličnejših lažnih novic, ki pomembno sooblikujejo mnenje o različnih družbenih in političnih pojavih, je le en od simptomov tega, z umetno inteligenco podprtega širjenja informacij.

Eno ključnih vprašanj današnjega trenutka je tako, kako se bomo na vse bolj vseprisotno umetno inteligenco odzvali kot družba.
Za več podrobnosti o tej pereči problematiki poslušajte oddajo Intelekta: Umetna inteligenca – služabnik ali gospodar?, v kateri so sodelovali strokovnjaki s področja umetne inteligence: akademik Ivan Bratko, Blaž Zupan, Janez Demšar in Anže Starič ter ekonomist Igor Feketija in filozofinja Olga Markič.



Nina Slaček, 1. program Radia Slovenija
"Ko na Facebooku beremo novice, ne vidimo vseh novic, ki so objavljene v tem času, ampak tiste, za katere se je Facebook odločil, da bi nam bile zanimive. Tega pa ne počnejo ljudje, ampak algoritmi. Če se ti algoritmi preusmerijo tako, da bodo favorizirali določene novice, bodo te dosegle širši krog ljudi in s tem povzročile spremembo mišljenja ljudi. Če se odločijo, da določenih novic ne bodo širili, potem te ne morejo doseči dovolj velike kritične mase, da bi se zares razširile, ampak ostanejo omejene na ozek krog ljudi," razlaga ozadje delovanja Facebookovih algoritmov Anže Starič s fakultete za računalništvo in informatiko. Foto: Reuters

Zanimivosti


Posamezne delfine lahko razločimo po njihovih obrazih

Ljubljanski študenti s Pipistrelom razvili prvo polnilnico za električna letala

Umetna inteligenca se je že sposobna učiti brez človekove pomoči

Na Kemijskem inštitutu razvili proteinske kletke, ki jih je mogoče sintetizirati v celicah