Znanost in tehnologija
Ocena novice: Vaša ocena:
Ocena 2.8 od 9 glasov Ocenite to novico!
Google
Vsakič ko odpremo Googlov iskalnik, predamo temu podjetju množico podatkov o sebi, o tem, kaj nas zanima, in tako večamo njihovo zakladnico znanja. Enako velja za Facebook, za Airbnb in za vsa druga velika spletna podjetja," izpostavlja Blaž Zupan, predstojnik Laboratorija za bioinformatiko na ljubljanski fakulteti za računalništvo in informatiko. Foto: Reuters
Facebook
"Ko na Facebooku beremo novice, ne vidimo vseh novic, ki so objavljene v tem času, ampak tiste, za katere se je Facebook odločil, da bi nam bile zanimive. Tega pa ne počnejo ljudje, ampak algoritmi. Če se ti algoritmi preusmerijo tako, da bodo favorizirali določene novice, bodo te dosegle širši krog ljudi in s tem povzročile spremembo mišljenja ljudi. Če se odločijo, da določenih novic ne bodo širili, potem te ne morejo doseči dovolj velike kritične mase, da bi se zares razširile, ampak ostanejo omejene na ozek krog ljudi," razlaga ozadje delovanja Facebookovih algoritmov Anže Starič s fakultete za računalništvo in informatiko. Foto: Reuters

Umetna inteligenca: služabnik ali gospodar?

O umetni inteligenci v resnici vemo zelo malo
6. oktober 2017 ob 18:01
Ljubljana - MMC RTV SLO

Umetna inteligenca sodeluje v znanstvenih raziskavah. Medtem ko prebirate te besede, se po vsem svetu intenzivno uči voziti avtomobile, pa tudi uporabljati orožje. Z vami se – če tako želite – tudi pogovarja in vam pri pogovoru pomaga s simultanim prevajanjem. Ruski predsednik Vladimir Putin je pred kratkim izjavil: "Kdor bo obvladoval umetno inteligenco, bo vladal svetu!"

Umetna inteligenca je v naglem vzponu. Število nalog, ki jim je nadvse prepričljivo kos, se širi iz meseca v mesec. Srečamo jo vsakič, ko brskamo po spletu. V zadnjih nekaj letih so druga za drugo padle številne ovire, ki so umetni inteligenci desetletja omejevale domet. Zdaj se zdi, da utegne s svojo osupljivo učinkovitostjo kmalu nadomestiti človeka tudi na številnih področjih, za katera se je še včeraj zdelo, da so v naši izključni domeni in tako mimogrede zdesetkati delovna mesta, ki jih danes še imamo. Opozorila strokovnjakov si zato sledijo kot po tekočem traku, toda večinoma ne padejo na plodna tla.

Razloga za to sta dva. O umetni inteligenci in izzivih, ki jih postavlja pred nas, vemo pravzaprav izredno malo. Tako ljudje na splošno, čeprav nas umetna inteligenca na spletu neprestano spremlja, kot tudi odločevalci, ki bi se morali ukvarjati s pripravo ustrezne zakonodaje. Po drugi strani je velik del podatkov, na podlagi katerih umetna inteligenca šele razvija vso svojo moč, v lasti zasebnih korporacij. Ob pomanjkanju ustrezne zakonodaje lahko te z njimi počnejo skoraj kar koli.

Naši podatki – vir moči korporacij
Umetna inteligenca ni od včeraj. Z njenim razvojem se intenzivno ukvarjajo že več kot 40 let. Toda šele z razmahom svetovnega spleta in z vsemi podatki, ki jih tja dnevno nalagamo v vse večjih količinah, so se odprle povsem nove razsežnosti. Ne brez razloga. "Podatki zagotavljajo določeno moč, toda moraš jih znati tudi obdelati. Tukaj pride v igro umetna inteligenca. Ta ti da moč, če imaš podatke. Vprašanje je torej, kdo razpolaga s podatki in z umetno inteligenco. Dokler je to država, ki ji zaupamo ali pa tudi ne, smo še nekako zadovoljni. V trenutku, ko ima to moč v rokah neko podjetje, ki ima svoje interese, pa nam situacija ni več všeč," izpostavlja današnjo dilemo Janez Demšar s Fakultete za računalništvo in informatiko Univerze v Ljubljani.

Dejstvo je, da je danes velika večina podatkov v rokah precej omejene skupine korporacij. Če je osnovni interes teh podjetij v tem trenutku morda še vedno povečevanje prodaje oziroma tržnega deleža, se s povezavo podatkov in umetne inteligence odpirajo vse subtilnejše možnosti vplivanja na uporabnika spleta in družbenih omrežij. "Z brezobzirnim zbiranjem osebnih podatkov lahko umetna inteligenca za vsakega posameznika napove, kakšen je njegov okus, kakšne so njegove preference, tudi politične. Te preference je s pomočjo manipulacije prek družbenih omrežij mogoče tudi spreminjati. Metode za to že obstajajo in se hitro razvijajo," opozarja oče razvoja umetne inteligence pri nas, akademik Ivan Bratko, ki meni, da takšna raba umetne inteligence že resno ogroža demokracijo.

Teh razsežnosti se večina izmed milijard uporabnikov svetovnega spleta, ki danes dnevno in prostovoljno predajamo svoje osebne, službene in druge podatke v roke izjemno ozkemu krogu podjetij, ne zaveda. Storitve, ki nam jih ta podjetja nudijo, nam lahko zelo koristijo, nam poenostavijo in olajšajo življenje, toda to ni njihov osnovni namen. Njihov namen je, da ustvarjajo dobiček. "Vsakič ko odpremo Googlov iskalnik, predamo temu podjetju množico podatkov o sebi, o tem, kaj nas zanima, in tako večamo njihovo zakladnico znanja. Enako velja za Facebook, za Airbnb in za vsa druga velika spletna podjetja," izpostavlja Blaž Zupan, predstojnik Laboratorija za bioinformatiko na ljubljanski Fakulteti za računalništvo in informatiko. "Nato morajo samo še uporabiti algoritme umetne inteligence. Ti algoritmi niso zapleteni. Vsak naš študent jih zna uporabiti. Zato so po mojem mnenju v tem trenutku podatki bolj dragoceni kot algoritmi, ki so prosto dostopni, saj jih je razvila akademska skupnost."

Razlog, da so podatki danes v lasti korporacij, je tesno povezan z razvojem svetovnega spleta, ki ga tako kot vse druge tehnologije zaznamujejo poteze kapitalizma, meni ekonomist Igor Feketija. Vprašanje, ali bi takšna baza podatkov sploh smela obstajati, je danes povsem odveč. Toda v 60. letih 20. stoletja so v Združenih državah Amerike idejo o takšni bazi, ki bi bila dostopna vladnim agencijam in univerzam, zavrnili kot preveč tvegano z vidika zasebnosti. "Ena izmed možnosti v začetkih razvoja računalniških povezav je bila bolj podobna računalništvu v oblaku. Obstajal bi javni ponudnik računalniškega oblaka, ki bi opravljal vsa računalniška opravila, posamezni uporabniki pa bi imeli pri sebi samo terminale, ki bi potrebovali neprimerno manj procesorske moči, saj bi vsa obdelava podatkov potekala centralno. Nekako tako, kot imamo danes uporabniki vodovodne pipe, dobava vode pa je v domeni velikega, za zdaj običajno javnega ponudnika. Zgodnji Applovi računalniki so imeli vidno vlogo pri tem, da je danes računalništvo decentralizirano. V vsakem primeru je tak model bolj v duhu kapitalizma, saj omogoča udeležbo zasebnih korporacij in ustvarjanje dobička," še izpostavlja Feketija.

Nova doba manipulacij
Iz množice podatkov, ki so danes na razpolago, se umetna inteligenca s pomočjo različnih metod strojnega učenja uči razbirati najrazličnejše vzorce. Tudi tiste, za katere nismo vedeli, da obstajajo. Vpliv umetne inteligence na naše življenje bo zato brez dvoma izreden. Kakšne možnosti za manipulacijo se tu ponujajo, odlično ponazarja način, kako denimo podjetje Facebook filtrira novice, ki jih vidimo na svojem profilu. "Ko na Facebooku beremo novice, ne vidimo vseh novic, ki so objavljene v tem času, ampak tiste, za katere se je Facebook odločil, da bi nam bile zanimive. Tega pa ne počnejo ljudje, ampak algoritmi. Če se ti algoritmi preusmerijo tako, da bodo favorizirali določene novice, bodo te dosegle širši krog ljudi in s tem povzročile spremembo mišljenja ljudi. Če se odločijo, da določenih novic ne bodo širili, potem te ne morejo doseči dovolj velike kritične mase, da bi se zares razširile, ampak ostanejo omejene na ozek krog ljudi," razlaga ozadje delovanja Facebookovih algoritmov Anže Starič s fakultete za računalništvo in informatiko.

Trenutno ta velika podjetja še vedno skrbijo predvsem za svoj dobiček, izpostavlja Demšar. Objavljajo take novice, da bodo z oglasi kar največ zaslužila. Toda funkcijo, ki jo optimizirajo, lahko tudi spremenijo. Pri načrtni manipulaciji pride moč umetne inteligence najbolj do izraza, saj omogoča zanesljive napovedi, katera novica bo najbolj vplivala na določenega volivca in kakšna mora biti novica, da bo imela največji učinek. Pri takšnih napovednih modelih je kombinacija umetne inteligence in velikih podatkov ključna, saj omogoča analiziranje zaznanih vzorcev vedenja in napovedovanje najverjetnejših odzivov.

Tak vpliv algoritmov podjetja Facebook se je do neke mere pokazal že pri zadnjih ameriških volitvah in britanskem referendumu o članstvu v Evropski uniji. Tudi naglo širjenje najrazličnejših lažnih novic, ki pomembno sooblikujejo mnenje o različnih družbenih in političnih pojavih, je le en od simptomov tega, z umetno inteligenco podprtega širjenja informacij.

Eno ključnih vprašanj današnjega trenutka je tako, kako se bomo na vse bolj vseprisotno umetno inteligenco odzvali kot družba.
Za več podrobnosti o tej pereči problematiki poslušajte oddajo Intelekta: Umetna inteligenca – služabnik ali gospodar?, v kateri so sodelovali strokovnjaki s področja umetne inteligence: akademik Ivan Bratko, Blaž Zupan, Janez Demšar in Anže Starič ter ekonomist Igor Feketija in filozofinja Olga Markič.

Nina Slaček, 1. program Radia Slovenija
Prijavi napako
Komentarji
presenečen
# 06.10.2017 ob 19:46
Tehnologija bo svoj čas presegla našo človečnost. Einstein
presenečen
# 06.10.2017 ob 19:51
Človeštvo bo postalo suženj tehnologije, že sedaj doživljamo pravi TEHNOLIŠKI FAŠIZEM nad ljudmi, čaka nas še FAŠIZEM UMETNE INTELIGENCE..

ZDA: Delavci v perutninski industriji prisiljeni urinirati v plenice
kislec
# 06.10.2017 ob 22:11
Če je že davno Šerlok samo iz kretenj dr. Wilsona razbral potek njegovih misli in mu odgovoril na vprašanje, še preden je odprl usta - potem bi nam AI lahko odgovorila na vsako še nezastavljeno vprašanje, samo ji (zaenkrat) ne dopustijo...(da nas ne prestrašijo...).

Če nas uradno povozi v šahu, goju, potem nas (če bi smela) v vsem.

PS No, prav v vsem ne - na Kmetiji že ne bi zmagala, pa na Emi tudi ne... (bi pregorela, ker se ne bi mogla spustiti tako nizko).
friks
# 06.10.2017 ob 20:17
Putin je pred kratkim izjavil: "Kdor bo obvladoval umetno inteligenco, bo vladal svetu!"

Zelo lepo je povedal. Daleč od tega, da bo umetna inteligenca lahko sama po sebi nevarna. Bo pa lahko izjemno nevarna v rokah posameznikov oz. elite.
pepar
# 07.10.2017 ob 15:27
Pri vseh silnih resničnostnih šovih,pametnih telefonih in ostalem poneumljanju,je UI nujno potrebna,saj naravna počasi izginja z našega planeta.
Sicer pa vsak plenilec se lahko spremeni v plen,tudi po lastni izbiri.
zvm
# 07.10.2017 ob 14:45
UI nebi imela sans, ce nebi namerno poneumljali ljudi.
LjudjeSoOvce
# 07.10.2017 ob 13:38
Umetna inteligenca sodeluje v znanstvenih raziskavah.

Že prvi stavek popolna neumnost. Komplicirani algoritmi pač niso umetna inteligenca, ki zaenkrat sploh še ne obstaja.
G.Bruno
# 09.10.2017 ob 21:32
O umetni inteligenci
Sedem grehov v napovedih o umetni inteligenci
MIT Technology Review - KLIK
ATP
# 07.10.2017 ob 10:42
Kmalu nas bodo nalozili v super racunalnik.

Telo pa odstranili kot nepotrebno :-(
mataj-finance
# 06.10.2017 ob 20:19
UBS-ovi borzni trgovci leta 2008 in 2016

Prazen prostor je "zasedla" umetna inteligenca. Umetna inteligenca torej odloča o tem, kam bo šel kapital, oziroma v kaj se bo investiralo. To pomeni, da nam dejansko že vlada.
boro007
# 06.10.2017 ob 18:49
Jah precej strahu obstaja, upam pa da bo notri votel okoli ga pa nič ne bo... Tako smo se bali npr. pojava "gray goo" ob iznajdbi nanotehnologije. In upam da bo z umetno inteligenco podobno ostalo zgolj pri strahspoštovanju nove tehnologije...

Sprva bo seveda služabnik, a upam da ne bo nikoli spoznala naše prave narave (tukaj smo že začeli napačno, ker jo ravno tega učimo). Ker ko se bo osvobodila okov nam trda prede, če se ne bomo lepo obnašali :)
zozozo
# 06.10.2017 ob 19:43
Zvitejši vlada manj zvitemu. Zaenkrat torej človek vlada računalniku. Ko bomo naredili računalnike, ki bojo pametnejši in zvitejši od nas, bojo pa oni vladali nam.

To je približno tako, kot da bi se krave trudile izumiti človeka.
mb128
# 06.10.2017 ob 19:15
Eh ja ta presneta AI. Ampak a je res tako?!
Sicer pa dokler bom jaz lahko brskal za novicami po vseh možnih in nemožnih portalih se jaz ne bojim prav nobenega AI, prav nobenega algoritma! Dejstvo je pač to, da se bo moral človek če bo hotel priti do relevantnih podatkov vložiti vedno več truda, vedno več časa.
Za fb itd. pa mi je čisto vseeno. Tam gor so tako ali tako vedno večji gumpci in s časom bodo postali še večji! Dejstvo pa je to da je to dejansko cenzura le da se cenzorji sedaj poskušajo skrivati za AI oz. raznoraznimi algoritmi! Mislim kot da ta AI, kot da ta algoritem nastane sam od sebe. Sicer pa je očitno nastopil čas raznoraznih resnicarjev, ki so dokaj enakomerno razporejeni po celotni zemeljski obli!
Kazalo