Jutranja gneča na železniški postaji v New Delhiju, kjer bodo kmalu začeli uporabljati kamere za prepoznavanje obraza. Foto: Reuters
Jutranja gneča na železniški postaji v New Delhiju, kjer bodo kmalu začeli uporabljati kamere za prepoznavanje obraza. Foto: Reuters

Evropska unija je v nedavni strategiji napovedala krepitev digitalizacije, strokovnjaki pa ob tem svarijo pred izzivi in grožnjami, kot so vprašanje zasebnosti ob pametnem nadzoru in nevarnost kibernetskih napadov s posledicami za običajne ljudi.

V kontekstu nadzora se najpogosteje omenja tehnologija prepoznavanja obraza, ki jo vse bolj množično uporabljajo številne države po svetu, poleg Kitajske in ZDA jo uvajajo tudi v Indiji in Rusiji. Kljub uredbi Evropske unije o varstvu podatkov (GDPR) tudi EU ni odporen proti prepoznavanju obraza, saj vse več držav testira tehnologijo. Bruselj želi z javno razpravo zdaj določiti, kdaj je uporaba lahko dopustna.

Strokovnjaki so enotni, da tehnologija s sabo prinaša tveganje kršitev človekovih pravic do zasebnosti, svobodo govora, zbiranja in veroizpovedi. "Uporaba tehnologije prepoznavanja obraza lahko privede do hudih kršitev človekovih pravic. Nediskriminacija je mit, funkcija tehnologije profiliranja je prav razvrščanje ljudi," je na konferenci o varnosti v informacijski družbi v Ljubljani povedala nizozemska raziskovalka Lotte Houwing.

Rusija s pametnimi kamerami išče kršitelje karantene

Veliki evropski brat se prebuja - "Obraza ne moremo zamenjati"

"Oblast za uvajanje tehnologij nadzora potrebuje izgovor, kot je trenutno novi koronavirus," je na isti konferenci z imenom Cryptoparty Slovenija 2020 poudarila Nika Mahnič, raziskovalka informacijskih tehnologij in njihovega vpliva na človeško psiho.

Moskva je januarja letos začela uporabljati tehnologijo prepoznavanja obraza. Februarja so z enako tehnologijo začeli izvajati nadzor nad 2.500 ljudmi, ki so jim oblasti odredile dvotedensko karanteno po prihodu s Kitajske. Ukrep je oznanil kar moskovski župan Sergej Sobjanin.

Kako hiter je danes razvoj digitalne tehnologije, dokazuje kitajsko podjetje SenseTime, ki je sredi februarja razvilo sistem prepoznavanja obraza, ki razkrije identiteto človeka, tudi kadar nosi obrazno masko za zaščito pred virusi. Tehnologiji so dodali tudi termične kamere, ki zaznajo povišano telesno temperaturo in pošljejo opozorilo nadzornikom, je poročal Quartz.

Pri tehnologiji prepoznavanja obraza je v igri več človekovih pravic, kot so pravica do zasebnosti in združevanja. Foto: Reuters
Pri tehnologiji prepoznavanja obraza je v igri več človekovih pravic, kot so pravica do zasebnosti in združevanja. Foto: Reuters

Brezciljno postopanje postane sumljivo vedenje

Poleg največkrat omenjenega prepoznavanja obraza se razvijajo tudi druge pametne tehnologije nadzora, kot je opazovanje gibanja (Motion Tracking). V nemškem mestu Mannheim naj bi letos namestili 67 kamer za spremljanje gibanja, je poročal ZDF. Kamere spremljajo sumljive vedejnske vzorce, ki kažejo na kriminalna dejanja – tolčenje, tek, brcanje, padanje, postavanje. "Nekoč legalno in legitimno obnašanje, kot je postavanje na mestu, je postalo znak za sumljivo obnašanje," družbene razsežnosti uvajanja novih tehnologij opisuje Nika Mahnič.

Usmerjanje z drezljaji

Vse več institucij, Združeni narodi, Evropska komisija, Svetovna banka, britanska in druge vlade, ob tem vzpostavlja enote za analiziranje vedenja ljudi, ki so vzniknile na podlagi t. i. teorije drezanja (Nudge Theory). Drezljaji so majhne spremembe v okolici, ki ljudi nagovarjajo k pričakovanemu vedenju. Posebna ekipa britanske vlade za analizo vedenja ("Nudge Unit") je denimo ugotovila, da vozniki precej bolj vestno plačujejo trošarine za svoja vozila, če v opozorilno pismo vključijo fotografijo njihovega avtomobila.

Eden najbolj znanih primerov drezljajev je domislica avtorja teorije Richarda Thalerja, ki je v pisoarje na nekem javnem stranišču v Amsterdamu namestil sličice muh, ki so jih uporabniki ubogljivo zalili s curkom. Foto: Reuters
Eden najbolj znanih primerov drezljajev je domislica avtorja teorije Richarda Thalerja, ki je v pisoarje na nekem javnem stranišču v Amsterdamu namestil sličice muh, ki so jih uporabniki ubogljivo zalili s curkom. Foto: Reuters

Anonimnost pogoj za svobodno demokracijo

Lotte Houwing iz nizozemske organizacije Bits of Freedom poudarja, da vse možnosti uporabe prepoznavanja obraza niso enako nevarne, kot najspornejše pa izpostavlja identificiranje, sledenje in analiziranje ljudi na javnih mestih. "Anonimnost ima ključno vlogo v svobodni demokraciji. Pri oblikovanju političnih narativov v javnih prostorih je velikokrat pomembnejše sporočilo kot njegov sporočevalec. Da se počutimo svobodnejše pri izražanju, potrebujemo občutek anonimnosti, da se lahko anonimno gibljemo v javnih prostorih in mestih."

Fotografije brez dovoljenja v bazah policije

Tehnologija prepoznavanja obrazov lahko postane kot Shazam za ljudi na ulici. Ne moremo se odjaviti iz javnih prostorov, ne moremo se odjaviti od svojega obraza, moramo se naučiti živeti z njim.

Lote Houwing

Na Nizozemskem je v policijski bazi 2,4 milijona fotografij skupno 1,4 milijona posameznikov, kar je vsak dvanajsti Nizozemec. V Francija je v bazi vsak osmi človek. Tehnologijo samodejne prepoznave obrazov uporablja tudi slovenska policija. V ZDA so obveščevalna služba FBI ter Imigracijske in carinske oblasti (ICE) za vzpostavitev baze podatkov uporabile milijone fotografij za vozniška dovoljenja, ki so bila v državnih bazah, je poročal Washington Post.

Tudi slovenska policija uporablja avtomatsko prepoznavo obrazov

"Vidimo lahko, da se orodja uporabljajo na množicah, ne le za identifikacijo sumljivih ali kriminalnih posameznikov," Houwingova zanika pogost argument državnih oblasti, da so ali bodo v bazah za prepoznavanje obraza le osumljenci ali obsojeni kriminalnih dejanj.

Tehnologija je imela pomembno vlogo pri kategorizaciji ljudi že v času holokavsta, odtlej pa v svetu velja, da si "vreden toliko, kot o tebi pravi baza, in tudi sumljiv si toliko, kot o tebi pravi baza," je še dodala Nika Mahnič. "Vojna proti terorizmu" je v nekaterih državah sprožila obrat pri delovanju policije, nekoč veljavna domneva nedolžnosti se je spremenila v domnevo krivde: "Prišli smo do položaja, v katerem se dovoljujeta poglobljeno opazovanje in tudi nadzor prebivalstva."

Veliki kitajski brat: prva digitalna diktatura

Sporne Googlove metode pri reševanju rasizma

Pogost očitek proti tehnologiji prepoznavanja obraza je tudi rasizem, saj se je izkazala za veliko bolj zmotljivo pri identifikaciji temnopoltih ljudi, kar je posledica manjšega števila fotografij temnopoltih v podatkovnih bazah pri razvoju algoritmov. Google je zadevo poskušal rešiti tako, da je najel podizvajalce, ki so fotografirali obraze temnopoltih v New Yorku. Fotografirancem so v zameno za sodelovanje podelili kupon v vrednosti pet dolarjev, izvajalcem pa so domnevno naročili, naj poskusijo najti ljudi "s temnejšimi odtenki kože, ki bi jih kupon bolj pritegnil, kot so brezdomci in študenti," je poročal Guardian.

Kako oglaševalci dobijo naš IP-naslov in GPS-koordinate

Na področje zasebnosti posega tudi oglaševanje na spletnih straneh, je na konferenci v organizaciji zavoda Državljan D izpostavila poljska odvetnica Karolina Iwańska. "Vrednota zasebnosti je mit. Stran, ki jo obiščete, pošlje vaše podatke več desetim podjetjem. Oglaševalci se nato odločijo, ali je obiskovalec relevanten za njihovo kampanjo, in vam na spletni strani pokažejo oglas. Vse se odvija v resničnem času, medtem ko se stran odpira," je sporne vidike spletnega oglaševanja predstavila predstavnica organizacije Panoptykon Foundation.

Konferenca o varnosti v informacijski družbi (Cryptoparty Slovenija 2020) je potekala v prostorih muzeja računalništva. Foto: Državljan D
Konferenca o varnosti v informacijski družbi (Cryptoparty Slovenija 2020) je potekala v prostorih muzeja računalništva. Foto: Državljan D

Oglaševalska podjetja ob našem obisku pridobijo dostop do URL obiskovane strani, naš IP-naslov, informacije o našem telefonu in brskalniku, nastavljenem jeziku, GPS-koordinate ter poštno številko – kar posredno nakazuje tudi na to, s kako bogatega ali revnega območja prihajamo. Na podlagi vseh teh informacij poteka tudi uvrščanje ljudi v kategorije – glede na to, katera zdravila in bolezni nas zanimajo, kakšni so naši politični pogled itd.

Karolina Iwańska izpostavlja tudi zmotno prepričanje, da oglaševanje podpira kakovostno novinarstvo, saj ciljani oglasi spletnim medijem prinesejo zelo malo zaslužka, ki gre večinoma v roke posrednikov. Oglaševalsko industrijo in klikanost, ki prinaša dobiček, pa pogosto zločeste entitete ustvarjajo umetno, z računalniškimi algoritmi oz. boti. Oglaševalske goljufije naj bi do leta 2025 tako dosegle vrednost kar 50 milijard dolarjev.

Najmanj 50 držav izvaja kibernetske napade

Poleg nadzorovanja oblasti nad prebivalci pa je vse pogostejše tudi vohunjenje med državami za vojaške ali komercialne namene. Najmanj 50 držav po svetu je danes izredno prefinjenih pri kibernetskih napadih, izvedba napadov pa državam ne povzroča bistvenih finančnih stroškov, je povedala Kaja Ciglic z oddelka za digitalno diplomacijo pri Microsoftu: "Splet je postal vojaški poligon, v tem trenutku neka država napada ali vohuni za drugo državo."

Hekerski napadi naj bi svetovno gospodarstvo v naslednjih dveh letih oškodovali za osem milijard dolarjev. Foto: Reuters
Hekerski napadi naj bi svetovno gospodarstvo v naslednjih dveh letih oškodovali za osem milijard dolarjev. Foto: Reuters

Eden prvih kibernetskih napadov na državno administracijo se je zgodil leta 2007, ko so hekerji napadli eno bolj digitaliziranih držav, Estonijo. Virus Stuxnet leta 2010 je onesposobil jedrsko elektrarno v Iranu, napad na infrastrukturo naftne družbe Saudi Aramco leto pozneje pa je uničil vse njihove računalnike. Leta 2017 sta po vse svetu zaokrožila virusa NotPetya in WannaCry, ki sta od svojih žrtev zahtevala odškodnine. V vmesnem času so se zgodili napadi na japonski pokojninski sistem, ukrajinsko električno omrežje, ameriške in francoske volitve ter nemško in angleško vlado.

Hekerji lani ukradli šest milijard informacij

"Zanimivo je, da isti ljudje čez dan delajo za določeno vlado, vohunijo za intelektualno lastnino, ponoči pa z istih računalnikov in z isto tehnologijo zasebno kradejo kriptovalute," pove sogovorka.

Hekerji so lani ukradli okoli šest milijard informacij. Pričakuje se, da bo v naslednjih dveh letih svetovno gospodarstvo zaradi spletnega kriminala izgubilo več kot osem milijard dolarjev.

Spletni napadi s konkretnimi posledicami

Kaja Ciglic poudarja, da imajo hekerski napadi na državne administracije lahko konkretne in velikokrat tragične posledice za ljudi. Zaradi virusa WannaCry so morali leta 2017 v Združenem kraljestvu odpovedati 19.000 razgovorov z rakavimi bolniki. Patricku Wardu so morali zaradi sesutja računalniških sistemov, denimo, odpovedati operacijo srca zaradi šuma. Posledice bi bile lahko tudi hujše, lahko bi odpovedali aparati, ki ljudi ohranjajo pri življenju.

Nujnost digitalne ženevska konvencija

Mednarodni Rdeči križ je zaradi tega pripravil zakonodajni predlog, po katerem bi prepovedali kibernetske napade na bolnišnice. Tudi v resnični vojni je namreč napadanje bolnišnic opredeljeno za vojni zločin. Na ravni Združenih narodov potekajo tudi pogovori, kako zavarovati demokratične procese, saj smo bili v zadnjih letih večkrat priča napadom na volilne baze. V tem kontekstu se omenja nujnost "digitalne ženevske konvencije".

Naprave, ki nam olajšajo življenje, vsiljivcem pa vdor v naš dom

Internet stvari – vsaka stvar je lahko tudi cilj napada

Ljudje umetno inteligenco vse pogosteje uporabljamo v vsakdanjem življenju, v porastu je uporaba interneta stvari (IoT - Internet of Things), ki poveže vse, od našega hladilnika pa do kosilnice ter ob tem še zaklene vhodna vrata. "Povezanih je že več kot 30 milijard stvari in čisto vsaka se lahko uporabi kot cilj napada," poudarja govorka na konferenci.

Evropska unija pri uvajanju poudarja visoke etične standarde

Kaja Ciglic kljub vsemu poudarja, da je tehnologija kljub vsem ostrim kritikam tudi pozitivna in na marsikaterem področju olajšuje življenje ljudi. Mnenje deli tudi predsednica Evropske komisije Ursula von der Leyen, ki zagovarja uporabo umetne inteligence v zdravstvu, kmetijstvu in arhitekturi. Evropska unija je februarja predstavila digitalno strategijo, s katero želi nadomestiti zaostanek za ZDA in Kitajsko v digitalnem razvoju, pri tem pa ohraniti visoke etične standarde in zmanjšati možnost zlorab