Foto: Pixabay
Foto: Pixabay

Avstrijska nevladna organizacija AlgorithmWatch je pobarala policije evropskih držav, ali uporabljajo ‒ ali pa nemara želijo uporabljati ‒ tehnologijo računalniške prepoznave obrazov. Kaj je ugotovila? Od 25 držav članic Evropske unije jih tehnologijo uporablja najmanj deset. Osem jo namerava uvesti v prihodnjih letih. Le dve državi je ne dovoljujeta, dve pa se nista izrekli. Na zgodbo je v Sloveniji prvi opozoril nevladni projekt Eticen.si.

Biometrični osebni podatki – dokončna izguba zasebnosti?

Med uporabnicami računalniške prepoznave obrazov je tudi slovenska policija. Na vprašanje AlgorithmWatcha je odgovorila, da tehnologijo koristi od leta 2014. MMC je zato policijo povprašal po dodatnih podrobnostih.

Izkaže se, da Slovenija tovrstno tehnologijo uporablja v precej omejenem obsegu. Vajeni smo poročil iz tujine, iz Velike Britanije ali Kitajske, kjer ulične kamere v realnem času preverjajo identiteto pešcev ‒ tega slovenska policija ne počne.

Gre za spletno aplikacijo, ki pomaga hitreje najti osumljenca v policijski bazi fotografij.
Primer: Policija prejme posnetek kamere, na kateri je osumljenec ropa. Kriminalist bi "po starem" ročno primerjal obraz s posnetki v policijski Evidenci fotografiranih oseb in za to potrošil veliko časa. "Po novem" pa vnese fotografijo v spletno aplikacijo, ki to stori namesto njega. Morebitno ujemanje nato preverjajo še ročno.

Ministrstvo in policija se branita: Cilj je varnost, ne policijska država

"Orodje ni namenjeno samodejnemu prepoznavanju serije fotografij (na primer mimoidočih, množice na nogometni tekmi ...) in ni povezano z zunanjimi viri za zajemanje fotografij ali videoposnetkov (npr. varnostne kamere, kamere na cestnem omrežju, kamere na bankomatih, družbena omrežja ...)," je zapisala Generalna policijska uprava.

Nabor je torej omejen na policijsko Evidenco fotografiranih oseb. Kaj točno pa je v njej? Policija vodi evidence iz 123. člena zakona o nalogah in pooblastilih policije (ZNNPol), natančneje pa je opredeljena v 125. členu. Evidenca vsebuje naslednje elemente: "Vzdevek ali lažno ime, fotografija, osebni opis, kraj, čas in razlog fotografiranja, osebno ime osebe, ki je fotografirala."

Policija zagotavlja, da v aplikacijo ne dajejo fotografij iz drugih virov, recimo digitalnih družbenih omrežij (Facebook).

Primer iz leta 2017, o katerem je poročal MMC, sicer nakazuje, da se policija na gradivo s Facebooka zanaša tudi zunaj aplikacije.

Zmogljivosti naj ne bi širili

"Za zdaj ni predvideno" širjenje zmogljivosti ali obsega programa računalniške prepoznave obraza. Za zdaj se uporablja od 20- do 50-krat letno.

Aplikacijo je na podlagi javnega razpisa iz leta 2011 razvilo celjsko podjetje CENT SI d.o.o., imenuje pa se Face Trace. CENT SI sicer razvija široko paleto biometričnih aplikacij, ki se uporabljajo po številnih državah sveta, je razvidno iz njihove spletne strani.

Policija pravno podlago vidi v 148. ter 149. členu zakona o kazenskem postopku, pa še 46., 47. in 112. členu ZNPPola. "Način uporabe in delovanja aplikacije oziroma spletnega servisa je bil usklajen z informacijsko pooblaščenko," so še sporočili s policije.

Prav na tej točki pa se stvari zapletejo.

IP: To ne drži

Informacijski pooblaščenec svari pred naglico pri podeljevanju pooblastil policiji

IP je v obdobju od 2015 do 2019 podal sedem negativnih mnenj do omenjenih določb ZNPPol-a:
1. Mnenje IP številka 007-67/2015/ z dne 1. 9. 2015
2. Mnenje IP številka 007-10/2016/2 z dne 8. 3. 2016:
3. Mnenje IP številka 007-31/2016/3 z dne 12. 5. 2016:
4. Mnenje IP številka 007-57/2016/2 z dne 14. 7. 2016:
5. Mnenje IP številka 007-57/2016/10 z dne 25. 8. 2016:
6. Mnenje IP številka 007-51/2018/2 z dne 29. 11. 2018:
7. Mnenje IP številka 007-51/2018/ z dne 11. 1. 2019:

Urad informacijskega pooblaščenca je trditev policije zanikal. "Delovanja aplikacije za prepoznavo obrazov tako nismo ne uskladili in ne kakor koli potrdili," so zapisali za MMC. Nasprotno, že od začetka je bil informacijski pooblaščenec do projekta kritičen.

Leta 2014 je urad s strani policije prejel obvestilo o pilotskem projektu Face Trace. Policijo je opozoril na nujnost predhodne ocene učinka, pa tudi na nujnost ustrezne pravne podlage. Da te ni, so na policiji tedaj očitno ugotovili tudi sami, saj so v poročilu za leto 2014 zapisali: "Izdelana je bila programska rešitev za avtomatizacijo obrazne prepoznave Face Trace, ki pa zaradi trenutne pravne nedorečenosti zaenkrat še ni v uporabi." Trditev je sicer v nasprotju z zdajšnjimi izjavami policije, da je Face Trace v uporabi od leta 2014.

Pozneje je bila sprejeta dopolnitev ZNPPola, ki je policiji omogočila uporabo Face Trace. "Pri odkrivanju in preiskovanju kaznivih dejanj smejo policisti, če je to glede na okoliščine storitve konkretnega kaznivega dejanja nujno in potrebno, primerjati prstne odtise in odtise dlani, fotografije s fotografijami drugih oseb ter primerjati profile DNK. Navedene podatke smejo obdelovati avtomatizirano," pravi zakon.

Presoja ustavnosti se je zataknila

Kako bi zadevo pretehtali ustavni sodniki? Foto: BoBo
Kako bi zadevo pretehtali ustavni sodniki? Foto: BoBo
Ustavno sodišče: Policija ne sme uporabljati optične prepoznave registrskih tablic

Urad informacijskega pooblaščenca je zato Varuhu človekovih pravic podal predlog za presojo ustavnosti določb glede uporabe biometrijskih ukrepov.

Varuh človekovih pravic je pobudo vložil na ustavno sodišče, nanašala se je na presojo določb za uporabo brezpilotnikov, zbiranja in obdelave podatkov o letalskih potnikih ter avtomatski prepoznavi registrskih tablic. Pobude za presojo biometrijskih ukrepov pa varuh ni vključil v zahtevo.

"Razlog za to odločitev pa nam ni znan in ga ne moremo komentirati," so zapisali na uradu IP.

Varuha človekovih pravic smo zaprosili za pojasnilo. Varuh je odgovoril, da pristojnosti zahteve za presojo ustavnosti ne izkorišča nekritično. V konkretnem primeru je po presoji vseh okoliščin izločil biometrijo iz presoje, kot enega izmed razlogov pa je navedel oceno Informacijskega pooblaščenca, da civilna družba ni izrazila resnih nasprotovanj.

Odgovor Varuha človekovih pravic v celoti:

Z vidika človekovih pravic oz. temeljnih svoboščin je mogoče problematizirati marsikatero zakonsko določbo, kar je še posebej izrazito pri zakonih, ki urejajo delo(vanje) represivnih organov ‒ in tak primer je tudi zakon o nalogah in pooblastilih policije (ZNPPol). Varuh ima možnost, da zahteva ustavnosodno oceno ustavnosti zakonodaje, vendar ta privilegij jemlje odgovorno in ga ne izkorišča nekritično. Vse prej kot redko je deležen pričakovanj in tudi pritiskov različnih skupin ali posameznikov, naj izpodbija ustavnost različnih zakonov iz različnih razlogov. Vedno pa se o tem, ali bo vložil zahtevo za oceno ustavnosti ali ne, odloči na podlagi lastne ocene vseh relevantnih informacij in okoliščin. Enako je storil v konkretnem primeru z ZNPPol po sprejetju novele ZNPPol-A, ki ga je izpodbijal na treh različnih področjih, ne pa tudi z vidika biometrije. Eden od razlogov za takšno odločitev je bila ocena Informacijskega pooblaščenca Republike Slovenije, da civilna družba ni izražala resnih nasprotovanj glede uporabe tehnologije prepoznave obrazov s strani policije. Informacijski pooblaščenec bo inšpekcijski nadzor glede tega vprašanja opravil šele v letu 2020 in na tej podlagi morda oblikoval drugačno oceno. Pri Varuhu bomo spremljali dogajanje in po potrebi ukrepali, ne izključujemo pa tudi možnosti, da bi glede tega zahtevali oceno ustavnosti."


Informacijski pooblaščenec je izrazil obžalovanje, da se civilna družba v tem primeru ni oglasila.

Obenem je podal širše pojasnilo svojih stališč in svarilo za prihodnost.

Pojasnilo IP-ja v celoti:

"Vendar pa v zvezi z novo predlaganim 2. odstavkom, ki izrecno dopušča možnost pridobivanja podatkov za analizo "iz vseh javnih virov", ponovno opozarjamo na stališče IP-ja, da policija ni upravičena na zalogo in na splošno vršiti nadzora "vseh javnih virov", še zlasti ne objav na družbenih omrežjih, forumih in podobnih spletnih straneh z uporabniško generirano vsebino. Zbiranje oz. analiziranje podatkov (podrobneje opredeljeno v 112. oz. 122. členu, ki se oba spreminjata v to smer, kot opozarjamo v nadaljevanju) mora namreč po mnenju IP-ja biti omejeno na postopke v zvezi s konkretnimi kaznivimi ravnanji oz. osumljenci. Tudi v primeru preventivnega delovanja policije in opravljanja preventivnih dejavnosti mora biti delovanje policije usmerjeno in ne bi smelo vključevati vsesplošnega nadzora nad vsemi. Kar zadeva odkrivanje kaznivih dejanj (2. al. 1. odst. 4. člena veljavnega ZNPPol), mora biti začetek dela namreč zmeraj pogojen z obstojem indicev ali razlogov za sum, da se vrši določeno kaznivo dejanje, ki se preganja po uradni dolžnosti (1. odst. 148. člena Zakona o kazenskem postopku, Uradni list RS, št. 32/12 – uradno prečiščeno besedilo, 47/13 in 87/14, v nadaljevanju ZKP). Ti razlogi sicer lahko izhajajo tudi iz lastne, neposredne zaznave policista, celo slučajne (npr. ko ni v službi), vendar po mnenju IP-ja navedenih členov ni mogoče tolmačiti tako široko, da bi smel policist oz. policija kot institucija povsem preventivno zbirati podatke o vseh javno dostopnih komunikacijah, v upanju, da bodo nekateri od njih nakazovali na kazniva ravnanja. Tudi pooblastilo javnega opazovanja (1. al. 6. člena ZNPPol) je že historično, omejeno na odločitve poveljnikov policijskih postaj, da se organizira opazovanje na bolj rizičnih krajih, tipično tistih, ki so gosto naseljeni, kjer se že beleži večje število kaznivih dejanj ali dejanj zoper javni red in mir, oz. kjer je večje število varnostno pomembnih oseb in objektov. Skratka, javna prisotnost policije naj se zagotovi na znano rizičnih krajih, kot tudi občasno na drugih krajih, da ravnanje policije ne postane preveč predvidljivo. Na ta način je organizirana tudi rutinska kontrola prometa. Ne bi pa šlo za dopustno javno opazovanje, če bi policija, pod predpostavko zadostnih kadrovskih zmogljivosti, organizirala javno opazovanje na vseh javnih krajih, 24 ur/dan, vse dni v letu. Takšen stalno prisoten, neselektiven, sistemski množični nadzor, ki bi bil brez utemeljitve v predhodni oceni tveganja ali obstoju (vsaj) indicev ali razlogov za sum, in ki je značilen za policijske države, bi namreč lahko pomenil nedopusten poseg v pravice do zasebnosti in svobodo izražanja. Navedeno izhaja tudi iz nedavne sodbe Evropskega sodišča za človekove pravice v zadevi Zakharov proti Rusiji, sodbe Sodišča EU-ja v zadevi Digital rights Ireland in pripadajoče odločbe Ustavnega sodišča, v kateri je to razveljavilo določbe Zakona o elektronskih komunikacijah o obvezni hrambi prometnih podatkov. Ob tem opozarjamo tudi na 122. člen ZNPPola, ki določa, da policija ne sme uporabljati avtomatizirane obdelave osebnih ali drugih podatkov (obdelava osebnih ali drugih podatkov s sredstvi informacijske tehnologije), s katero bi bila lahko o fizični osebi, pravni osebi ali o drugem subjektu sprejeta odločitev, vložena predlog ali kazenska ovadba ali izdelano poročilo, ki bi brez dodatnega delovanja in odločitve pristojnega uslužbenca policije lahko posegali v pravice ali obveznosti fizične osebe, pravne osebe ali drugega subjekta. Z avtomatizirano obdelavo osebnih ali drugih podatkov, zlasti z združevanjem oziroma primerjanjem osebnih podatkov iz ene ali več zbirk osebnih podatkov, evidenc, javnih knjig, registrov ali drugih zbirk osebnih podatkov, policija ne sme izdelati osebnostnih profilov oseb, na katere se nanašajo osebni podatki, tako da bi se brez dodatnega delovanja in odločitve pristojnega uslužbenca policije lahko sklepalo, da so storili ali da niso storili določenega kaznivega ravnanja ali da so izpovedi določenih oseb zanesljive ali nezanesljive. Prepovedana je avtomatizirana obdelava občutljivih osebnih podatkov za izdelavo osebnostnega profila osebe. Zbiranje podatkov ne more in ne sme obsegati zbiranja podatkov na zalogo, vsesplošnega nadzora nad vsemi ali ustvarjati vtisa oz. možnosti takšnega nadzora. Takšno postopanje policije bi namreč, glede na zadnjo prakso Evropskega sodišča za človekove pravice (primera Zakharov proti Rusiji in še zlasti Szabó in Vissy proti Madžarski, lahko pri prebivalcih ustvarjalo občutek stalno prisotnega nadzora, ter s tem nedopustno posegalo v njihove pravice do zasebnosti, varstva osebnih podatkov, varstva človekovega dostojanstva in tako dalje."


Srbska vlada in Huawei nameščata kamere za nadzor "vsake ulice" Beograda