Predlogi

Ni najdenih zadetkov.


Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

Rezultati iskanja

MMC RTV 365 Radio Televizija mojRTV × Menu

Geert Lovink

25.04.2018

Medijski teoretik, spletni kritik in aktivist Geert Lovink

Medijski teoretik, spletni kritik in aktivist Geert Lovink

Nedavna razkritja o zlorabi osebnih podatkov na Facebooku so v ospredje vnovič postavila vprašanja o škodljivem vplivu spletnih družbenih medijev. Hiter razvoj digitalnih tehnologij in obdelava velikih podatkov sta omogočila tako imenovano brezplačno ekonomijo, ko v zameno za svoje osebne podatke dobimo izdelke in storitve. Ta pogodba brezplačnosti, ki smo jo sklenili s spletnimi giganti, ne omogoča le zlorabe zasebnosti, ampak povzroča tudi številne težave ustvarjalcem vsebin, ki so izgubili vir dohodka. Geert Lovink je nizozemski medijski teoretik, spletni kritik, aktivist in ustanovitelj amsterdamskega Inštituta za omrežne kulture (Institute for Network Cultures), ki se je prejšnji teden v organizaciji Aksiome, Državljana D in Akademije za likovno umetnost ustavil v ljubljanskem kreativnem centru Poligon, kjer je predstavil MoneyLab, mrežo umetnikov, aktivistov, navdušencev in raziskovalcev.

Ste strokovnjak za digitalne tehnologije in njihov vpliv na sodobno družbo. Zato bi se z vami rada pogovarjala o različnih temah, predlagam pa, da ta pogovor začneva s Facebookom, največjim družbenim medijem, ki je ena glavnih tem že nekaj tednov. Ustanovitelj in direktor Facebooka Mark Zukerberg je v Washingtonu odgovarjal na vprašanja ameriških politikov o škandalu s Cambridge Analitico in Facebookovem poslovnem modelu.

Ja, spremljal sem zaslišanja v senatu. Bilo je zanimivo, vendar sem bil zelo razočaran nad nizko ravnjo razprave.

Izkazalo se je, da ameriški politiki ne vedo veliko o družbenih medijih.

Ja, ampak to ni presenečenje glede na to, kako malo se to področje raziskuje tako zunaj kot znotraj akademskih krogov. 25 let imamo širše dostopen internet, raziskovanje tega pa je na samem začetku, sredstev za raziskave tako rekoč ni, zato tudi nimamo oddelkov, ki bi se s tem ukvarjali. Imamo oddelek za filmske študije, za gledališče, seveda za literaturo, kdo pa je odgovoren za internet? Pravzaprav nihče. Številni se nato obračajo k računalništvu, vendar se s tem tam ne ukvarjajo. Ne raziskujejo in ne razmišljajo o vplivu interneta na družbo in kulturo. Tega ni, zato je tudi znanja in razgledanosti o internetu zelo malo. Še en vzrok pa je ta, da smo bili desetletja izpostavljeni navdušenosti nad možnostmi. Kaj vse lahko s to tehnologijo naredimo? Koliko denarja lahko zaslužimo? Kako uporabna je v naših vsakdanjih življenjih? Gre za revolucijo, ki še vedno poteka, ampak običajno pri taki hitrosti razvoja ni časa in prostora za kritično refleksijo. To sem odnesel od zaslišanj v senatu.

Najverjetneje so politiki drugod po svetu podobni svojim ameriškim kolegom, s tega področja imajo malo znanja. In to je velik problem, če odločevalci odločajo o stvareh, ki jih ne razumejo.

Nimamo nevladnih organizacij, psov čuvajev, možganskih trustov. Kdo nas bo opozoril, kdo lahko informira politike? Če se osredotočimo denimo na Nemčijo, tam veliko pozornosti namenjajo zasebnosti in varovanju posameznika. To je sicer v redu, vendar gre tu za veliko več kot le za vprašanja varovanja zasebnosti in pravne dileme. Če se vrnem na zaslišanje v senatu, veliko je bilo vprašanj o poslovnem modelu. O tem vemo zelo malo. Moram priznati, da tudi mi strokovnjaki hodimo v temi. Delno zato, ker gre za skrivnosti. Sedimo v Platonovi jami in gledamo na korporacijo Facebook – takšen je naš položaj. Nismo insajderji, zato nimamo pojma. Nimamo nadzora oziroma tako imenovanega urejanja algoritmov, ni transparentnosti, ničesar ni. Kako naj torej vemo? To je še en ključen problem. Ni raziskav, vendar tudi če bi bile, smo odvisni od žvižgačev. Primer Cambridge Analitica je pokazal, kako dragoceno je za nas, ko se pojavi žvižgač in razkrije vso zgodbo.

Prav zato smo bili verjetno vsi šokirani, ko je Christopher Whyle razkril, da so ustvarili orožje. Uporabil je izraz psihološko orožje, pravzaprav so ustvarili politično propagando za digitalno dobo. Menite, da so to orožje uporabili tudi drugje, ne le pri ameriških volitvah in brexitu?

Ne, mislim da ne. Dobra stran tega, kar se ta hip dogaja, je, da smo jih odkrili relativno zgodaj. Seveda je bil to velik šok, saj sta se Trump in brexit zgodila v približno pol leta. Po tem nismo opazili le tega, da se ljudje zbujajo, ampak tudi protiudarce na popolnoma drugi ravni. Velike evropske medijske hiše so rekle, zdaj je dovolj. Ne moremo delovati, če Facebook in Google vzameta polovico finančnega deleža od oglaševanja. Zato so začeli javne kampanje proti Facebooku v tradicionalnih tiskanih, avdio- in videomedijih. Veliko ljudi je postalo pozornih, ko se je tej pobudi pridružil tudi Rupert Murdoch. Stvari se dogajajo na različnih ravneh, tudi politiki so se začeli zbujati. Lobiji tradicionalnih medijev so še vedno vplivni, v Bruslju vidimo, da želijo lobirati tudi spletni giganti, vendar so prepozni. Tradicionalne medijske korporacije so tam že desetletja.

Takoj po izbruhu škandala Cambridge Analytica se je pojavil ključnik zapusti Facebook in poziv k izbrisu profila. Vendar se je izkazalo, da je to lažje reči kot storiti. Facebook ni le družabno omrežje, niso le Facebook prijatelji, temveč tudi podjetja, dejavnosti, blagovne znamke, civilne pobude, dogodki …  

Facebook sem zapustil leta 2010 ob veliki kampanji proti kršitvam zasebnosti. Nekje na sredi poti. Prvi škandali v povezavi s Facebookom so izbruhnili že na začetku, leta 2003. Sedem let po tem sem torej zapustil Facebook skupaj še s 50 tisoč drugimi ljudmi. Leto pozneje smo na Inštitutu za omrežne kulture zagnali kampanjo “Unlike us”, “Ne všečkajte nas”, ki se osredotoča na oblikovanje alternative Facebooku. Leta 2015 smo v osrednjem gledališču v Amsterdamu organizirali Facebook poslovilno zabavo. S tem se torej ukvarjamo že kar nekaj časa. Znan nizozemski komik je v svoji televizijski oddaji pozval gledalce, naj skupaj z njim zapustijo Facebook. To je storilo približno 10 tisoč ljudi, točne številke ne moremo izmeriti. Po tej akciji so ga kritizirali in se mu posmehovali, da je zguba, saj ga je poslušalo malo ljudi. Po mojem mnenju to ni pravično. Ljudje, ki zapustijo Facebook, pravzaprav nimajo kam iti. Zato se osredotočamo na alternative, vendar gre za zgodnje poskuse. Facebook ima ogromno denarja. V preteklih mesecih smo lahko prebrali, kako Facebook ustvarja odvisnike, kako odvisnost deluje, kako izkorišča najnovejša spoznanja vedenjske in nevroznanosti, da ustvarja odvisnost od družbenih medijev. Zato sem zelo sočuten do prijateljev in drugih, ki Facebooka ne morejo zapustiti. Ne kritiziram jih. Še posebej zato, ker se majhna podjetja in ljudje, ki živijo v negotovih razmerah ali nimajo dobrih služb, zanašajo na to orodje, včasih celo za preživetje. Zato ni lahko zapustiti Facebooka.

Od koga pa lahko pričakujemo, da nam bo ustvaril alternativo, ki bo neke vrste javni servis? Tak kot Facebook, vendar brez negativnih stranskih učinkov, kot so odvisnost, preprodaja osebnih podatkov, nadzor?

Evropska unija nima svoje start up kulture. Na žalost nimamo svoje Silicijeve doline, imamo nekatere posamezne primere, na primer Spotify, ki je šel prejšnji mesec na borzo, kar so pozdravili na Švedskem. Ob tem pa se sprašujemo, kje naj iščemo alternative? Večina alternativ prihaja iz hekerske kulture – neodvisnih svobodnih odprtokodnih iniciativ. Problem z njimi je, da jim manjka seksi, kul uporabniški vmesnik. Običajni ljudje ga ne razumejo in ne vedo, kaj z njim početi. Zato potrebujemo sodelovanje strokovnjakov z različnih področij. Ne bi rad trdil, da moramo to zahtevati od Bruslja. Vendar, če pogledamo, kaj Evropska unija financira? Milijone evrov dobijo veliki in uveljavljeni igralci informacijske tehnologije. Bruselj tudi še ni ustvaril recimo temu velike finančne sheme za razvoj tega. Denar gre vedno v roke uveljavljenih igralcev. Vendar oni ne bodo razvili alternative za Facebook.

Kako torej pridobiti sredstva za razvoj? Je rešitev v množičnem financiranju, kriptovalutah, začetni ponudbi kriptožetonov?

Ja … Morda pa potrebujemo tudi revolucijo razumevanja tega, v čem je sploh problem. Ne gre le za vprašanje kode, potrebujemo tudi kognitivne znanstvenike, oblikovalce … olajšati bi morali sodelovanje in ga tudi zahtevati. Imam pa še en predlog. Zelo pomembno je, da se odpovemo start up logiki. Izkaže se, da so uspešna družbena omrežja najprej uspešna v lokalnem prostoru. Če recimo v Ljubljani nastane zanimiva ideja, jo je treba tu obdržati in ne razširiti na vso državo, v regijo ali Evropo oziroma na globalno raven. Naj ima čas za razvoj v lokalnem prostoru. Če želimo razbiti Facebookov monopol, ga bomo morali najprej na lokalni ravni.

Kdo nam bo torej priskrbel takšno orodje? Država, Evropska unija? Bi morala javnost od države ali od Bruslja zahtevati alternativo? Uporabniki razumejo Facebook kot javno storitev, javno infrastrukturo, čeprav to ni. Pa se javnost tega zaveda? In kako naj sploh zahteva takšno alternativo, če niti ne ve, da jo potrebuje? Mladi denimo nimajo težav z deljenjem svojih osebnih podatkov na Facebooku ali Instagramu; postati vplivnež na družbenih omrežjih je za njih zanimiva karierna izbira.

Facebook in Instagram sta globalni storitvi, ki sta visoko avtomatizirani, kjer skoraj nihče ne dela, kjer ni odgovornih. In tu vidimo prostor, kjer lahko, ne bom rekel napademo, temveč strateško zapolnimo ta lokalni prostor, kjer ju ni. Ti podjetji, ti platformi nimata nobenih predstavništev. Kje je Facebookova pisarna v Ljubljani?

Ni je.

Ni je, tako je. Zato moramo to videti kot možnost, kot eno od njihovih ranljivosti, kot priložnost za razumevanje, kaj je na kocki in kakšne so potrebe tukajšnjih ljudi.

Spregovoriva zdaj še nekaj besed o drugem spletnem gigantu – to je Google. O Facebooku se strinjava, da je zloben, z nami manipulira, nas izrablja in prodaja naše osebne podatke. Ampak kljub vsemu se da brez njega živeti, brez Googla pa zelo težko. Kaj naj storimo z njim, kako bi ga morali regulirati?

Regulacija Googla se mi zdi veliko bolj zanimiva tema kot regulacija Facebooka, kar je po mojem mnenju skoraj nemogoče. Res bi ga morali sesuti, kot je rekel pred kratkim v Berlinu Frank Rieger, Facebook moramo uničiti, uporabil je izraz “zerschlagen”. Bolj zanimivo postane, ko se začnemo pogovarjati o Googlu. Kaj bi lahko na primer storili? Če se denimo osredotočimo na področje ustvarjanja znanja. Lahko bi ga prenesli na področje skupnostne lastnine in ga povezali z izobraževanjem, raziskovanjem, šolstvom. Govorim o zelo raznovrstnih področjih, seveda je na prvem mestu iskalnik, pa tudi Google scolar oz. Googlov učenjak in še nekaj drugih storitev je, pri katerih bi lahko trdili, da gre za našo bazo znanja. To je naše, mi, državljani sveta smo to znanje ustvarili, to ni last Googla. Mi smo vnesli povpraševanja, mi smo ustvarili dodano vrednost njihovega podjetja. Nekateri že razmišljajo o tem, kako bi to lahko izvedli v praksi. Kako bi ustvarili, ne bi rekel nacionalizacijo, saj to ne more delovati na nacionalni ravni, lahko pa bi delovalo na ravni Evropske unije. Če bi se tega zares lotili, bi morali po mojem mnenju vključiti tudi Wikipedijo v to oblikovanje tako imenovanega “knowledge commons”, skupnostnega znanja. Wikipedijo uporabljamo namreč zelo pogosto. Gre za neprofitno organizacijo in zelo težko se prebijajo in na skrivaj so v resnici odvisni od Googlovih sredstev. Ne vem, ali veste, ampak Google je bil prisiljen vključiti povezave na Wikipedio k posnetkom na Youtubu. V ozadju tega je cel škandal, na kratko, želeli so zaščititi otroke pred sporočili, pred vplivi skrajnežev, skrajne desnice. Problem so želeli rešiti tako, da so k videom dodali povezave na Wikipedio. Vidite, o čem govorim. Zakaj bi k dobičku usmerjeno podjetje, ki ustvari nezaslišano količino denarja, nenadoma izkoristilo nekaj, kar smo zgradili mi, državljani, te spletne vnose z ogromno količino znanja. Ki zdaj stagnira, ker ne more rasti zaradi vrste razlogov. Ampak nenadoma se je k reševanju tega problema pridružil spletni gigant. Bodo rešili Wikipedio? Ne. Morali bi reči, to bomo vzeli iz vašega podjetja, socializirati moramo Google. Še vedno bo Googlu ostalo ogromno, veliko je podjetij, združenih v njihovem Alphabetnem vesolju. Ven bi vzeli samo tisti vaš stari iskalnik.

Omenili ste skrajneže in skrajno desnico. Pa nameniva še nekaj besed obdobju postresnice, v katerem živimo danes. Mnenjski mehurčki, v katere smo vsi zaprti, močno pretresajo našo demokracijo. Je v interesu spletnih gigantov ohranjanje demokracije?

Mislim, da ne. V resnici jim je vseeno. In za to imamo veliko dokazov. To seveda ni njihova naloga, zato ni njihova skrb. Svoje storitve ponujajo vsem politikom, v resnici jim je vseeno. Predstavljajte si, da bi podpirali ene, drugih pa ne in sprejeli jasno politično odločitev. Navsezadnje bi bilo to vsaj zanimivo. Zdaj so močno indiferentni, imajo ciničen odnos in zviška gledajo na nacionalne družbe. Silicijeva dolina skozi prizmo mentalitete nadčloveka podcenjuje primitivne skupnosti v Evropi, primitivne skupnosti v ZDA, primitivne skupnosti v Washingtonu. Gre za to mentaliteto: “Mi živimo v 23-em stoletju, vi pa ste še vedno v srednjem veku.” Kadar se soočiš z njimi, vedno dobiš tak odziv. Res jim je čisto vseeno za demokracijo. Denimo primer Mjanmara in Facebooka, to je res tragična zgodba. In takih je še veliko. Podatke bodo prodali komur koli. Podatke bodo pridobili od kogar koli in prodali komur koli.

V prihodnosti lahko pričakujemo, da bo teh podatkov vse več, umetna inteligenca bo zbirala in obdelovala nešteto različnih podatkov. Že danes na primer pametni zvočniki z govornimi asistenti ves čas poslušajo, aplikacije na pametnih telefonih pa brez podatka o lokaciji pravzaprav sploh ne delujejo. Kako torej omogočiti tehnološki razvoj in hkrati zavarovati naše osebne podatke in ohraniti zasebnost?

To je težko. Ampak tudi zato, ker, predvsem v Evropi, v zadnjih 25 letih nismo še veliko naredili. Evropska elita je namreč zanikala ta problem. Predvsem v bogatejših državah še danes velja, da so digitalne tehnologije kaprice, zadnji modni krik. In to je pomirjujoče. Pametni telefon je le modna novost, ki jo bo prihodnjo sezono zamenjala kakšna druga. Gre za to idejo. To si predstavniki evropske elite govorijo drug drugemu. Američani, Kitajci, Japonci imajo te napravice, saj so zabavne, vendar ne zares pomembne. Zelo dolgo časa se tako marginalizira celo digitalno področje. In to se zares ni nič spremenilo. Še vedno verjamejo, da se bomo nekega dne zbudili in vsi bodo pozabili na svoje pametne telefone, da se jih bodo naveličali, si našli kaj novega, morda spet odkrili tradicionalne evropske vrednote, morda nacionalne vrednote, kot na Madžarskem, in si bo nacionalizem prilastil ta čar digitalnega sveta, če hočete. Digitalno ima torej status luksuzne, dekadentne motnje. In te dekadentne motnje ustvarjajo ljudje, ki so izgubili vero, smer in so čisto brez orientacije. Upajo, da bo Evropejec nekoč spet našel svojo pravo usodo in pozabil na vse te digitalne neumnosti. To je torej naš problem. Najprej je nujna analiza tega problema, šele nato lahko  začnemo odgovarjati na vprašanje, ki ste ga zastavili. Naša nezmožnost spremembe tega položaja in korenine imajo otipljive vzroke.

Konec maja bo v Evropski uniji začela veljati nova Splošna uredba za varstvo osebnih podatkov. Kako bo spremenila evropski digitalni ekosistem. Gre po vašem mnenju za napredek ali za korak nazaj?

Težko rečem, saj se bodo učinki uvedbe poznali šele čez nekaj let. Po mojem ne bomo v kratkem opazili sprememb. Bolj pomemben se mi pri tem vprašanju zdi globalni zorni kot, globalna slika. Morda se bodo v Evropi oblikovale kakšne iniciative od spodaj navzgor. Pri GDPR gre namreč za urejanje od zgoraj navzdol. Ampak pod Trumpom se poglablja izolacija Združenih držav, Kitajska se s svojim požarnim zidom krepi, po svetu vidimo ostro regulacijo uporabe interneta, še posebej v Aziji, pa tudi drugod. Primer Evrope in njenih pol milijarde uporabnikov je iz tega zornega kota zanimiv, vendar hkrati smešen. Evropa je res smešna in nenavadna manjšina. Ta hip bi težko rekel, da lahko zavzamemo osrednje mesto na globalnem odru in predstavimo protihegemonske zahteve do ZDA in Kitajske.

Med Združenimi državami Amerike in Kitajsko so velike razlike. Kam se bo torej v tem smislu nagnila Evropa, proti Vzhodu ali Zahodu?

Upam, da nikamor! Upam, da postanemo nekako bolj evropski, zberemo svoje sile in zares sodelujemo, tudi od spodaj navzgor. Gre za močno gibanje, med sabo sodelujejo prebivalci iz večjih evropskih mest in lahko se zgodi, da bodo nacionalne države postale ovira pri tem sodelovanju. Sem zelo optimističen, da se bodo v mestih oblikovale civilne pobude, ki se bodo povezovale s pobudami iz drugih mest.

Niste le teoretik, digitalno področje tudi dejavno spreminjate. Ste ustanovitelj Instuitute for Network Cultures, amsterdamskega Inštituta za omrežne kulture. Inštitut je pred petimi leti ustanovil MoneyLab, mrežo umetnikov, aktivistov, navdušencev in raziskovalcev. Kako se v praksi lotevate vprašanj, o katerih govoriva?

MoneyLab je nastal kot posledica nekoliko poznega odziva na globalno finančno krizo leta 2008. Takoj po njej, pol leta pozneje, se je rodil Bitcoin. MoneyLab je za nas postal realna možnost leta 2013, ko smo opazili, da nastaja cela vrsta iniciativ, ki naslavljajo vprašanje digitalnega denarja. In mi, državljani, geeki, oblikovalci, umetniki lahko zdaj oblikujemo svoj denar. To je edinstveno, denar je bil doslej vedno v monopolnih rokah države. Nacionalna banka je izdala denar, nihče ni razmišljal o lokalnih valutah. Danes, po krizi iz leta 2008 in varčevalnih ukrepih, ki so stvari le še poslabšali, smo povzročili vzpon resnično groznega desnega populizma in nacionalizma. Veliko ljudi je želelo začeti reševati vprašanje oblikovanja denarja. In zdaj imamo orodje, ko to lahko storimo. To je prvi razlog za nastanek, drugi pa sega nekoliko bolj v preteklost in je odziv na oblikovanje tako imenovane brezplačne ekonomije. Gre za dominanten model Silicijeve doline, ki ga vsi poznamo. Ideja brezplačnosti pravi: storitev dobite brezplačno, če nam v zameno predate vse svoje podatke. Gre za družbeno pogodbo, ki smo jo vsi podpisali s Facebookom, Googlom in drugimi spletnimi storitvami. To povzroča številne težave, še posebej za ustvarjalce vsebin na spletu – ustvarjalce glasbe, avdia, videa, besedil in še bi lahko našteval, ki so izgubili vir dohodka. Orodja, o katerih razpravljamo v mreži MoneyLab, so zelo jasne alternative za rešitev tega problema. Eksperimentiramo z različnimi oblikami plačilnih modelov, saj menimo, da bi morali biti umetniki, ustvarjalci nagrajeni za svoje delo. Vse to se najverjetneje ne bo več dogajalo znotraj veljavnega modela avtorskih pravic. Vemo, da je model bankrotiral, ne deluje več, avtorji ne dobijo več denarja. Zato moramo razmišljati o drugih modelih. Pri MoneyLabu iščemo torej alternative, zelo nas denimo zanimajo različne izmenjave peer to peer oziroma medsebojne izmenjave.

Ste lahko bolj konkretni, katere medsebojne izmenjave imate v mislih?

Seveda. Tu so najprej kampanje množičnega financiranja. Gre za enostaven model, pri katerem najprej zbereš denar, šele nato ustvarjaš. Ne gre tako kot pri zdajšnjih plačilnih modelih. Na primer, Hollywood dobi plačilo potem. Filma ne plačamo vnaprej, temveč šele, ko se predvaja v kinematografih in si ga ogledamo. Potem imamo tu zelo star model, ki ga še vedno uporabljamo, z njim imamo vsi izkušnje, to je model naročnin. Celo Mark Zukerberg je pred senatom, nad tem sem bil presenečen, omenil naročnino. Ja, ta podjetja so zdaj pod velikim pritiskom, saj uporabniki želijo bolj pravičen model. Nikoli ne bi smeli pozabiti na model naročnine. Potem pa je tu še model mikroplačil. Izdelek ali storitev, denimo skladbo ali članek, plačamo z zelo nizkim zneskom, ki se avtomatsko prenese iz naše spletne denarnice v denarnico ustvarjalca. To je seveda najbolj napreden sistem in v tem sistemu bodo kriptovalute in tehnologija veriženja blokov igrale pomembno vlogo.

Kdaj pričakujete, da se bo po vašem mnenju lahko uveljavil sistem mikroplačil? Smo že tam?

Prosim, ne kupujte kriptovalut, če niste dobro organizirani, če se ne spoznate na te tehnologije. Res, ne vlagajte svojih prihrankov v kriptovalute. Kdaj se bo to zgodilo? Ne vem, recimo čez približno pet, deset let. Še vedno smo na začetku.

Za konec nameniva še nekaj besed mladim. Pravimo, da na njih svet stoji. Digitalni domorodci so, rokovanje s sodobnimi napravami je za njih nekaj vsakdanjega. Po eni strani nimajo zadržkov, ko gre za deljenje svojih osebnih podatkov, všečki, srčki, ogenjčki so novi statusni simboli, pa tudi močna valuta. Postati influencer oziroma vplivnež na družbenem mediju je za njih zanimiva karierna izbira. Po drugi strani pa so mladi, tudi prek družbenih omrežij, organizirali množične proteste proti nasilju s strelnim orožjem. Se kdaj sprašujete, kako se bodo mladi znašli v digitalizirani prihodnosti.

Že od samega začetka ukvarjanja z internetom se osredotočam na mlade. Moja generacija je nekje vmes, v resnici še nismo stari, mladi pa tudi nismo več. Računalnike in internet smo začeli uporabljati pri 20-ih, 30-ih letih. Zato od nekdaj spremljam, kaj se dogaja z mladimi. In pozornost digitalnih industrij je bila vedno usmerjena v mlade. Zdaj je dobra novica ta, da skoraj nihče od najstnikov ne uporablja Facebooka. Ja, res je, uporabljajo Instagram in WhatsApp, ki sta v lasti Facebooka. Ampak to je znak, da se navade lahko spremenijo in da je Facebook zelo dolgočasna storitev, ki ni ustvarjalna, ni igriva, ne privlači mladih. In to je koristno.

Govorila sva tudi o odvisnosti od spleta. Aplikacije so oblikovane tako, da zahtevajo našo pozornost in iz nas ustvarjajo odvisnike. Če na razvoj pogledamo iz tega zornega kota – se bodo mladi lahko obranili pred tem?

Ne, po mojem mnenju se ne bodo mogli. Razen če se bo oblikovalo zelo všečno, zelo privlačno gibanje v realnem svetu. Vendar tega še nisem zaznal, sem ga pa pričakoval. Zdaj so pobude zelo terapevtske narave, romantizirajo izpisanost iz spleta in spodbujajo digitalno razstrupljanje. Vendar njihov pogled vse nas obravnava kot paciente, bolnike. In zdaj je uradno, vsi smo bolniki, vsi smo zasvojeni. Če se osredotočimo na vse sofisticirane tehnike, s katerimi vplivajo na nas, in retoriko, ki jo imajo tehnologi Facebooka, ja, potem je stvar res zdravstvena, saj govorijo o vplivanju na naše možgane, nevrone in tako naprej. To so vse zelo resne zadeve. Kakor koli, sam nočem biti označen za bolnika. In tudi ne želim v vas videti bolnice. Vi niste bolni. Naj to povem zelo jasno. Morda veliko uporabljate telefon, čeprav ga nikjer ne vidim, tu ga ni. Ampak drug na drugega ne smemo gledati kot na bolnike. To zavračam, saj to ni pravi način za osvoboditev in oblikovanje alternativnih omrežij ali ekonomije, ki bi temeljila na medsebojnih izmenjavi.

In morda bo realnost dovolj?

Ja (nasmeh), to je zelo evropska ideja.


Geert Lovink

25.04.2018

Medijski teoretik, spletni kritik in aktivist Geert Lovink

Medijski teoretik, spletni kritik in aktivist Geert Lovink

Nedavna razkritja o zlorabi osebnih podatkov na Facebooku so v ospredje vnovič postavila vprašanja o škodljivem vplivu spletnih družbenih medijev. Hiter razvoj digitalnih tehnologij in obdelava velikih podatkov sta omogočila tako imenovano brezplačno ekonomijo, ko v zameno za svoje osebne podatke dobimo izdelke in storitve. Ta pogodba brezplačnosti, ki smo jo sklenili s spletnimi giganti, ne omogoča le zlorabe zasebnosti, ampak povzroča tudi številne težave ustvarjalcem vsebin, ki so izgubili vir dohodka. Geert Lovink je nizozemski medijski teoretik, spletni kritik, aktivist in ustanovitelj amsterdamskega Inštituta za omrežne kulture (Institute for Network Cultures), ki se je prejšnji teden v organizaciji Aksiome, Državljana D in Akademije za likovno umetnost ustavil v ljubljanskem kreativnem centru Poligon, kjer je predstavil MoneyLab, mrežo umetnikov, aktivistov, navdušencev in raziskovalcev.

Ste strokovnjak za digitalne tehnologije in njihov vpliv na sodobno družbo. Zato bi se z vami rada pogovarjala o različnih temah, predlagam pa, da ta pogovor začneva s Facebookom, največjim družbenim medijem, ki je ena glavnih tem že nekaj tednov. Ustanovitelj in direktor Facebooka Mark Zukerberg je v Washingtonu odgovarjal na vprašanja ameriških politikov o škandalu s Cambridge Analitico in Facebookovem poslovnem modelu.

Ja, spremljal sem zaslišanja v senatu. Bilo je zanimivo, vendar sem bil zelo razočaran nad nizko ravnjo razprave.

Izkazalo se je, da ameriški politiki ne vedo veliko o družbenih medijih.

Ja, ampak to ni presenečenje glede na to, kako malo se to področje raziskuje tako zunaj kot znotraj akademskih krogov. 25 let imamo širše dostopen internet, raziskovanje tega pa je na samem začetku, sredstev za raziskave tako rekoč ni, zato tudi nimamo oddelkov, ki bi se s tem ukvarjali. Imamo oddelek za filmske študije, za gledališče, seveda za literaturo, kdo pa je odgovoren za internet? Pravzaprav nihče. Številni se nato obračajo k računalništvu, vendar se s tem tam ne ukvarjajo. Ne raziskujejo in ne razmišljajo o vplivu interneta na družbo in kulturo. Tega ni, zato je tudi znanja in razgledanosti o internetu zelo malo. Še en vzrok pa je ta, da smo bili desetletja izpostavljeni navdušenosti nad možnostmi. Kaj vse lahko s to tehnologijo naredimo? Koliko denarja lahko zaslužimo? Kako uporabna je v naših vsakdanjih življenjih? Gre za revolucijo, ki še vedno poteka, ampak običajno pri taki hitrosti razvoja ni časa in prostora za kritično refleksijo. To sem odnesel od zaslišanj v senatu.

Najverjetneje so politiki drugod po svetu podobni svojim ameriškim kolegom, s tega področja imajo malo znanja. In to je velik problem, če odločevalci odločajo o stvareh, ki jih ne razumejo.

Nimamo nevladnih organizacij, psov čuvajev, možganskih trustov. Kdo nas bo opozoril, kdo lahko informira politike? Če se osredotočimo denimo na Nemčijo, tam veliko pozornosti namenjajo zasebnosti in varovanju posameznika. To je sicer v redu, vendar gre tu za veliko več kot le za vprašanja varovanja zasebnosti in pravne dileme. Če se vrnem na zaslišanje v senatu, veliko je bilo vprašanj o poslovnem modelu. O tem vemo zelo malo. Moram priznati, da tudi mi strokovnjaki hodimo v temi. Delno zato, ker gre za skrivnosti. Sedimo v Platonovi jami in gledamo na korporacijo Facebook – takšen je naš položaj. Nismo insajderji, zato nimamo pojma. Nimamo nadzora oziroma tako imenovanega urejanja algoritmov, ni transparentnosti, ničesar ni. Kako naj torej vemo? To je še en ključen problem. Ni raziskav, vendar tudi če bi bile, smo odvisni od žvižgačev. Primer Cambridge Analitica je pokazal, kako dragoceno je za nas, ko se pojavi žvižgač in razkrije vso zgodbo.

Prav zato smo bili verjetno vsi šokirani, ko je Christopher Whyle razkril, da so ustvarili orožje. Uporabil je izraz psihološko orožje, pravzaprav so ustvarili politično propagando za digitalno dobo. Menite, da so to orožje uporabili tudi drugje, ne le pri ameriških volitvah in brexitu?

Ne, mislim da ne. Dobra stran tega, kar se ta hip dogaja, je, da smo jih odkrili relativno zgodaj. Seveda je bil to velik šok, saj sta se Trump in brexit zgodila v približno pol leta. Po tem nismo opazili le tega, da se ljudje zbujajo, ampak tudi protiudarce na popolnoma drugi ravni. Velike evropske medijske hiše so rekle, zdaj je dovolj. Ne moremo delovati, če Facebook in Google vzameta polovico finančnega deleža od oglaševanja. Zato so začeli javne kampanje proti Facebooku v tradicionalnih tiskanih, avdio- in videomedijih. Veliko ljudi je postalo pozornih, ko se je tej pobudi pridružil tudi Rupert Murdoch. Stvari se dogajajo na različnih ravneh, tudi politiki so se začeli zbujati. Lobiji tradicionalnih medijev so še vedno vplivni, v Bruslju vidimo, da želijo lobirati tudi spletni giganti, vendar so prepozni. Tradicionalne medijske korporacije so tam že desetletja.

Takoj po izbruhu škandala Cambridge Analytica se je pojavil ključnik zapusti Facebook in poziv k izbrisu profila. Vendar se je izkazalo, da je to lažje reči kot storiti. Facebook ni le družabno omrežje, niso le Facebook prijatelji, temveč tudi podjetja, dejavnosti, blagovne znamke, civilne pobude, dogodki …  

Facebook sem zapustil leta 2010 ob veliki kampanji proti kršitvam zasebnosti. Nekje na sredi poti. Prvi škandali v povezavi s Facebookom so izbruhnili že na začetku, leta 2003. Sedem let po tem sem torej zapustil Facebook skupaj še s 50 tisoč drugimi ljudmi. Leto pozneje smo na Inštitutu za omrežne kulture zagnali kampanjo “Unlike us”, “Ne všečkajte nas”, ki se osredotoča na oblikovanje alternative Facebooku. Leta 2015 smo v osrednjem gledališču v Amsterdamu organizirali Facebook poslovilno zabavo. S tem se torej ukvarjamo že kar nekaj časa. Znan nizozemski komik je v svoji televizijski oddaji pozval gledalce, naj skupaj z njim zapustijo Facebook. To je storilo približno 10 tisoč ljudi, točne številke ne moremo izmeriti. Po tej akciji so ga kritizirali in se mu posmehovali, da je zguba, saj ga je poslušalo malo ljudi. Po mojem mnenju to ni pravično. Ljudje, ki zapustijo Facebook, pravzaprav nimajo kam iti. Zato se osredotočamo na alternative, vendar gre za zgodnje poskuse. Facebook ima ogromno denarja. V preteklih mesecih smo lahko prebrali, kako Facebook ustvarja odvisnike, kako odvisnost deluje, kako izkorišča najnovejša spoznanja vedenjske in nevroznanosti, da ustvarja odvisnost od družbenih medijev. Zato sem zelo sočuten do prijateljev in drugih, ki Facebooka ne morejo zapustiti. Ne kritiziram jih. Še posebej zato, ker se majhna podjetja in ljudje, ki živijo v negotovih razmerah ali nimajo dobrih služb, zanašajo na to orodje, včasih celo za preživetje. Zato ni lahko zapustiti Facebooka.

Od koga pa lahko pričakujemo, da nam bo ustvaril alternativo, ki bo neke vrste javni servis? Tak kot Facebook, vendar brez negativnih stranskih učinkov, kot so odvisnost, preprodaja osebnih podatkov, nadzor?

Evropska unija nima svoje start up kulture. Na žalost nimamo svoje Silicijeve doline, imamo nekatere posamezne primere, na primer Spotify, ki je šel prejšnji mesec na borzo, kar so pozdravili na Švedskem. Ob tem pa se sprašujemo, kje naj iščemo alternative? Večina alternativ prihaja iz hekerske kulture – neodvisnih svobodnih odprtokodnih iniciativ. Problem z njimi je, da jim manjka seksi, kul uporabniški vmesnik. Običajni ljudje ga ne razumejo in ne vedo, kaj z njim početi. Zato potrebujemo sodelovanje strokovnjakov z različnih področij. Ne bi rad trdil, da moramo to zahtevati od Bruslja. Vendar, če pogledamo, kaj Evropska unija financira? Milijone evrov dobijo veliki in uveljavljeni igralci informacijske tehnologije. Bruselj tudi še ni ustvaril recimo temu velike finančne sheme za razvoj tega. Denar gre vedno v roke uveljavljenih igralcev. Vendar oni ne bodo razvili alternative za Facebook.

Kako torej pridobiti sredstva za razvoj? Je rešitev v množičnem financiranju, kriptovalutah, začetni ponudbi kriptožetonov?

Ja … Morda pa potrebujemo tudi revolucijo razumevanja tega, v čem je sploh problem. Ne gre le za vprašanje kode, potrebujemo tudi kognitivne znanstvenike, oblikovalce … olajšati bi morali sodelovanje in ga tudi zahtevati. Imam pa še en predlog. Zelo pomembno je, da se odpovemo start up logiki. Izkaže se, da so uspešna družbena omrežja najprej uspešna v lokalnem prostoru. Če recimo v Ljubljani nastane zanimiva ideja, jo je treba tu obdržati in ne razširiti na vso državo, v regijo ali Evropo oziroma na globalno raven. Naj ima čas za razvoj v lokalnem prostoru. Če želimo razbiti Facebookov monopol, ga bomo morali najprej na lokalni ravni.

Kdo nam bo torej priskrbel takšno orodje? Država, Evropska unija? Bi morala javnost od države ali od Bruslja zahtevati alternativo? Uporabniki razumejo Facebook kot javno storitev, javno infrastrukturo, čeprav to ni. Pa se javnost tega zaveda? In kako naj sploh zahteva takšno alternativo, če niti ne ve, da jo potrebuje? Mladi denimo nimajo težav z deljenjem svojih osebnih podatkov na Facebooku ali Instagramu; postati vplivnež na družbenih omrežjih je za njih zanimiva karierna izbira.

Facebook in Instagram sta globalni storitvi, ki sta visoko avtomatizirani, kjer skoraj nihče ne dela, kjer ni odgovornih. In tu vidimo prostor, kjer lahko, ne bom rekel napademo, temveč strateško zapolnimo ta lokalni prostor, kjer ju ni. Ti podjetji, ti platformi nimata nobenih predstavništev. Kje je Facebookova pisarna v Ljubljani?

Ni je.

Ni je, tako je. Zato moramo to videti kot možnost, kot eno od njihovih ranljivosti, kot priložnost za razumevanje, kaj je na kocki in kakšne so potrebe tukajšnjih ljudi.

Spregovoriva zdaj še nekaj besed o drugem spletnem gigantu – to je Google. O Facebooku se strinjava, da je zloben, z nami manipulira, nas izrablja in prodaja naše osebne podatke. Ampak kljub vsemu se da brez njega živeti, brez Googla pa zelo težko. Kaj naj storimo z njim, kako bi ga morali regulirati?

Regulacija Googla se mi zdi veliko bolj zanimiva tema kot regulacija Facebooka, kar je po mojem mnenju skoraj nemogoče. Res bi ga morali sesuti, kot je rekel pred kratkim v Berlinu Frank Rieger, Facebook moramo uničiti, uporabil je izraz “zerschlagen”. Bolj zanimivo postane, ko se začnemo pogovarjati o Googlu. Kaj bi lahko na primer storili? Če se denimo osredotočimo na področje ustvarjanja znanja. Lahko bi ga prenesli na področje skupnostne lastnine in ga povezali z izobraževanjem, raziskovanjem, šolstvom. Govorim o zelo raznovrstnih področjih, seveda je na prvem mestu iskalnik, pa tudi Google scolar oz. Googlov učenjak in še nekaj drugih storitev je, pri katerih bi lahko trdili, da gre za našo bazo znanja. To je naše, mi, državljani sveta smo to znanje ustvarili, to ni last Googla. Mi smo vnesli povpraševanja, mi smo ustvarili dodano vrednost njihovega podjetja. Nekateri že razmišljajo o tem, kako bi to lahko izvedli v praksi. Kako bi ustvarili, ne bi rekel nacionalizacijo, saj to ne more delovati na nacionalni ravni, lahko pa bi delovalo na ravni Evropske unije. Če bi se tega zares lotili, bi morali po mojem mnenju vključiti tudi Wikipedijo v to oblikovanje tako imenovanega “knowledge commons”, skupnostnega znanja. Wikipedijo uporabljamo namreč zelo pogosto. Gre za neprofitno organizacijo in zelo težko se prebijajo in na skrivaj so v resnici odvisni od Googlovih sredstev. Ne vem, ali veste, ampak Google je bil prisiljen vključiti povezave na Wikipedio k posnetkom na Youtubu. V ozadju tega je cel škandal, na kratko, želeli so zaščititi otroke pred sporočili, pred vplivi skrajnežev, skrajne desnice. Problem so želeli rešiti tako, da so k videom dodali povezave na Wikipedio. Vidite, o čem govorim. Zakaj bi k dobičku usmerjeno podjetje, ki ustvari nezaslišano količino denarja, nenadoma izkoristilo nekaj, kar smo zgradili mi, državljani, te spletne vnose z ogromno količino znanja. Ki zdaj stagnira, ker ne more rasti zaradi vrste razlogov. Ampak nenadoma se je k reševanju tega problema pridružil spletni gigant. Bodo rešili Wikipedio? Ne. Morali bi reči, to bomo vzeli iz vašega podjetja, socializirati moramo Google. Še vedno bo Googlu ostalo ogromno, veliko je podjetij, združenih v njihovem Alphabetnem vesolju. Ven bi vzeli samo tisti vaš stari iskalnik.

Omenili ste skrajneže in skrajno desnico. Pa nameniva še nekaj besed obdobju postresnice, v katerem živimo danes. Mnenjski mehurčki, v katere smo vsi zaprti, močno pretresajo našo demokracijo. Je v interesu spletnih gigantov ohranjanje demokracije?

Mislim, da ne. V resnici jim je vseeno. In za to imamo veliko dokazov. To seveda ni njihova naloga, zato ni njihova skrb. Svoje storitve ponujajo vsem politikom, v resnici jim je vseeno. Predstavljajte si, da bi podpirali ene, drugih pa ne in sprejeli jasno politično odločitev. Navsezadnje bi bilo to vsaj zanimivo. Zdaj so močno indiferentni, imajo ciničen odnos in zviška gledajo na nacionalne družbe. Silicijeva dolina skozi prizmo mentalitete nadčloveka podcenjuje primitivne skupnosti v Evropi, primitivne skupnosti v ZDA, primitivne skupnosti v Washingtonu. Gre za to mentaliteto: “Mi živimo v 23-em stoletju, vi pa ste še vedno v srednjem veku.” Kadar se soočiš z njimi, vedno dobiš tak odziv. Res jim je čisto vseeno za demokracijo. Denimo primer Mjanmara in Facebooka, to je res tragična zgodba. In takih je še veliko. Podatke bodo prodali komur koli. Podatke bodo pridobili od kogar koli in prodali komur koli.

V prihodnosti lahko pričakujemo, da bo teh podatkov vse več, umetna inteligenca bo zbirala in obdelovala nešteto različnih podatkov. Že danes na primer pametni zvočniki z govornimi asistenti ves čas poslušajo, aplikacije na pametnih telefonih pa brez podatka o lokaciji pravzaprav sploh ne delujejo. Kako torej omogočiti tehnološki razvoj in hkrati zavarovati naše osebne podatke in ohraniti zasebnost?

To je težko. Ampak tudi zato, ker, predvsem v Evropi, v zadnjih 25 letih nismo še veliko naredili. Evropska elita je namreč zanikala ta problem. Predvsem v bogatejših državah še danes velja, da so digitalne tehnologije kaprice, zadnji modni krik. In to je pomirjujoče. Pametni telefon je le modna novost, ki jo bo prihodnjo sezono zamenjala kakšna druga. Gre za to idejo. To si predstavniki evropske elite govorijo drug drugemu. Američani, Kitajci, Japonci imajo te napravice, saj so zabavne, vendar ne zares pomembne. Zelo dolgo časa se tako marginalizira celo digitalno področje. In to se zares ni nič spremenilo. Še vedno verjamejo, da se bomo nekega dne zbudili in vsi bodo pozabili na svoje pametne telefone, da se jih bodo naveličali, si našli kaj novega, morda spet odkrili tradicionalne evropske vrednote, morda nacionalne vrednote, kot na Madžarskem, in si bo nacionalizem prilastil ta čar digitalnega sveta, če hočete. Digitalno ima torej status luksuzne, dekadentne motnje. In te dekadentne motnje ustvarjajo ljudje, ki so izgubili vero, smer in so čisto brez orientacije. Upajo, da bo Evropejec nekoč spet našel svojo pravo usodo in pozabil na vse te digitalne neumnosti. To je torej naš problem. Najprej je nujna analiza tega problema, šele nato lahko  začnemo odgovarjati na vprašanje, ki ste ga zastavili. Naša nezmožnost spremembe tega položaja in korenine imajo otipljive vzroke.

Konec maja bo v Evropski uniji začela veljati nova Splošna uredba za varstvo osebnih podatkov. Kako bo spremenila evropski digitalni ekosistem. Gre po vašem mnenju za napredek ali za korak nazaj?

Težko rečem, saj se bodo učinki uvedbe poznali šele čez nekaj let. Po mojem ne bomo v kratkem opazili sprememb. Bolj pomemben se mi pri tem vprašanju zdi globalni zorni kot, globalna slika. Morda se bodo v Evropi oblikovale kakšne iniciative od spodaj navzgor. Pri GDPR gre namreč za urejanje od zgoraj navzdol. Ampak pod Trumpom se poglablja izolacija Združenih držav, Kitajska se s svojim požarnim zidom krepi, po svetu vidimo ostro regulacijo uporabe interneta, še posebej v Aziji, pa tudi drugod. Primer Evrope in njenih pol milijarde uporabnikov je iz tega zornega kota zanimiv, vendar hkrati smešen. Evropa je res smešna in nenavadna manjšina. Ta hip bi težko rekel, da lahko zavzamemo osrednje mesto na globalnem odru in predstavimo protihegemonske zahteve do ZDA in Kitajske.

Med Združenimi državami Amerike in Kitajsko so velike razlike. Kam se bo torej v tem smislu nagnila Evropa, proti Vzhodu ali Zahodu?

Upam, da nikamor! Upam, da postanemo nekako bolj evropski, zberemo svoje sile in zares sodelujemo, tudi od spodaj navzgor. Gre za močno gibanje, med sabo sodelujejo prebivalci iz večjih evropskih mest in lahko se zgodi, da bodo nacionalne države postale ovira pri tem sodelovanju. Sem zelo optimističen, da se bodo v mestih oblikovale civilne pobude, ki se bodo povezovale s pobudami iz drugih mest.

Niste le teoretik, digitalno področje tudi dejavno spreminjate. Ste ustanovitelj Instuitute for Network Cultures, amsterdamskega Inštituta za omrežne kulture. Inštitut je pred petimi leti ustanovil MoneyLab, mrežo umetnikov, aktivistov, navdušencev in raziskovalcev. Kako se v praksi lotevate vprašanj, o katerih govoriva?

MoneyLab je nastal kot posledica nekoliko poznega odziva na globalno finančno krizo leta 2008. Takoj po njej, pol leta pozneje, se je rodil Bitcoin. MoneyLab je za nas postal realna možnost leta 2013, ko smo opazili, da nastaja cela vrsta iniciativ, ki naslavljajo vprašanje digitalnega denarja. In mi, državljani, geeki, oblikovalci, umetniki lahko zdaj oblikujemo svoj denar. To je edinstveno, denar je bil doslej vedno v monopolnih rokah države. Nacionalna banka je izdala denar, nihče ni razmišljal o lokalnih valutah. Danes, po krizi iz leta 2008 in varčevalnih ukrepih, ki so stvari le še poslabšali, smo povzročili vzpon resnično groznega desnega populizma in nacionalizma. Veliko ljudi je želelo začeti reševati vprašanje oblikovanja denarja. In zdaj imamo orodje, ko to lahko storimo. To je prvi razlog za nastanek, drugi pa sega nekoliko bolj v preteklost in je odziv na oblikovanje tako imenovane brezplačne ekonomije. Gre za dominanten model Silicijeve doline, ki ga vsi poznamo. Ideja brezplačnosti pravi: storitev dobite brezplačno, če nam v zameno predate vse svoje podatke. Gre za družbeno pogodbo, ki smo jo vsi podpisali s Facebookom, Googlom in drugimi spletnimi storitvami. To povzroča številne težave, še posebej za ustvarjalce vsebin na spletu – ustvarjalce glasbe, avdia, videa, besedil in še bi lahko našteval, ki so izgubili vir dohodka. Orodja, o katerih razpravljamo v mreži MoneyLab, so zelo jasne alternative za rešitev tega problema. Eksperimentiramo z različnimi oblikami plačilnih modelov, saj menimo, da bi morali biti umetniki, ustvarjalci nagrajeni za svoje delo. Vse to se najverjetneje ne bo več dogajalo znotraj veljavnega modela avtorskih pravic. Vemo, da je model bankrotiral, ne deluje več, avtorji ne dobijo več denarja. Zato moramo razmišljati o drugih modelih. Pri MoneyLabu iščemo torej alternative, zelo nas denimo zanimajo različne izmenjave peer to peer oziroma medsebojne izmenjave.

Ste lahko bolj konkretni, katere medsebojne izmenjave imate v mislih?

Seveda. Tu so najprej kampanje množičnega financiranja. Gre za enostaven model, pri katerem najprej zbereš denar, šele nato ustvarjaš. Ne gre tako kot pri zdajšnjih plačilnih modelih. Na primer, Hollywood dobi plačilo potem. Filma ne plačamo vnaprej, temveč šele, ko se predvaja v kinematografih in si ga ogledamo. Potem imamo tu zelo star model, ki ga še vedno uporabljamo, z njim imamo vsi izkušnje, to je model naročnin. Celo Mark Zukerberg je pred senatom, nad tem sem bil presenečen, omenil naročnino. Ja, ta podjetja so zdaj pod velikim pritiskom, saj uporabniki želijo bolj pravičen model. Nikoli ne bi smeli pozabiti na model naročnine. Potem pa je tu še model mikroplačil. Izdelek ali storitev, denimo skladbo ali članek, plačamo z zelo nizkim zneskom, ki se avtomatsko prenese iz naše spletne denarnice v denarnico ustvarjalca. To je seveda najbolj napreden sistem in v tem sistemu bodo kriptovalute in tehnologija veriženja blokov igrale pomembno vlogo.

Kdaj pričakujete, da se bo po vašem mnenju lahko uveljavil sistem mikroplačil? Smo že tam?

Prosim, ne kupujte kriptovalut, če niste dobro organizirani, če se ne spoznate na te tehnologije. Res, ne vlagajte svojih prihrankov v kriptovalute. Kdaj se bo to zgodilo? Ne vem, recimo čez približno pet, deset let. Še vedno smo na začetku.

Za konec nameniva še nekaj besed mladim. Pravimo, da na njih svet stoji. Digitalni domorodci so, rokovanje s sodobnimi napravami je za njih nekaj vsakdanjega. Po eni strani nimajo zadržkov, ko gre za deljenje svojih osebnih podatkov, všečki, srčki, ogenjčki so novi statusni simboli, pa tudi močna valuta. Postati influencer oziroma vplivnež na družbenem mediju je za njih zanimiva karierna izbira. Po drugi strani pa so mladi, tudi prek družbenih omrežij, organizirali množične proteste proti nasilju s strelnim orožjem. Se kdaj sprašujete, kako se bodo mladi znašli v digitalizirani prihodnosti.

Že od samega začetka ukvarjanja z internetom se osredotočam na mlade. Moja generacija je nekje vmes, v resnici še nismo stari, mladi pa tudi nismo več. Računalnike in internet smo začeli uporabljati pri 20-ih, 30-ih letih. Zato od nekdaj spremljam, kaj se dogaja z mladimi. In pozornost digitalnih industrij je bila vedno usmerjena v mlade. Zdaj je dobra novica ta, da skoraj nihče od najstnikov ne uporablja Facebooka. Ja, res je, uporabljajo Instagram in WhatsApp, ki sta v lasti Facebooka. Ampak to je znak, da se navade lahko spremenijo in da je Facebook zelo dolgočasna storitev, ki ni ustvarjalna, ni igriva, ne privlači mladih. In to je koristno.

Govorila sva tudi o odvisnosti od spleta. Aplikacije so oblikovane tako, da zahtevajo našo pozornost in iz nas ustvarjajo odvisnike. Če na razvoj pogledamo iz tega zornega kota – se bodo mladi lahko obranili pred tem?

Ne, po mojem mnenju se ne bodo mogli. Razen če se bo oblikovalo zelo všečno, zelo privlačno gibanje v realnem svetu. Vendar tega še nisem zaznal, sem ga pa pričakoval. Zdaj so pobude zelo terapevtske narave, romantizirajo izpisanost iz spleta in spodbujajo digitalno razstrupljanje. Vendar njihov pogled vse nas obravnava kot paciente, bolnike. In zdaj je uradno, vsi smo bolniki, vsi smo zasvojeni. Če se osredotočimo na vse sofisticirane tehnike, s katerimi vplivajo na nas, in retoriko, ki jo imajo tehnologi Facebooka, ja, potem je stvar res zdravstvena, saj govorijo o vplivanju na naše možgane, nevrone in tako naprej. To so vse zelo resne zadeve. Kakor koli, sam nočem biti označen za bolnika. In tudi ne želim v vas videti bolnice. Vi niste bolni. Naj to povem zelo jasno. Morda veliko uporabljate telefon, čeprav ga nikjer ne vidim, tu ga ni. Ampak drug na drugega ne smemo gledati kot na bolnike. To zavračam, saj to ni pravi način za osvoboditev in oblikovanje alternativnih omrežij ali ekonomije, ki bi temeljila na medsebojnih izmenjavi.

In morda bo realnost dovolj?

Ja (nasmeh), to je zelo evropska ideja.


29.11.2023

Lidija Živčič: Velik problem je, da se o energetski dekadenci na politični ravni sploh ne pogovarjamo

Lidija Živčič je strokovna vodja pri organizaciji Focus - društvu za sonaraven razvoj, kjer se med drugim ukvarja z energetiko in vprašanjem energetske revščine. Raziskave kažejo, da se razlike med bogatimi in revnimi povečujejo, pri čemer ne gre več toliko za razlike med posameznimi državami, ampak za razlike med sloji znotraj držav. Na podlagi javno objavljenih podatkov je, denimo, časnik Guardian nedavno objavil analizo, po kateri so bila zasebna letala 200 milijarderjev od začetka leta 2022 do danes v zraku skupno kar 11 let, njihov ogljični odtis pa je enak odtisu skoraj 40.000 Britancev. Lidija Živčič to imenuje energetska dekadenca. »Z energijo ravnamo zelo razvratno. Velik problem je, da se o energetski dekadenci na politični ravni sploh ne pogovarjamo. To je nekakšna tabu tema, nedostopno področje, ki se ga ne smemo dotikati, kajti tukaj gre za neke svoboščine ljudi, ki jih ne smemo omejevati. Takšna je vsaj retorika oziroma pojmovanje v naši družbi. Vendar se bojim, da bomo morali temu tabuju narediti konec, kajti da nas bo večina gledala, kako manjšina veselo leti, medtem ko si mi v bistvu niti ne upamo iti na obisk k neki bolj oddaljeni družini in videti ljudi, ki jih imamo zelo radi - tega žal ne bomo trpeli.« Evropska komisija je sredi novembra projektu, ki ga koordinira Focus, podelila nagrado za družbeno inovacijo leta 2023. Gre za tako imenovana skupnostna srečanja. »Gre za obliko srečanj, na katerih se v rednih intervalih, na primer enkrat na dva tedna, zbere skupina ljudi, ki jih je prizadela energetska revščina. Ideja skupinskega naslavljanja, da ljudje drug drugemu pomagajo prebroditi težave energetske revščine. Na primer, če je nekdo zamenjal dražjega dobavitelja s cenejšim, lahko to svojo izkušnjo deli z drugimi skupini in s tem pomaga tudi drugim. Če ima nekdo nakopičene dolgove in je uspel s podjetjem ali ob pomoči Zveze prijateljev mladine narediti načrt za odplačevanje dolga, lahko tudi to izkušnjo deli z drugimi. Skratka, med ljudmi želimo narediti neke mreže, ki bi jih opolnomočile, delile pridobljena znanja in izkušnje in ki bi skušale destigmatrizirati eneregetsko revščino. Kajti ne gre za to, da je nekdo osebno kriv in odgovoren, ampak gre pogosto za sistemske napake, ki jih moramo sistemsko nasloviti.«


22.11.2023

dr. Uroš Ahčan: »Največji junaki v medicini so pacienti!«

Uroš Ahčan je dr. medicine, specialist plastične rekonstruktivne in estetske kirurgije, tudi profesor na Medicinski fakulteti Univerze v Ljubljani. Pred nekaj leti je presenetil medicinski svet, ko mu je z ekipo uspelo z uporabo 3D-tehnologije na podlakti pacientke izdelati nos in ga potem uspešno prenesti na obraz. Je avtor več knjig, tudi strokovnih člankov. Operira doma in v tujini. Je iskren v pogledih in razmišljanjih, tudi kritičen do sveta okoli sebe. V novi knjigi Skalpel opisuje svoje življenje in delo, uspehe in neuspehe, razmišlja o svojem poklicu in o medicini nasploh. »V moji knjigi so junaki pacienti,« poudarja.


08.11.2023

Franc Gomboc: Gasilsko tovarištvo ne pozna meja

96-letni Franc Gomboc iz Murskih Črncev v občini Tišina je opazno zaznamoval tako pomursko kot slovensko gasilstvo. Prav tako opazne sledi je zapustil tudi v slovenskem gasilskem zgodovinopisju, sicer pa je bil in častni regijski poveljnik ter častni občan, še vedno je zelo dejaven na različnih področjih družbenega življenja. Do nedavnega je delal tudi v domačem vinogradu in gozdu, kot pravi, pa v življenju obžaluje samo to, da ni več časa namenil svoji družini. Zelo je ponosen na svoje gasilske tovariše, ki so danes tako kot nekdaj ljudem vedno pripravljeni pomagati.


01.11.2023

Pater Karel Gržan: Hvala vsakemu izmed vas, da ste

V tokratnem Intervjuju gostimo Karla Gržana. Duhovnika, pisatelja, magistra teologije, doktorja literarnih ved in redovnika kapucinov, enega najbolj priljubljenih, predvsem pa najbolj pronicljivih mislecev, raziskovalcev in človekoljubov našega prostora. S patrom Karlom Gržanom se je pogovarjala Liana Buršič, tokrat o spoznavni moči tišine, o zdravilnosti žalovanja, pomenu in izgubljanju ritualnosti, globoki razklanosti našega časa in veri v človekovo prebujenje iz površnih zaznavnosti.


25.10.2023

Ervin Fritz: s šansonom nad trivialnost zabavne glasbe

Pred sobotnim finalom Festivala slovenskega šansona v Rogaški Slatini se nam v pogovoru pridruži dramaturg in pesnik Ervin Fritz, čigar verzi so se neločljivo prepletli s pojmom slovenskega šansona. Uglasbljali so jih skladatelji, še posebno Bojan Adamič in Urban Koder, zazveneli so z vokali Meri Avsenak, Vite Mavrič, Lada Leskovarja in zasedbe Same babe. Avtor preštevilnih pesmi, polnih humorja in nezgrešljivih bodic, je v osemdesetih letih sooblikoval Festival jugoslovanskega šansona v Rogaški Slatini. V njegovi družbi se ozremo na pot, ki jo je do danes prehodil slovenski šanson.


18.10.2023

Rok Fazarinc: Plavje in plavine ob poplavah naredijo več škode kot sam povečan pretok vode.

Slovenija spada po skupni količini rečne vode na prebivalca med najbogatejše v Evropi. Vodo srečujemo povsod v naravi, in to kdaj pa kdaj občutimo tudi sami. Svojo moč je pokazala pred kratkim v sicer najbolj sušnem mesecu koledarskega leta. Hidrologi se ukvarjajo z ugotavljanjem razpoložljivih vodnih virov, njihovo kakovostjo ter vplivi na živo in neživo naravo. Hkrati določajo temeljne velikosti pri graditvi hidrotehničnih objektov in upravljanju voda. Pri poplavah določajo obseg in verjetnost tega pojava. Med njimi je tudi Rok Fazarinc, gradbeni inženir, ki je prejemnik različnih nagrad Inženirske zbornice Slovenije. Hidrotehnik že več desetletij sodeluje pri številnih projektih protipoplavne varnosti pri vodotokih. Je tudi član sveta za obnovo po avgustovski ujmi. Kjer se zatika in kje je opazen sanacijski napredek? Kateri deli naše države so sicer najbolj poplavno ogroženi?


11.10.2023

Robert Šumi: Za razvite družbe je značilno takojšnje sprejemanje politične odgovornosti

Dr. Robert Šumi, predsednik Komisije za preprečevanje korupcije (KPK), je doktor znanosti s področja poslovne etike. Vodenje protikorupcijske komisije je prevzel v nehvaležnem času, leta 2020, ko je bil ugled komisije zaradi krize vodenja in notranjih sporov predhodnega vodstva na preizkušnji. Svojo poklicno pot je začel kot policist in pozneje kriminalist na Policijski upravi Kranj, od leta 2007 pa je bil zaposlen na Generalni policijski upravi, kjer je med drugim v obdobju 2008–2010 vodil delovno skupino za krepitev integritete policistov na nivoju celotne policije. V pogovoru se bomo dotaknili odnosa politike do vprašanj, povezanih z integriteto in preprečevanjem korupcije ter kakšna je sploh zaznava korupcije v slovenski družbi. Kaj je treba izboljšati in kje sogovornik vidi izzive za prihodnje rodove na področju integritete in preprečevanja korupcije?


04.10.2023

Robert Carotta: "Ni pomembno, kje bo gorenjska bolnišnica, ampak kdaj. Upam, da kmalu."

Robert Carotta, zdravnik kirurg, vodja urgence v splošni bolnišnici Jesenice, je tudi svetovalec poveljnika poveljstva sil pri Slovenski vojski. Po avgustovskih katastrofalnih poplavah je bil kot uniformirani zdravnik štiri dni v Črni na Koroškem, tudi ob množični zastrupitvi z ogljikovim monoksidom. Takrat je bilo odločilno usklajeno sodelovanje vojske in koroških reševalnih služb: zdravstva, gorskih reševalcev ter vseh preostalih. Med obsežnim izbruhom covida je bil koordinator za posteljne kapacitete, saj je primanjkovalo postelj za namestitve pacientov. To je bil nepredvidljiv čas za vse, nova izkušnja za zdravstveni sistem, pa tudi zanj osebno. Politika ga ni nikoli zanimala, v začasnem prehajanju zdravnikov v politiko in vračanju v zdravniške vrste pa ne vidi ničesar slabega. Foto: arhiv Splošne bolnišnice Jesenice


26.09.2023

Dr. Robert Oravecz: Psihoterapija je samostojna stroka

Dr. Robert Oravecz je psihiater z doktoratom iz psihologije. Naziv specialista psihoterapije je pridobil na Madžarskem. Od leta 2007 predava na treh zasebnih fakultetah, zadnja leta kot docent. Kot psihiater je zaposlen v psihiatrični bolnišnici Ormož, je pa tudi ustanovitelj Centra za osebnostno rast in razvoj. Skupaj s svojim strokovnim terapevtskim timom se ukvarja z zdravljenjem zgodnjih travm s psihoterapijo v okviru dnevne bolnišnice v prostorih Inštituta za socialno psihiatrijo in psihotravmatologijo. Z dr. Robertom Oraveczem, ki je v Slovenijo prišel konec 80tih let kot vojvodinski Madžar, se bo v sredinem intervjuju pogovarjala Cirila Štuber.


20.09.2023

Poplave naplavile veliko junakov, tudi prvega med koroškimi gasilci Matjaža Gorenška

Avgustovske poplave so pisale tudi nesebične zgodbe, zgodbe srčnih in predanih mož, ki so bili na terenu zaradi ljudi. Eden izmed teh je tudi poklicni gasilec Matjaž Gorenšek, ki se je 6. avgusta zvečer, ko so se podivjane vode nekoliko umirile, skupaj z devetimi stanovskimi kolegi odpravil v razdejano Črno na Koroškem in vzpostavil intervencijski štab. Ta je pod njegovim vodstvom usklajeval odpravo posledic poplav, pri tem pa tako kot številni drugi žrtvoval druženje in dopust z družino, da bi pomagal prizadetim v naravni nesreči. Matjaža Gorenška, poveljnika koroške gasilske regije, ki si je gasilsko kilometrino nabiral v domačem Prostovoljnem gasilskem društvu Kotlje, pobliže spoznate v sredinem Intervjuju na Prvem.


13.09.2023

Prof. Nicolaas Bohnen: Alzheimerjevo bolezen vidim bolj kot motnjo življenjskega sloga, ne nesrečno usodo zaradi biologije

September, svetovni mesec Alzheimerjeve bolezni, letos poteka z geslom Nikoli prezgodaj, nikoli prepozno, pri tem pa poudarja dejavno vedenje in življenjski slog, ki zmanjšata tveganje za demenco. Tudi o tem se bomo v oddaji Intervju pogovarjali s prof. dr. Nicolaasom Bohnenom, uglednim nevroznanstvenikom in nevrologom z Univerze v Michiganu, ki se na svoji raziskovalni poti zlasti posveča Parkinsonovi bolezni, Alzheimerjevi bolezni in obliki demence, o kateri manjkrat govorimo – demenci z Lewyjevimi telesci. Kakšni so najnovejša spoznanja, diagnostika, možnosti zdravljenja, kako sodeluje z ekipo v Sloveniji, pa tudi kaj ima z nevrodegenerativnimi boleznimi naš način življenja? O tem se je s prof. dr. Nicolaasom Bohnenom pogovarjala Mojca Delač.


06.09.2023

Marinka Žitnik, Harvard: Veliki jezikovni modeli spreminjajo razumevanje biologije, medicine

Dr. Marinka Žitnik na Univerzi Harvard razvija modele generativne umetne inteligence, specifično namenjene uporabi v medicini. Pri tem sodeluje z vrsto vodilnih inštitucij in podjetij. Delovanje vsem dobro znanega ChatGPT-ja je lahko preverila že mesece prej, preden je zanj prvič slišala širša javnost. Tudi njo so presenetili njegovi odgovori. A razvoj novih, še mnogo zmogljivejših modelov je v polnem pogonu in z njimi se v temelju spreminjajo tako znanost in raziskovanje kot tudi vsakovrstne človeške dejavnosti. Kako danes poteka razvoj modelov generativne umetne inteligence, kje se že uvajajo, kako je z varnostjo podatkov in raznovrstnimi tveganji ter kako bodo v prihodnje načrtovali nova zdravila in najboljše možnosti zdravljenja, je le nekaj vidikov, ki jih prinaša Intervju. Strokovnjakinja za umetno inteligenco dr. Marinka Žitnik je docentka na Harvard Medical School, kjer na oddelku za biomedicinsko informatiko vodi svoj laboratorij za umetno inteligenco v medicini in znanosti.


30.08.2023

Dr. Mojca Zvezdana Dernovšek: "Vse, kar ljudje občutijo v teh kritičnih situacijah, je normalno."

Dr. Mojca Zvezdana Dernovšek je psihiatrinja, redna profesorica na Medicinski fakulteti v Ljubljani, zdaj pa zaposlena na Ministrstvu za zdravje, kjer koordinira mobilne ekipe, ki priskrbijo psihosocialno pomoč ljudem na poplavnih območjih. V oddaji boste slišali tudi o duševnih stiskah prizadetih v poplavah, o tem, kje naj poiščejo pomoč, o stiskah otrok in tudi o sistemski stigmi na področju psihosocialnega varstva v Sloveniji. Dr. Mojco Zvezdano Dernovšek je pred mikrofon sredinega intervjuja povabila voditeljica oddaje Tita Mayer. Foto: Žiga Živulović jr./Bobo


23.08.2023

Ana Žerjal, predsednica Rdečega križa Slovenije: Trenutno ljudje potrebujejo finančno in psihosocialno pomoč

Tokrat se bomo z gostjo Intervjuja pogovarjali na terenu, in sicer v Zdravilišču Rdečega križa Slovenije Debeli rtič. To je bil njen drugi dom kar nekaj let, saj je letovišče vodila 11 let, pred tem je delala v zasebnem sektorju, kjer si je leta 2007 pridobila tudi naziv menedžerka leta 2007 v turizmu. Magistrica Ana Žerjal se je v začetku tega leta upokojila, nato pa konec junija postala nova predsednica Rdečega križa Slovenije. Čeprav to častno funkcijo opravlja šele dva meseca, je morala našo največjo humanitarno organizacijo voditi v kriznih časih. Vodna ujma, ki je razdejala cela območja in številnim vzela vse, kar so si ustvarili, je namreč pokazala, kako pomembne so v kriznih razmerah humanitarne organizacije.


16.08.2023

Franci Petek, poveljnik Gasilske zveze Slovenije: "Intervencija zaradi poplav še traja."

Dogajanje v Sloveniji v zadnjem tednu je znova pokazalo, da imamo enega najboljših sistemov zaščite in reševanja v Evropi. Hkrati pa drži tudi to, da ta temelji na prostovoljnem delu in množičnosti, ki pa ni samoumevna – v večjih mestih je za prostovoljno delo med gasilci manj zanimanja, kot ga je bilo nekoč. Gost intervjuja na Prvem je poveljnik Gasilske zveze Slovenije Franci Petek, ki bo osvetlil tudi razsežnosti gasilskega dela med letošnjimi katastrofalnimi poplavami in vizijo dela prostovoljnih gasilk in gasilcev v prihodnosti. Z njim se bo pogovarjal Jure K. Čokl.


09.08.2023

Georg Gedl: "Začetne skice avtomobilov še vedno nastajajo na papirju."

Že kot otrok je bil navdušen nad vlaki in avtomobili, predvsem nad njihovo obliko. Čeprav se ni šolal za oblikovalca, ampak je po izobrazbi gradbenik, so ga kot avtomobilskega oblikovalca že pri njegovih 25-ih zaposlili v podjetju Audi, sledila je sanjska služba v BMW-ju, nato pa je za slovenska podjetja IMV, TAM in Adria Mobil oblikoval vsem dobro znane počitniške prikolice, avtodome in turistične avtobuse … Georg Gedl, legenda slovenskega oblikovanja, pa tudi predavatelj, mentor, novinar in zbiratelj, je kljub svojim skoraj osmim križem še vedno zelo dejaven. O njegovi karierni poti, konjičkih in oblikovanju vozil nasploh se je z Georgom Gedlom pogovarjala Andreja Čokl.


02.08.2023

Sandi Curk: »Nimamo vse tehnike, imamo pa ljudi!«

Za Sandija Curka, regijskega poveljnika Civilne zaščite za Notranjsko, je skrb za skupnost življenjsko poslanstvo. Je človek, ki je že kot najstnik pomagal vrstnikom, človek, ki je s svojo predanostjo in človekoljubnostjo številnim, tudi otrokom iz Ukrajine, tlakoval pot v lepšo prihodnost. Požrtvovalnost do ljudi, do sočloveka, je pokazal tudi med vojno Bosni in Hercegovini, žledolomom na Postojnskem, pa tudi ob neurjih, ki to poletje divjajo tudi pri nas. V studio Prvega programa Radia Slovenija je prispel iz Ilirske Bistrice, kjer je po pustošenju tornada preživel vso noč.


26.07.2023

Franjo Bobinac: V Mariboru lahko te dni spremljamo bodoče olimpijske šampione

V tokratnem intervjuju bo z nami Franjo Bobinac, gospodarstvenik, mendžer, navdušen športnik in že pol leta tudi predsednik slovenske športne krovne organizacije. Ta hip je najbolj vpet v največji večpanožni športni dogodek v zgodovini naše države, ki poteka v Mariboru. O olimpijskem festivalu evropske mladine pravi, da je dobro pripravljen, hkrati pa s svojo ekipo že načrtuje sodelovanja naše države na olimpijskih igrah v Parizu, ki bodo prihodnje leto. Kako se bo naša država predstavila na največjem svetovnem športnem dogodku? Kakšni so prvi vtisi o predsedovanju slovenski športni krovni organizaciji in kakšen je odnos države do slovenskega športa? Kakšno je njegovo stališče do prodaje Športne loterije najboljšim ponudnikom? S predsednikom Olimpijskega komiteja Slovenije se bo pogovarjal Marko Rozman.


12.07.2023

Mateja Korošec: Pri dolgotrajni rehabilitaciji oseb s pridobljeno možgansko poškodbo varujemo njihovo osebno dostojanstvo, zelo pomembno pa je zaupanje v terapevta

Mateja Korošec, profesorica defektologije, Center Korak v Kranju vodi že dvajset let. V teh letih je bilo v program dolgotrajne rehabilitacije vključenih 94 ljudi s pridobljeno možgansko poškodbo. Dolgotrajna rehabilitacija in vračanje posameznikov v samostojnost sta dolgoročen projekt, ki bi moral zanimati državo. Žal pa so v Sloveniji le trije samostojni centri in trije oddelki. Dobršen del Slovenije je tako še vedno siva lisa. V Centru Korak s trajnostnim modelom rehabilitacije zaposleni sledijo novostim in sodobnim smernicam na področju rehabilitacije. Njihovo strokovno delo dopolnjujejo številni prostovoljci ter klub En korak več. Ta tudi s podporo svojcev utrjuje prepoznavnost Centra Korak ter njihova prizadevanja za uspešno rehabilitacijo uporabnikov na Gorenjskem.


28.06.2023

Andrej Gradišnik, najstarejši Slovenec, ki je stal na vrhu sveta

Andrej Gradišnik je s skoraj šestdesetimi leti letos maja postal najstarejši Slovenec, ki je stal na samem vrhu sveta. Sicer izkušen alpinist, ki je že prej stal na osemtisočaku, je v gorah doživel marsikaj. Prihranjene mu niso bile niti tragedije, ki jim je bil priča, a ga to od gora ni nikoli odvrnilo. Ob vseh preplezanih stenah pa je imela prednost zmeraj družina, za njim pa je tudi spoštovanja vredna poslovna pot. Kako so ga zaznamovali vsi njegovi življenjski vrhovi in kolikokrat je moral odnehati, da je lahko nekoč dosegel vrh, bo Andrej Gradišnik povedal v oddaji Intervju na Prvem.


Stran 1 od 44
Prijavite se na e-novice

Prijavite se na e-novice

Neveljaven email naslov