Znanost in tehnologija
Dron
Stroka svari pred zlorabo razvoj avtonomnega orožja. Foto: EPA
Elon Musk
Soustanovitelj Tesle Elon Musk je že večkrat poudaril, da je potrebna proaktivna regulacija umetne inteligence, ki jo sam označuje kot največjo nevarnost človeštvu. Foto: EPA

Dodaj v

Strokovnjaki pozivajo k prepovedi ubijalskih robotov

Pobudo je podpisalo 116 strokovnjakov iz 26 držav
21. avgust 2017 ob 10:44
New York - MMC RTV SLO, STA

116 vodilnih strokovnjakov na področju robotike in umetne inteligence je v odprtem pismu Združene narode pozvalo, naj preprečijo razvoj t. i. ubijalskih robotov. Ob tem svarijo pred tretjo revolucijo v bojevanju, razvoj smrtonosne avtonomne tehnologije pa označujejo kot Pandorino skrinjico.

"Ko bo enkrat umetna inteligenca na področju orožja razvita, bo omogočala boje v večjih razsežnostih kot kadar koli prej in hitreje, kot lahko ljudje dojemajo," so zapisali v pismu. "To je lahko orožje terorja, orožje, ki ga lahko samodržci in teroristi uporabijo zoper nedolžno prebivalstvo, in orožje, ki se ga lahko zmanipulira, da se uporablja na neželene načine."

Ob tem je v pismu poudarjena časovna komponenta: strokovnjaki so namreč prepričani, da "nimamo več veliko časa za ukrepanje."

"Ko bo enkrat ta Pandorina skrinjica odprta, jo bo težko zapreti," so zapisali strokovnjaki, ki pozivajo Združene narode, da "moralno napačno" tehnologijo dodajo na seznam prepovedanega orožja Konvencije o konvencionalnih orožjih.

Med podpisanimi strokovnjaki iz 26 držav sta tudi soustanovitelj Tesle Elon Musk in soustanovitelj Googlovega DeppMinda Mustafa Suleyman.

Pismo so strokovnjaki poslali ob odprtju mednarodne konference o umetni inteligenci v Melbournu, poroča Guardian. Za danes je bilo sicer predvideno tudi srečanje strokovnjakov ZN-ove skupine za avtonomno orožje, a so ga preložili na november. O prepovedi razvoja tehnologije ubijalskih robotov je razpravljalo že več odborov ZN-a. Leta 2015 je več kot 1.000 strokovnjakov, znanstvenikov in raziskovalcev, med njimi Stephen Hawking, soustanovitelj Appla Steve Wozniak in Musk, v pismu zapisalo, kakšne so nevarnosti avtonomnega orožja, kamor spadajo brezpilotni letalniki, robotizirane puške in tanki.

Kot pravi profesor za umetno inteligenco na univerzi v Novem Južnem Walesu v Sydneyju Toby Walsh, je mogoče skoraj vsako tehnologijo uporabiti v dobre ali slabe namene in umetna inteligenca pri tem ni izjema. "Lahko pomaga ljudem pri spopadanju z različnimi težavami, s katerimi se danes sooča družba, od neenakosti in revščine, do izzivov, ki jih prinašajo podnebne spremembe, do trenutnih globalnih finančnih kriz. Toda ista tehnologija je lahko uporabljena tudi kot avtonomno orožje pri industrializaciji vojne. Danes se moramo odločiti, kakšno prihodnost želimo."

K. T.
Prijavi napako
Komentarji
Wolfy
# 21.08.2017 ob 11:01
@Lion007 Raje naj prepovejo voznjo ljudem, ki tega niso sposobni (takih je vecina)
KLIPAN
# 21.08.2017 ob 11:15
2x ugibajte kdo bo proti prepovedi.
Yanez
# 21.08.2017 ob 11:37
Če bi se nekoč na obeh straneh 'fronte' bojevala med sabo samo umetna inteligenca, nimam nič proti. Naj se stolčejo...
Ker pa se bodo bojevali predvsem proti (nemočnim) ljudem, pa je vnaprej znan rezultat.
Zato sem za prepoved izdelave ubijalskih robotov!
rubin
# 21.08.2017 ob 11:04
Droni so že zelo okretni. Eno brzostrelko gor ni problem montirat...
Prismuknjen
# 21.08.2017 ob 11:27
A ni Nobelovec s temi droni nekaj pobijal?
hexen
# 21.08.2017 ob 11:31
Prosti trg se sam regulira. Potem ko vsi umrejo, napake ne ponovijo več.
gozdar1
# 21.08.2017 ob 11:30
Asimov se v grobu obrača.
luckyss
# 21.08.2017 ob 11:24
Ne vem...trenutno nam največ problemov povzroča kuhinjsko orodje in prevozna sredstva...
Nikec3
# 21.08.2017 ob 11:18
@Lion007 Raje naj prepovejo voznjo ljudem, ki tega niso sposobni (takih je vecina)


In zakaj potem ne vrneš izpita? Ali si prepričan, da si sam dovolj sposoben? Tako kot 99% ostalih, ki menijo da večina ne zna vozit?
Krimsky
# 21.08.2017 ob 11:37
Fantje (in najbrž vmes še kakšna dama, za vzorec) so seveda dobronamerni ...
~
... kar pa žal ne zadošča.

Vojnam še v trenutnih razmerah (še) ne smemo odpovedati, in ubijalski droni so zgolj priročno sredstvo, da se izognemo žrtvam 'naših' vojakov.

Podrobneje: Nezaželeni mir, MK, Lj., 1969.
zozozo
# 21.08.2017 ob 12:33
Eni ste malo zamešali. Tukaj ne gre za drone, kot obstajajo danes, ampak za robote, ki se bodo samostojno odločali, koga ubiti.
Nikec3
# 21.08.2017 ob 11:48
Dejstvo je da bo vsako clovesko opravilo, ki ga lahko racunalnik posnema ta opravil veliko boljse in bolj zanesljivo. Raje se vozim med avti, ki jih vozijo racunalniki, kot med avti ki jih vozijo ljudje brez sposobnosti vzdrzevanja pozornosti.

Se povsem strinjam.
Wolfy
# 21.08.2017 ob 11:28
@Nikec3 Za razliko od vecine ljudi moje generacije (in tudi nekoliko starejsih generacij) med voznjo ne gledam v telefon, ne vozim pijan, itd.
Dejstvo je da bo vsako clovesko opravilo, ki ga lahko racunalnik posnema ta opravil veliko boljse in bolj zanesljivo. Raje se vozim med avti, ki jih vozijo racunalniki, kot med avti ki jih vozijo ljudje brez sposobnosti vzdrzevanja pozornosti.
mkv
# 21.08.2017 ob 11:14
Umetna inteligenca bo z razvojem vedno bolj učinkovita; to v primeru orožja ni dobro za človeštvo, v primeru samovozečih vozil pa je vsekakor bolj varno za udeležence v prometu (pri tem pa sam na vožnjo avtov gledam bolj nostalgično in glede na smer razvoja bolj vse bolj arhaično).
izo
# 21.08.2017 ob 11:46
to berite v smislu, da tehnologija ostane ekskluzivna za zda vojsko, nič drugega. kakorje bilo tudi za ostale zadeve..
Sklonjen
# 21.08.2017 ob 10:53
Prepozno, vlak je odpeljal!
pikam_dopust
# 21.08.2017 ob 15:16
Pisanje o katastrofičnih scenarijih pa največ pove o tem, kako se pisec takih katastrofičnih scenarijev sam počuti, ne pa o tem, kaj misli javnost, ki je sestavljena iz večine zdravih optimističnih posameznikov/posameznic

Torej si ti prosil admine, da zbrišejo moj post?
Ccccccc.....

Glej, če ti živiš v rožicah (kemično sintetiziranih ali pravih), živi lepo še naprej.
Enako kot ti misliš, da sem jaz nor, si v mojih očeh tudi ti nor.
S to razliko, da jaz nimam "paranoične potrebe" po brisanju vseh tistih, ki ne trobijo v moj rog.

Kar vse pove o tem, zakaj bodo te "robotične igračke" ostale na tem svetu: ker se bo vedno našel nekdo, ki čuti "noro potrebo" po tem, da vse tiste, ki niso na njegovi strani, pospravi na drugi svet.

Sicer ne dvomim v to, da ti misliš "kako je vse lepo" in "kako prostran je svet", ampak natrpana begunska taborišča na severu Afrike dokazujejo, da ta svet ni ravno pretirano enakomerno porazdeljen z lepim življenjem. Moderna tehnologija (za razliko od dogajanj v srednjem veku) pa omogoča v "real time-u", da celo v najbolj blatni afriški luknji ljudje vedo, kako je živeti tam, kako pa npr. na Dunaju.

PS Podnapisi za ostale: v postu je bilo preprosto pojasnjeno biološko dejstvo, zakaj človek čuti potrebo po orožju in vojskovanju, ter navezava na prenaseljenost in omejenost virov. In da bo to robotsko orožje prej ali slej "zbezljalo", ker pač drugače ne more biti. Saj vedno obstajajo posamezniki, ki bodo v razvoju tega orožja čutili neko osebno korist (napredovanje, bogastvo itd). Kaj meni "velika večina ostalih", je tu nepomembno - kot je že danes povsem nepomembno, kaj misli velika večina globalnih revežev, ki živijo v Afriki, v Aziji itd. Pa nekak sem tudi opozoril, da je velika napaka, da ljudje mislijo, da za človeka biološki zakoni ne veljajo. In da nekak zemlja lahko preživi tudi brez človeka (kot je živela že milijarde prej, preden se je človek pojavil).

Verjetno bi bilo bolje, če bi napisal nekaj o domobrancih in partizanih (pa Kučanu in JJ), z mešanico primitivnih vaških groženj in kletvic, ker potem se me pa ne bi brisalo. Go figure...
Mirko Tipka
# 21.08.2017 ob 14:55
vsi vemo, kam to gre.... cel svet bo imel prepoved, nekatere "izbrane" države pa bodo razvijale naprej
zapatist
# 21.08.2017 ob 13:01
Komentar v katerem sem zapisal, da je eden od problemov takih robotov, ker nimajo čustev, kar pomeni da bi lahko bili boljši od psihopatskih vojakov, saj ne bi ubijali iz uzitka, bili pa lahko slabši od navadnih, ker ne bi poznali usmiljenja

je bil zbrisan?
oliva
# 21.08.2017 ob 12:27
Za pravo stvar ni nikoli prepozno.
Kot je nekdo napisal, ubijanje je itak že prepovedano.

Vsaj da se da nek pomen temu, neka teža, da sploh JE nek poziv, čeprav najbrž res prepozen.
Da niso vsi tiho in sam gledajo, gledamo. Normalno da ima beseda strokovnjakov večjo težo.
oziris.va
# 21.08.2017 ob 12:12
Vojna je vedno profit (tako na začetku, kot na sredini, kot tudi po koncu). Profit = denar.
Kar pomeni, da je denar v ubijanju/uničevanju ter "ponovni izgradnji", bo to zelo težko ustavit.

Ubijalski roboti pa niso nič drugega, kot novo sredstvo v roki kapitala za dosego ciljev za še večji profit.
Haloo
# 21.08.2017 ob 14:00
*zapatist - te strani urejajo neki neurejeni osebki, polni strahov pred svojimi političnimi plačniki. Brišejo vse kar ne ustreza šefom, največkrat niti ne vedo kaj ustreza in brišejo kar povprek. Štejejo pa klike in evrčke!
Yanez
# 21.08.2017 ob 12:47
Za obsodbo na nivoju ZN ni nikoli prepozno, dokler še tlačimo zemljico. Tudi v prvi svetovni vojni so se množično zaplinjevali v rovih (še zmagoviti preboj na soški fronti pri Kobaridu se je začel ponoči s klorom) pa so kasneje dokaj uspešno vojskovanje s strupenimi plini le omejili. Tudi z droni bi lahko bilo podobno. Mora pa preiti v našo zavest, da tovrstno vojskovanje ni sprejemljivo in da ga sleherna družba obsoja. Tudi Yenkiji, če bodo ostali sami na svoji strani, se bodo zamislili...
pikam_dopust
# 21.08.2017 ob 15:30
Komentar v katerem sem zapisal, da je eden od problemov takih robotov, ker nimajo čustev, kar pomeni da bi lahko bili boljši od psihopatskih vojakov, saj ne bi ubijali iz uzitka, bili pa lahko slabši od navadnih, ker ne bi poznali usmiljenja

je bil zbrisan?


Tvoj tudi?
Zanimivo.

BTW Se strinjam s tem, kar je povedano. Problem je, če v algoritem dobijo potrebo po samoohranitvi. Ker potem je pa samo vprašanje časa, kdaj bo človek (vključno so kuharico, ki jim potencialno lahko izklopi elektriko) njihov sovražnik št. 1.
Franc 1952
# 21.08.2017 ob 14:32
Torej, če je moja pešajoča pamet razumela, bodo tašče ukinjene? Končno!:)
DelinquentHabits
# 21.08.2017 ob 14:09
Dron ima z robotom toliko skupnega kot čajna žlička z bagrom
oziris.va
# 21.08.2017 ob 12:23
rubin
# 21.08.2017 ob 11:04

Droni so že zelo okretni. Eno brzostrelko gor ni problem montirat...


Samsungov militaristični oddelek (eno od teh je Techwin) ima kar nekaj stvari že razvijot in tudi ves čas v razvoju, meni osebno so zanimivi njihovi avtomatizirani topovi:



Tu pa je en zanimiv video, ko poskušajo ljudje ustreliti letečega drona z različnimi avtomatskimi orožji (klik sem).
sam-zee
# 21.08.2017 ob 12:07
Tudi sam mislim da je tole prišlo prepozno.
izo
# 21.08.2017 ob 15:27
Tudi sam mislim da je tole prišlo prepozno.

miuslim, da bi treba še marsikaj poleg drona z puško prepovedat, ampak očitno vas drugo ne moti..
pikam_dopust
# 21.08.2017 ob 15:23
vsi vemo, kam to gre.... cel svet bo imel prepoved, nekatere "izbrane" države pa bodo razvijale naprej

Šlo bo tako, kot je napovedal že Hawking (me zanima, če me bo spet kdo hotel izbrisati, četudi se sklicujem na najbolj slavnega astrofizika): roboti bodo začeli razmišljati s svojo glavo in bodo pač poskrbeli, da nas ne bo več. Ker nas ne potrebujejo, pač pa jih samo oviramo. Pred mesecem je bil primer, kako je FB uničil dva robota, ko sta ta začela uporabljati svoj jezik, ki sta ga sama razvila, ker pač zanju človeška govorica ni bila dovolj učinkovita, da bi se jima splačalo s tem ukvarjati.

In tako gre to naprej in naprej in naprej... Stvar ima svojo lastno pamet.... To je bistvo zadeve.... In to že danes obstaja... V zasebnem sektorju (kapital, ponudba-povpraševanje, denar, pohlep...).... V vladnem pa bog vedi, kaj vse je, sigurno pa orožje....
Celine
# 21.08.2017 ob 13:05
Željudin vas pozdravlja.
tocco
# 21.08.2017 ob 13:01
Pa ne samo kalašnuk tudi rhein metal ima
tocco
# 21.08.2017 ob 13:00
Kalašnik je že predstavil novo avtonomno orožje
Haloo
# 21.08.2017 ob 12:49
Sodobni ubijalci so zrastli ob računalniških igricah.
Zaželeli so si ubijanja v živo.
To so navdušeno sprejeli tudi njihovi potomci, ki idejo uresničujejo, varno in od daleč!
Glej bližnji vzhod
mb128
# 21.08.2017 ob 12:01
Jep strokovnjaki pozivajo..... Mislim kaj pa svet more američanom, kitajcem, rusom četudi ta poziv sprejme ZN če se bodo te države na vseskupaj preprosto požvižgale?!
Mislim prenehajmo si že enkrat prat slabo vest, prenehajmo že enkrat verovati v neko utopijo, v tem primeru ZN, česar ni oz. ne izpoljnjuje funkcije, ki mu je dodeljena in se sprijaznimo z preprostim dejstvom da je človek, vsaj v veliki večini primerov, takšen kot je od prve kocine na glavi do poslednjega nohta na nogi in to že vsaj od kamene dobe naprej! Sicer pa je ta poziv en velik nonsens že kar per se! Le kako lahko od ubijalca sploh pričakuješ, da ne bo ustuaril ubijalca?! Razlika je samo v tem, da ga je nekdaj vzgojil danes pa ga bo pač naredil oz. sestavil. Po svoji podobi seveda.
Za na konec pa vprašanje vseh vprašanj vsaj zame. Kaj ta članek dela pod rubriko ZIT?!
paraBellum
# 08.09.2017 ob 11:44
Lion007

# 21.08.2017 ob 10:54
Prijavi neprimerno vsebino Pri samovozečih avtomobilih bo še veliko nedolžnih smrtnih žrtev. Študije to dokazujejo. Samo poglejte Teslo lansko leto, ko so sončni žarki zafrknili kamere.


Katere študije, lahko citiraš?
strojko
# 31.08.2017 ob 14:40
po drugi svetovni vojni je enako pozival Einstein in drugi znastveniki ki so delali na cepljenju atomov, vedeli so kam to pelje, rezulat je bil da imajo atomsko orožje zdaj zgolj velesile

povsem enako bo z ubijalskimi roboti, ZDA pozivajo UN naj jih prepove, da jih bodo lahko uporabljale samo ZDA

jaz pravim razvijajte jih kar v domači garaži, se boste leta 2100 lažje branili pred invazijo ameriških ubijalskih robotov ki bodo zavojevali Slovenijo zaradi zalog zelo kvalitetne pitne vode
ancient
# 22.08.2017 ob 12:24
Prepovedat je treba človeško neumnost. Simple as that.
galoper
# 22.08.2017 ob 10:00
Kako postaviti opredelitev kaj je ubijalski robot. Je to vsak, s pripomočki usmerjen izstrelek?
Booch
# 21.08.2017 ob 23:47
MiD ne Cefizlju , Turkom krivovernati nesnagi je bla strogo prepovedana pot :)
alessio444
# 21.08.2017 ob 13:39
No potrebno je začeti takoj, dokler imamo še vse v svojih rokah. Je pa res, da nas na koncu reši le še miroljubna umetna inteligenca. Vemo pa kako je z najmočnejšim orožjem, to je jedrskim orožjem. Če se tukaj ne moremo zmeniti med seboj, se bomo težko pri tej tematiki.
dopisnik
# 21.08.2017 ob 13:37
...bi lahko bili boljši od psihopatskih vojakov, saj ne bi ubijali iz uzitka, bili pa lahko slabši od navadnih, ker ne bi poznali usmiljenja

Usmiljen vojak, je mrtev vojak.
1a34
# 21.08.2017 ob 13:35
To je itak že urejeno oz. se bo uredilo.

Problemi so drugje:

https://en.wikipedia.org/wiki/List_of_ca
uses_of_death_by_rate

2,84 % vseh smrti povzroči namerno nasilje (samomori, nasilje, vojne itd.). Res je, da, kolikršenkoli je ta odstotek, je prevelik.

A preventivno in kurativno se je treba posvetiti še bolj odpravi drugih vzrokov smrti (predvsem bolezni), katerih odstotek je prevelik; in to zelo prevelik.
tocco
# 21.08.2017 ob 13:02
Me zanima kakšen algoritem je to ki omogoca neprekosljiv deep lerning.
odprtizvezek
# 21.08.2017 ob 12:56
Popravek. Ni Depp Mind ampak Deep Mind.
Isao
# 21.08.2017 ob 12:28
Ne, ni prepozno. Tudi razvoj robotskih spolnih sužnjev bi morali prepovedati.
MiD
# 21.08.2017 ob 12:26
In kaj bi prepoved dosegla? Ali kdo res verjame, da bi s prepovedjo preprečili nevarnost uporabe v terorističnih napadih?
Kako je že tista o Butalcih, ki so Cefizlju "najstrožje prepovedali" vstop v njihovo vas?!
tekuma
# 21.08.2017 ob 11:59
V precejšni meri je tu vlak res odpeljal, ker že obstajajo sistemi kjer človek zgolj še potrjuje izdane ukaze avtonomnim sistemom!
Da droni terorizirajo ljudi oz. se jih kakorkoli uporabljal v slabe namene niti ni potrebe po UI to se zlahka počne tudi brez nje lah si pogledate kako isis uporablja drone vredne nekaj sto dolarjev.
V glavnem pa dokler bomo ljudje še tisti, ki bomo te stroje sestavljali, napajali jih fialili z municijo ni bojazni za nek scenarij tipa terminator.
1a34
# 21.08.2017 ob 14:08
Ljudi ni preveč; toliko je še prostranstev...

Pisanje o katastrofičnih scenarijih pa največ pove o tem, kako se pisec takih katastrofičnih scenarijev sam počuti, ne pa o tem, kaj misli javnost, ki je sestavljena iz večine zdravih optimističnih posameznikov/posameznic.
1a34
# 21.08.2017 ob 13:55
Strašenje z nekimi katastrofični scenariji najbolj govori o tem, kako se tisti, ki piše o tem, sam počuti, in ne kako se počuti javnost, ki jo sestavlja velika večina optimističnih ljudi z dobro življenjsko energijo.
Kazalo