Znanost in tehnologija
Ocena novice: Vaša ocena:
Ocena 2.8 od 8 glasov Ocenite to novico!
robot, umetna inteligenca
Roboti bodo v prihodnosti odločali o človeških življenjih, npr. robotski gasilci, zato morajo biti etični okvirji za njihovo delovanje razviti že zdaj, poudarjajo raziskovalci umetne inteligence. Foto: Pixabay

Dodaj v

Preveč "samozavestni" roboti za ljudi ne bi bili najboljša izbira

Najboljši bi našli ravnovesje med premalo in preveč samozavesti
9. junij 2017 ob 21:06
Berkley - MMC RTV SLO

Roboti, ki bi bili manj samozavestni glede svojih zmožnosti in bi potrebovali človeško potrditev, bi bili za ljudi koristnejši, menijo raziskovalci.

Čeprav smo še daleč od dejanske robotske samozavesti, pa bo ta pomembno vplivala na to, kako jih bomo v prihodnosti sestavljali, piše New Scientist. V ta namen je ekipa na univerzi Kalifornije, Berkley razvila zanimiv eksperiment.

Preveč samozavestna umetna inteligenca namreč lahko povzroča kopico nevšečnosti, pravi Dylan Hadfield-Menell z omenjene univerze. Za primer da Facebookov algoritem, ki uporabnikom dostavlja novice. Te so takšne, ki naj bi jih uporabniki želeli videti in deliti. Vendar je brezkompromisno sledenje programskim vrsticam privedlo do tega, da je algoritem uporabnikom postregel tudi z neresničnimi novicami.

V poskusu so zato raziskovalci razvili matematični model sporazumevanja med ljudmi in roboti, imenovan igra izklopnega stikala. V tej igri robot dobi neko nalogo, človek pa lahko kadar koli sredi izvajanja naloge robota izklopi. Vendar pa ima robot tudi možnost, da ljudem izklop prepreči.

Samozavestni roboti, ki menijo, da opravljajo koristno nalogo, ljudem ne bi nikoli dovolili izklopa, saj bi želeli popolnoma izkoristiti čas za opravljanje naloge, obratno pa velja za nesamozavestnega robota, ki bi mu dovolili izklop na kateri koli točki. Najvarnejši roboti bodo znali najti ravnovesje med obema.

Okvire etike je treba postaviti že zdaj
Hadfield-Menell sicer meni, da ne bi smeli narediti premalo samozavestne umetne inteligence, in za primer navede samovozeče vozilo, ki prevaža otroka. Takšno vozilo ne bi smelo nikoli dovoliti otroku, da prevzame nadzor, pravi.

Čeprav se morda zdi, da razvijalci s tem nekoliko prehitevajo, ti poudarjajo, da se bodo morali roboti v prihodnosti odločati o človeških življenjih, zato je treba etični okvir začeti razvijati že zdaj. Hadfield-Menell si kot končni cilj sicer želi, da bi razvili umetno inteligenco, ki bi bila predvidljivejša in bolj preprosta za človeško razumevanje.

A. Č.
Prijavi napako
Komentarji
aparat-čik
# 10.06.2017 ob 18:30
Simbolizem za robota v Bibliji je Golem, bitje brez duše, ki obstaja le za določen namen, izven tega pa ne more.
nuLanuLa
# 10.06.2017 ob 17:52
Kot v video igrah - nasprotniki ne smejo biti predobri, ker potem nobene igre ne bi končali.

Lahko pa bi, kot v video igrah, vsakemu robotu poljubno nastavili parametre - komunikativnost, empatija, smisel za humor, koliko govori ... mogoče bi naredili depresivne robote, da bi se potem mi bolje poutili. ALi pa totalno debilne robote, da bi se počutili pametnejše. Robote obsedene s seksom - tej bi se sigurno dobro prodajali. No, prej al slej, bodo hackerji "skrekali robote" in potem bomo imeli robote lopove, psihopate, množine morilce in robote samomorilce.

Prej kot se sprijaznimo s tem, lažje nam bo, ko se bo to začelo dogajati. Ljudje smo vrsta, ki vsako stvar sprevrže in potegne iz nje (tudi) najslabše. Zakoni Evolucije in dialektike nam to pravijo.
tristokosmatih
# 09.06.2017 ob 23:25
Samozavestni roboti, ki menijo, da opravljajo koristno nalogo, ljudem ne bi nikoli dovolili izklopa, saj bi želeli popolnoma izkoristiti čas za opravljanje naloge, obratno pa velja za nesamozavestnega robota, ki bi mu dovolili izklop na kateri koli točki.

Teli niso resni.
Npr. umetna inteligenca izračuna, da se nekega bolnika ne izplača zdraviti in se odloči za evtanazijo. Ubogi revež pa ne more izključiti robota, kateri ga hoče usmrtiti, ker mu le ta ne pusti izklopa, ker misli, da opravlja družbeno koristno delo.
malibumbar
# 10.06.2017 ob 15:50
tristokosmatih
# 09.06.2017 ob 23:25

Teli niso resni.
Npr. umetna inteligenca izračuna, da se nekega bolnika ne izplača zdraviti in se odloči za evtanazijo. Ubogi revež pa ne more izključiti robota, kateri ga hoče usmrtiti, ker mu le ta ne pusti izklopa, ker misli, da opravlja družbeno koristno delo.


Saj opravlj družbeno-koristno delo. Z izklopom bolnika se da prišparati pri zdravstvenih izdatkih in posledično davkih.
mb128
# 09.06.2017 ob 21:17
Mislim le zakaj bi AI že kar počlovečili?! Eh ti manjvrednostni kompleksi!
aparat-čik
# 10.06.2017 ob 18:28
Brezpredmetna debata. Stroji nikoli ne bodo zares mislili, ker se nikoli ne bodo zavedli svojega obstoja.
LjudjeSoOvce
# 15.06.2017 ob 22:34
AI je logična posledica tehnološke družbe, rezultat stvaritve le-te pa bo pomoje presenetljiv - nobene apokalipse, ampak zgolj trenutek, ko bo ustvarjena...nekaj sekund, da se razvije,.. še nekaj sekund kasneje ugotovi, da smo ljudje "lost cause" ...naredi si vesoljsko plovilo...in pobegne čimdlje od nas.
veselo-na-delo
# 14.06.2017 ob 02:05
Preveč samozavestni roboti bi za ljudi naj nebi bili najbolša izbira.

Seveda da ne!

Vsaki robot uporablja operacijski sistem in ko stakne bilo keri računalniški virus, je je taki robot nevaren za vsakega človeka oziroma vse živo, saj se lahko obrne proti njemu, oziroma njegovemu stvarniku človeku v kerem prepozna sovražnika.
Najhujše še pa lahko pride, ko se bodo roboti začeli sami sebe programirati na človeku nerazumliv način.
HOR
# 13.06.2017 ob 20:38
Kako znanost izgublja stik s humanostjo...

LINK ali copy-paste viskalnik
https://rclutz.wordpress.com/2017/06/12/
how-science-is-losing-its-humanity/
Space Voyager
# 13.06.2017 ob 14:58
Asimov je že vse povedal. Dosti več od reh zakonov robotike ne portrebujemo.
HOR
# 09.06.2017 ob 22:06
Čisto obskurna akademska debata...
Kazalo