Umjetna inteligencija, posebno u sferi naoružanja, predstavlja veliku grešku, upozoravaju tehnički gurui i znanstveni geniji u nedavno objavljenom otvorenom pismu

Profesor Stephen Hawking, suosnivač tvrtke “Apple” Steve Wozniak i generalni direktor tvrtke “Tesla” Ilon Mask nalaze se među 1.000 potpisnika ovog pisama.

Veliki znanstveni uzori vjeruju da smo u posljednjih 20 godina bili opasno preokupirani prelaženjem krupnih koraka u pravcu autonomne umjetne inteligencije koja ima moć da donosi odluke.

“Tehnologija umjetne inteligencije došla je do točke gdje je uporaba (autonomnih) sustava – praktično ako ne legalno – ostvarljiva u narednih par godina, ne ni desetljeća, i ulozi su postavljeni visoko: autonomno oružje predstavlja treću revoluciju u ratovanju, nakon baruta i nuklearnog naoružanja”, pišu oni u pismu predstavljenom na Međunarodnoj združenoj konferenciji o umjetnoj inteligenciji u Buenos Airesu.

Opasnost se tiče kombinacije sposobnosti i poboljšanja koje su strojevi nadograđivali iz godine u godinu, uključujući moć integracije, učenja i procesuiranja informacija, što se vidjelo i iz njihovog prethodnog pisma, koje je objavio institut “Future of life”.

Istraživači priznaju da bi slanje robota u rat moglo donijeti pozitivne rezultate, tako što bi se smanjio broj ljudskih žrtava. Druga strana medalje je, kako pišu, što se time “smanjuje prag upuštanja u bitku”.

Autori nemaju sumnje da će razvijanje naoružanja koje posjeduje umjetnu inteligenciju rezultirati “praktično neizbježnom trkom u naoružanju globalnih razmjera”, u kojoj autonomno oružje postaje “kalašnjikov budućnosti”.

“Za razliku od nuklearnog naoružanja, za njega nisu potrebni skupe sirovine koje je teško nabaviti, pa će postati sveprisutno i jeftino za masovnu proizvodnju za sve bitne vojne sile”, navodi se u otvorenom pismu.

Ništa onda neće stajati na putu da se ovo oružje nađe i na crnom tržištu, tvrde dalje istraživači. “Autonomno oružje je idealno za zadatke poput ubojstava, destabilizacije nacija, potčinjavanje stanovništva i selektivno ubijanje određene etničke grupe”, dodaju oni.

Poruka koju pokušavaju prenesu nije da je umjetna inteligencija sama po sebi nešto loše, već da postoji opasnost da ona bude iskorištena na način koji je dijametralno suprotan od onog koji je predviđen – za nešto dobro, za ublažavanje ljudske patnje.

Ova skupina prosvećenih ljudi protivi se nekolicini odabranih koji bi željeli “okaljati” područja znanja, poput biologije ili kemije, nijsu u potpunosti usmjerena na korištenje u industriji oružja. Bilo kakva negativna upotreba ovog znanja mogla bi samo dovesti do toga da se javnost zauvijek protivi tim područjima, što bi joj uskratilo šansu da zaista bude od koristi u budućnosti, pišu vizionari.

Ništa od ovoga ne iznenađuje bilo koga tko prati karijere ovih ljudi ili u tijeku s vijestima o razvoju umjetne inteligencije.

Wozniak, koji je zajedno sa Steveom Jobsom osnovao tvrtku “Apple”, poznat je po tome da se vrlo glasno izjašnjavao po ovom pitanju. U lipnju je, međutim, uzeo kao činjenicu da bi pametna naprava s umjetnom inteligencijom željela kontrolirati samu prirodu – pa samim tim i ljude, kao “kućne ljubimce”. Čak se i šalio kako svog psa hrani finim odrescima, jer “odnosi se prema drugima …”

Mask je još jedan od skeptika. Nedavno autorizirana biografija daje uvid u to kako se brine da bi njegov prijatelj i generalni direktor “Googlea” Larry Page mogao “slučajno stvoriti nešto zlo”.

“Rizik da se nešto vrlo opasno dogodi je narednih pet godina. Najviše deset”, napisao je Mask prije nekoliko mjeseci u privatnom komentaru (koji je iscurio u javnost) na internet publikaciju o opasnostima koje nosi umjetna inteligencija. “Napominjemo da sam obično izuzetno naklonjen tehnologiji i nikad nisam pokretao ovo pitanje do posljednjih nekoliko mjeseci. Ovo nije slučaj u kom ja vičem ‘vuk’ jer nešto ne razumijem”, napisao je Mask.

Poput Wozniaka, Mask je također donirao milijune za usmjeravanje umjetne inteligencije ka dobrobiti čovječanstva.

Svjetski poznati fizičar Stephen Hawking, koji se oslanja na neku vrstu umjetne inteligencije kako bi komunicirao, rekao je za BBC da bi se, kada bi tehnologija mogla dostići sposobnosti čovjeka, “ona oslonila sama na sebe i redizajnirala u mjeri koja bi se zauvijek povećavala”.

Također je rekao da zbog bioloških ograničenja ne bi bilo načina da ljudi održe korak s brzinom razvoja tehnologije.
 

 
(sputniknews.com/uredio:NSP)

Brojni svjetski znanstvenici i tehnološki prosvjetitelji potpisali su zajedničko otvoreno pismo u kojem pozivaju sve svjetske vlade da zabrane razvoj ‘autonomnih napadačkih oružja’ kako bi spriječili ‘utrku u inteligentnom naoružanju’

Pismo će biti predstavljeno na Međunarodnoj udruženoj konferenciji o umjetnoj inteligenciji koja (u utorak 28.7.2015.) počinje u Buenos Airesu. Do sada su ga potpisali Stephen Hawking, Elon Musk, Noam Chomsky, Steve Wozniak…

Hrvatska za sada ne sudjeluje, a od zemalja regije, pismo su potpisali Ivan Bratko sveučilišta u Ljubljani, te s beogradskog fakulteta filozofije.

Najveća zabrinutost potpisnika, što se očituje u sadržaju pisma, jest pretvaranje robota i vozila u pametne autonomne sustave. Krstareće rakete i dronovi kojima upravljaju piloti su prihvaćeni jer ‘ljudi i dalje donose konačnu odluku’. Međutim, razvoj autonomnog naoružanja koje se može boriti i ubiti bez ljudske intervencije treba, kažu potpisnici, ‘srezati u korijenu’.

Ključno pitanje za čovječanstvo jest, krenuti s globalnom utrkom u inteligentnom naoružanju ili spriječiti postojanje tako nečeg. Ukoliko bilo koja vojna sila krene s razvojem UI naoružanja, utrka je neizbježna, a posljedice su više nego očite: autonomna oružja će postati ‘Kalašnjikovi sutrašnjice’ – navodi se u pismu.

U nastavku, pismo donosi snažniju paralelu između autonomnog oružja i kemijsko-biološkog naoružanja.

Upravo kao što većina kemičara i biologa nema interes u izradi kemijskog ili biološkog naoružanja, većina znanstvenika UI-ja ne želi raditi na UI oružju. Isto tako, ne žele da im drugi znanstvenici unište trud i rad na polju umjetne inteligencije koja bi u budućnosti mogla imati ogromne društvene benefite – objašnjava se.

Nije poznato na koga je pismo točno adresirano. Možda je stvoreno sa svrhom podizanja svijesti o spomenutoj problematici kako ne bismo ostali slijepi na razvoj autonomnog naoružanja.

Elon Musk i Stephen Hawking su upozorili na opasnosti napredne umjetne inteligencije. Musk to opisuje kako ‘potencijalno opasnije od nuklearki’ dok Hawking ulazi u filozofsku raspravu navodeći da je UI ‘naš najveći egzistencijalni problem’.

Najveći problem s UI općenito te autonomnim naoružanjem jest da je riječ o revolucionarnoj tehnologiji. Jednom kada stvorimo naprednu UI ili oružje koje samo može odlučiti koga napasti, više nema povratka.

Nismo mogli iskontrolirati barut i nuklearno naoružanje, a slična će situacija sigurno biti i s autonomnim oružjem.
 

 
 
(jutarnji.hr,youtube/uredio:nsp)