To već odavno nije znanstvena fantastika: iskustva s modernim bespilotnim letjelicama ukazuju da bi u budućnosti ratovi dobrim dijelom mogli biti vođeni uz pomoć autonomno djelujućih robota. Razvoj oružja kojim se daljinski upravlja je zaprepašćujuće brz - i pritom se sve više funkcija automatizira i autonomizira, one se obavljaju mimo kontrole čovjeka. Istovremeno je zastrašujuća predodžba kako bi u nekoj doglednoj budućnosti autonomni borbeni strojevi mogli samostalno donositi odluke o životu ili smrti ljudi u etičkom smislu i s obzirom na međunarodno pravo.

Rasprava o moralnoj dimenziji oružja koje djeluje na daljinu je jako stara. Već je Papa Inocent II. u 12. stoljeću moralno osuđivao samostrijel, budući da oklop više nije štitio od strijela. On je tražio da se u sukobima između kršćana to oružje zabrani. Kada se radilo o nevjernicima ili o krivovjernicima, ograničenja nisu bila tako stroga.

Nova kvaliteta oružja na udaljenost

Korištenje bespilotnih letjelica u 21. stoljeću sa stajališta vojne tehnologije nije posebna novost - na kraju krajeva se radi o oružju koje djeluje na daljinu poput mnogih drugih sustava. Ali ipak postoji tu jedna nova dimenzija - i nova kvaliteta. Pilot koji upravlja bespilotnom letjelicom sjedi u svojoj vojarni, on ne mora ulaziti ni u kakav zrakoplov, brod ili podmornicu koji bi ga doveli do borbene crte. "Budući da ti sustavi mogu jako dugo ostati nad područjem na kojem ih se želi koristiti, moguće je određenu površinu trajno nadzirati u smjenama i po potrebi vršiti napad", objašnjava Frank Sauer, politolog s Vojnog sveučilišta njemačke vojske u Münchenu. "Ranije tako nešto nismo imali."No rasprava o etičkoj legitimnosti takvog oružja nikada nije prestala. "Čak i oružje koje je u smislu međunarodnog prava neupitno, poput pušaka s optičkim ciljnikom (dalekozorom), dugo je vremena bilo jednako tako sporno kao i samo djelovanje snajperista", kaže Niklas Schörnig iz Hessenske zaklade za istraživanje mira i sukoba. "Ubojstvo čovjeka, koji u trenutku napada uopće nije svjestan da je meta, za mnoge vojnike je predstavljalo veliki problem. Često su ti vojnici od svojih drugova u vojsci bili poprijeko gledani."

Kompjutori odlučuju o životu i smrti

S njihovim širenjem raste međutim i opasnost od toga da se ti sustavi otmu kontroli. Svaka bespilotna letjelica doduše može biti opremljena crnom kutijom koja bilježi podatke o letu i čitavoj akciji, ali one postaju relevantne tek nakon obavljenog zadatka - i, vojnim žargonom cinično rečeno, nastale "kolateralne štete".

Već i danas ti sustavi mogu djelovati autonomno. Tako primjerice američka bespilotna letjelica tipa "raeper" automatski leti dalje i nakon što je u uskim udolinama izgubljen kontakt s bazom udaljenom tisuće kilometara. Vojni stručnjaci su stoga uvjereni kako na sljedeći korak nećemo morati dugo čekati: upotrebu sasvim autonomnih sustava oružja. Već danas izraelske bespilotne letjelice nadgledaju određeno područje i same se obrušavaju na protivnički radar kada ga otkriju - a da im prije toga nije izdan direktan nalog od neke osobe.

Za Niklasa Schörniga je to središnje pitanje. "To znači da bespilotna letjelica, robot ili kompjutor samostalno donose odluke o životu i smrti. No po mom je mišljenju vrlo problematično da kompjutor doista donosi odluku o ubojstvu čovjeka - i pravno i etički." Osim toga bi korištenje takvih bojnih sustava dovelo i do znatnog ubrzanja ratovanja: "U budućnosti bi prevagu mogao odnijeti onaj sustav koji je u stanju djelovati nekoliko milisekundi brže od drugog", kaže Schörnig.

"Rupe" u međunarodnom pravu

Zagovornici tih sustava argumentiraju međutim, kako je u algoritme automatiziranih oružnih sustava moguće ubaciti i mehanizme za zaustavljanje - takozvane "etičke regulatore" ("ethical governors"). No kritičari kažu kako je te blokade u slučaju sukoba moguće i isključiti.

Iz perspektive postojećeg međunarodnog prava tu se pojavljuje još jedno neriješeno pitanje: U slučaju rata je dozvoljeno napadati samo neprijateljske vojnike koji se nalaze u vojnoj akciji. Ali kako neki autonomni oružni sustav može razlikovati ne radi li se ipak o vojnicima koji se baš žele predati?

U međuvremenu se o problemu autonomnih oružnih sustava raspravlja i na međunarodnoj razini. Pod okriljem Ujedinjenih naroda se već razmišlja o mogućnosti njihove zabrane. Vojni dekan Schubert se nada da će do toga doći prije no što takvi roboti uopće stupe u oružani sukob.Osim toga postoji naravno opasnost i od hakera koji bi te sustave mogli manipulirati. Vojni dekan Evangeličke crkve Hartwig von Schubert smatra kako tu postoje veliki rizici: "Pitanje zaštite vojnih podataka je vrlo važno. Kako je moguće spriječiti strane snage da infiltriraju, manipuliraju i okupiraju našu mrežu?"