Prije 35 godina je svijet bio na rubu atomskog rata. Bilo je to na vrhuncu Hladnog rata. U ožujku 1983. se na radiju pojavio Nenin hit "99 balona" (Neunundneunzig Luftballons) - tu se govori o ratu koji je počeo zbog greške. I baš to se zamalo i desilo.

Sovjetski satelitski sistem za rano upozoravanje na nuklearnu opasnost je u noći između 25. i 26. rujna 1983. prijavio da su SAD ispalile 50 nuklearnih raketa. Bila je velika sreća za čovječanstvo da je te noći na smjeni bio Stanislav Jegorovič. Čovjek. Netko tko nije odmah povjerovao slici na svom ekranu, već je informaciju proglasio lažnim alarmom i nije naredio da se trenutno odgovori nuklearnim protuudarom. Njegova procjena se pokazala točnom: jedan sovjetski špijunski satelit je zbog greške u softveru odraz sunčeve svjetlosti sa oblaka protumačio kao start raketa. Jegorovičev herojski čin je desetljećima bio strogo čuvana državna tajna.

Pitanje koje se ovdje postavlja nije samo: kako bi netko drugi reagirao na Jegorovičevom mjestu. Pravo pitanje glasi: kako bi reagirao neki automatski sistem? Digitalizacija je odavno duboko prodrla i u svijet ubijanja - umjetna inteligencija, mašinsko učenje, robotika, trodimenzionalni tisak i genetska tehnologija - sve to je revolucioniralo vojsku. Jasan je trend ka proizvodnji autonomnih oružanih sistema. Vidljivo je već sada da u skoroj budućnosti odluke o životu i smrti neće donositi ljudi.

"Tu postoji čitav niz implikacija zajedno sa pitanjem: je li to etički ispravno", kaže Reinhard Grünwald iz Ureda Njemačkog Bundestaga za procjenu tehničkih procesa: "Kakvi rizici za međunarodnu stabilnost nastaju na taj način? To je vrlo složeno pitanje koje uključuje i pitanje o nastavku postojanja čovječanstva".

Smrtonosan trend brzine

Trend ka sve većem uvođenju autonomnih oružanih sistema pojačava i sve veća brzina kojom se odvijaju konflikti. Komandanti koriste moderne tehnologije, a sve više i umjetnu inteligenciju, kako bi u kompleksnim ratnim situacijama imali pregled događanja i mogli donositi odluke. No, time se brzina samo dodatno povećava: "Od jednog trenutka ljudi više neće biti u stanju da reagiraju potrebnom brzinom", prognozira Grünwald: "Tu već postoji pritisak da se bude sve bržim i ljudska sposobnost odlučivanja u nekom trenutku tu više neće biti dovoljna".

I Justin Bronk primjećuje sve veću spremnost armija da se pouzdaju u tehničke sisteme kako bi se mogle nositi s onim što je njemački strateg Carl von Clausewitz još prije 200 godina nazvao "neizvjesnošću rata" ("fog of war"). Bronk se u britanskom obrambenom trustu mozgova "Royal United Services Institute" (RUSI) bavi temama zrakoplovstva i tehnologije. On je kod zapadnih vojski, prije svega u SAD i Velikoj Britaniji, primijetio duhovnu klimu "povjerenja u funkcioniranje tih sustava - iako ima dosta dokaza da oni ni izdaleka ne rade tako pouzdano kao što bi se to moglo zaključiti na osnovu teorije".

Bronk sjedi u sivoj fotelji u stokholmskom Muzeju fotografije. Ovo zdanje od fasadne cigle je ranije služilo kao zgrada carine. A sada, krajem septembra, ona služi kao mjesto za održavanje konferencije stokholmskog Instituta za istraživanje mira SIPRI. Njen naslov glasi: "Nove tehnologije".  Bronk naglašava kako je "tehnologija upotrebe smrtonosnih oružanih sustava (LAWS) u zraku već tu. Kada pogledate kolika se borbena snaga dobiva za eure, funte ili dolare, autonomne, programirane i naoružane drone (UCAVS) su bitno jeftinije od aviona s posadom."

Otkako od 2015. vojska SAD takve bespilotne drone čak i opskrbljuje gorivom tokom leta, vrijeme trajanja neke akcije je ograničeno samo potrošnjom ulja i redovnim inspekcijama.

Kombinacija novih tehnologija

Na sastanku SIPRI se prije svega radilo o pitanju kakve prijetnje se pojavljuju u vezi s novim tehnologijama. Dan Smith je na čelu SIPRI-ja tri godine. "Povod konferenciji je spoznaja da mi razne teme prečesto proučavamo odvojeno", kaže on za DW. "Tako primjerice raspravljamo o kibernetskom ratovanju ovdje i nuklearnoj prijetnji tamo, a možda se prava opasnost krije u hakiranju nuklearnih elektrana." Ili recimo u kombinaciji trodimenzionalnog tiskanja i genetske tehnologije.

Dan Smith se pribojava da bi se biološka bojna sredstva mogla širiti kao digitalizirane sekvence u obliku jedinica i nula koji je moguće po potrebi spajati u opasni agens i potom koristiti po potrebi. "To ni ne moraju biti virusi od kojih ljudi obolijevaju. To mogu biti i biološke materije koje napadaju biljke kako bi bilo prekinut tok snabdijevanje životnim namirnicama i kako bi se stvorio kaos na tržištu prehrambenih proizvoda."

"Najprije etika"

Na konferenciji u Stockholmu sudjeluje i Charlotte Lindsey Curtet, direktorica za digitalnu transformaciju i podatke u Međunarodnom komitetu Crvenog križa (IKRK). Ona traži da se međunarodno pravo i Ženevska konvencija i dalje primjenjuju, bez obzira na to kojim oružjem se vode borbe. Pozicija IKRK je, kako je rekla Curtet, da "čovjek mora biti središnja instanca u procesu odlučivanja o upotrebi bilo koje tehnologije ili oružja koje može ubiti, povrijediti ili osakatiti nekoga, ili može bitno utjecati na infrastrukturu važnu za život ljudi".

Heather Roff sa sveučilišta John Hopkins na američkoj Istočnoj obali zahtijeva da se već prilikom razvoja novih oružanih sustava vodi računa i o etičkim načelima. Jedan od sudionika konferencije, visokorangirani vojnik, je rekao: "Ne znamo kuda nas vodi ovaj razvoj tehnike. Ali tim ćemo se putem kretati. Nemamo alternativu". A to da mnogi ne znaju kuda taj put vodi, pokazuje i primjedba jednog sudionika konferencije izrečena u bifeu za vrijeme pauze: "Naša situacija izgleda kao Rimsko carstvo plus kibernetika. Nemamo mnogo ideja o tome, što bi trebalo učiniti. Bilo bi dobro da čitamo knjige iz povijesti."