PISjournal – Njemačka vojska otvara prostor za širu upotrebu umjetne inteligencije u vojne svrhe, uključujući i mogućnost da određeni autonomni sistemi naoružanja djeluju bez neposredne ljudske kontrole. Prema dokumentima Bundeswehra do kojih je došao njemački istraživački novinarski kolektiv Correctiv, Ministarstvo odbrane Njemačke planira proširiti primjenu umjetne inteligencije u vojnim operacijama i odobriti ograničenu upotrebu autonomnog oružja u određenim situacijama.
Ovakav razvoj predstavlja važan korak u raspravi o budućnosti ratovanja, jer bi dio odluka koje su do sada bile isključivo u rukama vojnika mogao biti prepušten algoritmima i autonomnim sistemima. Posebno je značajno pitanje da li bi takvi sistemi mogli samostalno identificirati i odabrati ciljeve, bez neposredne ljudske naredbe.
Prema navodima Correctiva, njemačko Ministarstvo odbrane potvrdilo je da bi, pod određenim okolnostima, autonomno oružje moglo djelovati nezavisno od direktne ljudske kontrole. To ne znači da bi svi sistemi naoružanja bili potpuno autonomni, već da se razmatra njihova ograničena upotreba u jasno definisanim scenarijima.
Jedan od hipotetičkih scenarija koji se navodi u dokumentima odnosi se na situaciju u kojoj su njemački vojnici opkoljeni ili zarobljeni na neprijateljskoj teritoriji. U takvom slučaju autonomni sistem mogao bi dobiti zadatak da pruži vatrenu podršku i izvrši represivnu vatru po neprijateljskim položajima kako bi se omogućilo izvlačenje ugroženih vojnika.
Međutim, ključni element ovog scenarija jeste mogućnost da sam sistem odabere ciljeve. Drugim riječima, čovjek ne bi morao direktno odrediti svaki pojedinačni cilj prije upotrebe oružja. Umjesto toga, sistem umjetne inteligencije mogao bi analizirati situaciju, identificirati ono što procijeni kao neprijateljsku prijetnju i samostalno odabrati ciljeve.
Upravo taj element otvara niz pitanja o odgovornosti, kontroli i pouzdanosti tehnologije na bojnom polju. Ako algoritam pogrešno identificira metu, postavlja se pitanje ko je odgovoran za posljedice. Dodatni problem predstavlja činjenica da sistemi umjetne inteligencije zavise od podataka na kojima su trenirani, senzora koje koriste i načina na koji interpretiraju složene situacije na terenu.
Ratno okruženje posebno je zahtjevno za takve sisteme. Na bojnom polju mogu postojati civili, zarobljenici, ranjeni vojnici, pripadnici različitih formacija i objekti koji se mogu pogrešno identificirati. Za razliku od kontrolisanog tehnološkog okruženja, vojna operacija odvija se u uslovima stalnih promjena, nejasnih informacija i namjernog neprijateljskog djelovanja.
Zbog toga se pitanje autonomnog oružja ne odnosi samo na tehnološke mogućnosti već i na granice ljudske kontrole nad upotrebom sile. Do sada je vojnik ili komandni lanac imao ključnu ulogu u donošenju odluke o napadu. Uvođenjem autonomnih sistema dio tog procesa mogao bi biti automatiziran.
Njemačka nije jedina zemlja koja istražuje takve mogućnosti. Velike vojne sile posljednjih godina intenzivno ulažu u razvoj umjetne inteligencije, autonomnih dronova, sistema za prepoznavanje ciljeva i drugih tehnologija koje mogu ubrzati donošenje odluka na bojnom polju.
Dodatnu pažnju privukao je nedavni slučaj koji je objavio CNN, prema kojem je američka vojska gotovo pogrešno procijenila situaciju koja je mogla dovesti do ozbiljne međunarodne krize. Prema tom izvještaju, sistem umjetne inteligencije pogrešno je identificirao teret koji je prevozio kineski brod na Bliskom istoku kao komponente povezane s nuklearnim oružjem. Takva procjena mogla je imati ozbiljne posljedice zbog osjetljivih odnosa između Sjedinjenih Američkih Država i Kine.
Ovaj slučaj pokazuje jedan od ključnih problema sve veće zavisnosti od umjetne inteligencije u vojnom sektoru: brzina sistema istovremeno može biti i njegova prednost i njegov rizik. Algoritam može analizirati ogromnu količinu podataka mnogo brže od čovjeka, ali pogrešna interpretacija tih podataka može dovesti do pogrešne procjene situacije.
U tradicionalnom vojnom sistemu, određeni broj provjera i ljudskih procjena može usporiti donošenje odluke, ali istovremeno omogućava dodatnu kontrolu. Kod potpuno ili djelimično autonomnih sistema postoji opasnost da se proces donošenja odluka ubrza do nivoa na kojem čovjek više nema dovoljno vremena da provjeri procjenu mašine.
Upravo zbog toga pitanje autonomnog oružja postaje sve važnije u međunarodnoj sigurnosnoj debati. Razvoj tehnologije omogućava vojskama da stvaraju sisteme koji mogu samostalno pratiti situaciju, identificirati potencijalne prijetnje i reagovati u veoma kratkom vremenu.
Njemačka odluka da razmotri ograničenu upotrebu autonomnih sistema pokazuje da se ova tehnologija postepeno pomjera iz područja istraživanja prema praktičnoj vojnoj primjeni. Iako se govori o određenim scenarijima i ograničenim okolnostima, sama mogućnost da oružani sistem sam bira ciljeve predstavlja značajnu promjenu u načinu na koji se razmišlja o upotrebi sile.
Istovremeno, primjer iz SAD-a pokazuje da ni napredni sistemi umjetne inteligencije nisu imuni na pogrešne procjene. Zbog toga će jedno od ključnih pitanja budućeg ratovanja biti koliko odluka o životu i smrti može biti prepušteno algoritmima i gdje treba povući granicu ljudske kontrole.
Kako se umjetna inteligencija sve više integriše u vojne strukture, rasprava više nije samo pitanje tehnološkog napretka. Ona postaje pitanje odgovornosti, sigurnosti i kontrole nad oružjem koje može djelovati brže nego što čovjek može reagovati.
Ekskluzivno PISjournal
