Predlagam, da počasi začnemo.

Pričenjam 15. sejo Odbora za obrambo, ki je bila sklicana na podlagi 47. člena Poslovnika Državnega zbora Republike Slovenije.

Pozdravljam vse prisotne, še posebej državnega sekretarja na Ministrstvu za obrambo, Uroša Lampreta, državnega sekretarja v Ministrstvu za zunanje zadeve, dr. Stanislava Raščana, državnega sekretarja v Ministrstvu za notranje zadeve, Franca Kanglerja, načelnika Generalštaba Slovenske vojske, generalmajorja Roberta Glavaša, svetovalca predsednika republike, gospoda Boštjana Šefica in ostale vabljene.

Obveščam vas, da je zadržan in se seje ne more udeležiti član odbora, Franc Jurša. Svojo odsotnost s seje pa je opravičil tudi državni sekretar v kabinetu predsednika Vlade, mag. Bojan Pograjc.

Imam nekaj pooblastil, dovolite, da jih preberem za zapisnik: poslanka Mateja Udovč bo na seji nadomeščala poslanko Moniko Gregorčič, poslanec Rudi Medved bo na seji nadomeščal poslanca Marjana Šarca, poslanec Aleksander Reberšek bo na seji nadomeščal poslanca Andreja Černigoja, poslanec Bojan Podkrajšek bo na seji nadomeščal poslanca Marijana Pojbiča, poslanec Jože Lenart bo na seji nadomeščal poslanca Nika Prebila in poslanec dr. Matej T. Vatovec bo na seji nadomeščal poslanca Miho Kordiša.

Prehajamo na določitev dnevnega reda. S sklicem seje ste prejeli naslednji dnevni red: 1. točka - Predlog deklaracije o podpori prizadevanjem za mednarodno prepoved smrtonosnih avtonomnih orožnih sistemov, 2. točka - Poročilo Vlade Republike Slovenije Državnemu zboru o uresničevanju Strategije sodelovanja Republike Slovenije v mednarodnih operacijah in misijah, sodelovanju v potekajočih mednarodnih operacijah in misijah v letu 2020 in načrtih prihodnjega sodelovanja, ter 3. točka - vprašanja in pobude članic in članov Odbora.

Ker v poslovniško določenem roku nisem prejel predlogov za razširitev oziroma za umik posameznih točk, je določen dnevni red seje, kot ste ga prejeli s sklicem.

Prehajamo na 1. TOČKO DNEVNEGA REDA - PREDLOG DEKLARACIJE O PODPORI PRIZADEVANJEM ZA MEDNARODNO PREPOVED SMRTONOSNIH AVTONOMNIH OROŽNIH SISTEMOV, ki jo je Državnemu zboru v obravnavo predložil poslanec in predsednik Odbora za obrambo, Samo Bevk in je objavljena na spletnih straneh Državnega zbora. Kot gradivo, objavljeno na spletnih straneh Državnega zbora, ste prejeli: mnenje Zakonodajno-pravne službe, z dne 3. junija 2021 in mnenje Vlade Republike Slovenije z dne 3. junija 2021, ter mnenje Komisije Državnega sveta za državno ureditev, z dne 16. junija 2021.

K tej točki so bili vabljeni mag. Matej Tonin, minister za obrambo, brigadir Robert Glavaš, načelnik Generalštaba Slovenske vojske, dr. Matjaž Gams, državni svetnik, Državni svet, Zakonodajno-pravna služba, Urad predsednika republike in kabinet predsednika Vlade.

V poslovniškem roku amandmaji niso bili vloženi, zato prehajamo in začenjamo z obravnavo predloga deklaracije, v kateri bomo opravili razpravo in glasovanje o točkah predloga deklaracije. Odboru predlagam, da se razprava o vseh točkah združi, v skladu s prvim odstavkom 128. člena Poslovnika Državnega zbora. Po opravljeni razpravi bi opravili glasovanje o morebitnih amandmajih odbora, nato pa glasovali o vseh točkah skupaj. Ali kdo temu predlogu nasprotuje? (Ne.) Ugotavljam, da ne.

Ker sem predlagatelj predloga deklaracije bom uvodno obrazložitev podal sam.

Spoštovani članice in člani Odbora za obrambo, spoštovani gostje, v zakonodajni postopek sem vložil Predlog deklaracije o podpori prizadevanjem za mednarodno prepoved smrtonosnih avtonomnih orožnih sistemov. Predlog deklaracije je vsebinsko pripravil dr. Peter Bahčič, strokovni sodelavec Odbora za obrambo, predlog deklaracije pa sledi duhu načel, ki jih vsebuje resolucija Evropskega parlamenta z dne 12. septembra 2018, o avtonomnih orožnih sistemih. Spodbudo za korak v tej smeri pa je podal Državni svet Republike Slovenije, predsednik Državnega sveta, Alojz Kovšca je namreč 17. marca letos na Vlado in Državni zbor naslovil vprašanji državnega svetnika, prof. dr. Matjaža Gamsa, do uporabe avtonomnih orožnih sistemov.

Tako je, kot že rečeno, strokovna služba odbora pripravila predlog deklaracije, ki sem jo na podlagi 169.a člena Poslovnika Državnega zbora Republike Slovenije vložil v zakonodajni postopek. Predlog smo predhodno uskladili tudi z Zakonodajno-pravno službo, tako da na besedilo kasneje ni bilo nobenih pripomb, kar je razvidno tudi iz poročila službe.

Resolucija Evropskega parlamenta in predlog vložene deklaracije opredeljujeta avtonomne orožne sisteme kot oborožene sisteme, nad katerimi človek nima razumnega nadzora kritičnih funkcij. Delovanje avtonomnih sistemov brez razumnega človekovega nadzora, seveda odpira številna nova etična vprašanja, povezana s humanitarnim pravom in človekovimi pravicami. Gre za popolnoma nov način potencialnega bodočega bojevanja, katerega morebitne razsežnosti si je v tem trenutku zelo težko predstavljati. Gre tudi za razvoj tehnologij, ki že obstajajo in se še razvijajo, v civilnem okolju in jih je razmeroma enostavno uporabiti tudi za vojaške namene. Umetna inteligenca, ki se je pričela razvijati v drugi polovici prejšnjega stoletja, je v 21. stoletju prodrla v vse pore družbenega življenja, med drugim tudi v vojaške sfere, kjer so prepoznali njen potencial na vseh področjih vojskovanja. Njen razcvet v veliki meri sovpada z bliskovitim razvojem smrtonosnih avtonomnih orožnih sistemov. Številni znanstveniki so že večkrat opozorili na nevarnost tako imenovanih ubijalskih robotov ali naprav, kot so brezpilotna letala in roboti, namenjeni za vojskovanje. Znanstveniki tudi izpostavljajo, da bo razvoj smrtonosnih orožnih sistemov povzročil 3. svetovno revolucijo v načinu bojevanja, saj bo vojna potekala hitreje in v veliko hujšem obsegu, kot doslej. Če se bo trend avtonomnosti orožja nadaljeval, bo človek iz odločanja nekoč tudi izločen, saj bo umetna inteligenca tista, ki bo sprejemala odločitve o tem, kdo bo živel in kdo umrl. Južna Koreja ima na primer že vojsko robotov, ki patrolirajo na meji s Severno Korejo. Gre za Samsungov model robota z mitraljezom, ki ga trenutno prek video povezave še vedno upravljajo ljudje, a lahko preklopi tudi na avtonomni način bojevanja.

Za lažjo predstavo o navedeni problematiki sem vam v prilogi dopisa z dne 21. aprila 2021 poslal povezavi na 2 videoposnetka. Prvi videoposnetek, ki je trenutno še fikcija, je nastal na podlagi pobude strokovnjaka za umetno inteligenco na kalifornijski univerzi Berkeley Stuarta Russella in je postal viralen. Drugi posnetek pa prikazuje stvarno orožje, ki ga poganja umetna inteligenca. Gre za omenjeni Samsungov model robota z mitraljezom, ki ga lahko upravljajo ljudje, lahko pa preklopi tudi, kot rečeno, na avtonomni način bojevanja in delovanja. Številne države javno financirana podjetja kot tudi zasebna podjetja že raziskujejo in razvijajo smrtonosne avtonomne orožne sisteme, ki segajo vse od izstrelkov, ki znajo izbirati cilje, do sistemov vztrajnega uničenja s kognitivnimi zmožnostmi. Uporaba smrtonosnih avtonomnih orožnih sistemov vzbuja temeljne etične in pravne pomisleke glede človeškega nadzora, zlasti v zvezi bistvenimi funkcijami kot sta izbira ciljev in napada nanje. Uporaba smrtonosnih avtonomnih orožnih sistemov odpira ključna vprašanja o izvajanju mednarodnega prava na področju človekovih pravic, mednarodnega humanitarnega prava ter evropskih standardov. V zvezi s tem sem mnenja, da je pomembno preprečiti uporabo vsakršnih smrtonosnih avtonomnih orožnih sistemov brez človeškega nadzora nad ključnimi funkcijami kot je izbira ciljev in napad nanje. Na koncu naj poudarim, da je potrebno razlikovati med avtonomnimi orožnimi sistemi in smrtonosnimi orožnimi sistemi. Med tem ko je uporaba prvih lahko koristna. Recimo, avtonomni roboti za razminiranje, pa je uporaba drugih, se pravi robotov za ubijanje ljudi popolnoma nesprejemljiva. Hvala lepa za vašo pozornost. To je predstavitev te deklaracije, ki je sledila duhu deklaracije Evropskega parlamenta iz leta 2018.

Sedaj pa nadaljujemo… Sprašujem, če želi besedo predstavnik Vlade, to je državni sekretar na Ministrstvu za obrambo, gospod Lampret.

Spoštovani predsednik, najlepša hvala za besedo. Spoštovani članice in člani odbora. Republika Slovenija je leta 2017 aktivna na področju vsebin povezanih z ubojnimi smrtonosnimi avtonomnimi orožnimi sistemi, tako imenovanimi Lethal Autonomous Weapons Systems – LOS(?). Sodeluje v razpravah v različnih multilateralnih forumih v okviru Organizacije združenih narodov, Evropske unije in Nata, kjer se razpravlja o etičnih, pravnih, operativnih, moralnih, tehnoloških vidikih vezanih na avtonomne ubojne oborožitvene sisteme o celotnem spektru. Republika Slovenija v svojih izjavah in intervencijah na temo LOS med drugim poudarja in se zavzema za ohranitev človeškega nadzora nad umetno inteligenco, zmožno človeško intervencijo v vseh fazah delovanja oziroma uporabe LOS in sprejetje skupnih mednarodnih stališč o omejevanju razvoja in uporabe tovrstnih sistemov. Torej, sistemov brez razumnega človeškega nadzora in odločanja. Vlada Republike Slovenije ocenjuje, da popolna prepoved LOS ni smiselna. Smotrno pa je doseči soglasje pri uporabi, razvoju, sprejetju načel glede odgovorne uporabe novih tehnologij v obrambne namene vključno s temi sistemi. V odsotnosti skupne regulative bi le načelno zgolj s politično voljo izraženo nasprotovanje lahko vodilo v podrejen položaj Republike Slovenije glede obrambnih zmožnosti in v oblikovanje prednostnega položaja morebitnih bodočih nasprotnic. Dodajamo še, da so tovrstni mednarodni instrumenti lahko učinkoviti le ob podpori zadostnega števila držav in nujno tudi globalnih velesil, ki takšno orožje danes razvijajo in tudi že uporabljajo. Vlada Republike Slovenije ocenjuje, da je glede na specifiko teh sistemov, ki se znatno razlikuje od drugih načinov in oblik bojevanja smiselna konkretna pravna ureditev tega področja. Lahko tudi v okviru konvencije o prepovedi nekaterih vrst konvencionalnega orožja. …/nerazumljivo/ CCW, na primer s sprejetjem novega dodatnega protokola ali ločeno s posebno konvencijo. Glede na navedeno Vlada Republike Slovenije predlagane deklaracije ne podpira. Najlepša hvala.

Hvala lepa tudi vam, gospod državni sekretar. Želi besedo predstavnica Zakonodajno-pravne službe, gospa Nataša Voršič? Ja, izvolite, beseda je vaša.

Hvala lepa gospod predsednik.

Kot je bilo že pravzaprav poudarjeno, je Zakonodajno-pravna služba predlog deklaracije proučila z vidika skladnosti z Ustavo, s pravnim sistemom in zakonodajno-tehničnega vidika in k predlogu deklaracija nima pripomb.

Hvala.

Hvala lepa za vaše mnenje. Sprašujem, če želi besedo predstavnik Državnega sveta, gospod Rajko Fajt? Ja, izvolite.

Gospod predsednik, hvala za besedo. Spoštovane gospe, gospodje, lepo pozdravljeni!

Komisija za državno ureditev je opravila razpravo o predlogu deklaracije in jo podprla. Komisija je v svoji podpori predlog deklaracije izpostavila, da si je glede na tveganje, ki jih prinaša avtonomni oziroma smrtonosni avtonomni orožni sistemi, je treba prizadevati za prepoved oziroma predvsem za omejevanje in pa regulacijo teh sistemov. Komisija se je s to problematiko srečala oziroma, je obravnavala že v novembru 2019. Člani komisije so v razpravi, ki je bila opravljena na tej seji, opozorili da znanstveniki, ki se poklicno ukvarjajo z umetno inteligenco, opozarjajo oziroma odkrivajo kje vse se skrivajo nevarnosti v zvezi z njeno uporabo za človeško civilizacijo. V znanstvenem svetu velja utemeljeno prepričanje, da gre pri avtonomnih orožjih za eno od petih največjih nevarnosti na področju uporabe umetne inteligence. Gre za nevarnost, ki je nepredvidljiva in ne vemo v kakšni obliki bo izbruhnila, zato je nujno, da o problematiki razmišljamo v naprej. Kolega državni svetnik dr. Gams je opozoril predvsem na to, da razpravo o umetni inteligenci in njeni uporabi tudi za avtonomne smrtonosne sisteme ni stvar znanstvene fantastike, ampak gre za realno nevarnost, saj sta znanost in tehnologija vse to že sposobna izdelati. Komisija je opozorila, da bo glede na odnos posameznih držav do tega vprašanja, ZDA in še nekatere države nasprotujejo omejitvi raziskav na področju avtonomnih orožnih sistemov, popolno prepoved ali omejitev avtonomnega orožja bo pa seveda težko doseči, vendar pa je nujno opozoriti na nevarnosti teh sistemov, in da se mora tudi Slovenija pridružiti tem opozorilom in pozivom k ukrepanju kot so to storile že nekatere države v Evropi. V primeru prizadevanj za mednarodno prepoved smrtonosnih orožnih sistemov. Gre za stvar politične odločitve in premisleka in prav je, da tudi Slovenija da podporo tem prizadevanjem. To so stališča Komisije za državno uredite pri Državnem svetu.

Hvala gospod predsednik.

Hvala lepa tudi vam.

Gospod Fajt, sprašujem tudi, če želi besedo predstavnik Urada predsednika Republike? Ne želi.

Tako, da sedaj prehajamo na razpravo posameznih točkah ter morebitnih amandmajih odbora. Odpiram razpravo in dajem besedo članicam in članom odbora. Želi kdo razpravljati? Ja, izvolite gospod Koražija.

Najlepša hvala.

Saj zdaj je v bistvu začetek te, bom rekel, sprejetja oziroma nesprejetja deklaracije ponujeno na mizo, v bistvu že prinesel neke vrste, kar neko kontraverznost. Poglejte, se pravi, Državni svet v bistvu podpira to deklaracijo, ki ste jo nam danes tudi prinesli na mizo oziroma nam jo ponujate v potrditev, med tem, ko pa Vlada dejansko glede na stališče, ki ga je gospod Lempret predstavil, ne samo, da ne podpira, ampak v bistvu celo nekako v navednicah si želi, da bi zadeva ostala nekako status quo v smislu tega, da bi stopli v bran ali pa pomoč mogoče celo tudi Natu oziroma tem večjim zaveznicam, ki imajo seveda večje možnosti za razvoj, sploh kar se tiče te umetne inteligence oziroma razvoja tudi orožja oziroma tega avtonomnega orožja, smrtonosnega, in sem pričakoval vse, če že ne drugače, tudi neko možnost oziroma tudi opcijo ponujene roke preko mize sploh k vam, gospod Bevk, da vam bi tudi mogoče pomagali s kakšnim, ne vem, dodatnim sklepom preko koalicijskih poslancev, kakorkoli, da bi prišli do tega, kot ste že prej sami omenili, to mejo med Severno in Južno Korejo, kjer ste zelo dobro izpostavili tudi ta problem, ki ste ga omenili, v bistvu, ta robot v bistvu že lahko avtonomno in tudi smrtonosno deluje, kljub temu, da je zahtevano oziroma željeno oziroma tudi določeno v določenih primerih, da mora biti upravljan z stališča človeške roke oziroma človeškega vpliva na stroj oziroma na to avtonomno smrtonosno orožje. In to je tisti prvi, bom rekel, problem, ki je konstantno tudi dostikrat izpostavljen na tem našem Odboru za obrambo, da smo na različnih bregovih, bom rekel, glede teh pogledov na določene, bom rekel, tudi uporabo orožja v tem primeru in seveda, mi bomo v Levici deklaracijo podprli, v vsakem primeru, želimo pa si, da bi prišlo do popolne prepovedi takšnega orožja, ker vsi vemo in tudi določeni, ki ste se ukvarjali s tem, pa tudi mislim, da na ministrstvu poznate še zadeve globlje in boljše, da, bom samo namignil eno zadevo, ki se je dogajala leta 2019, v Libiji, kjer še do danes ni razjasnjeno in tudi jasno, kaj v bistvu se je vse dogajalo z temi avtonomnimi smrtonosnimi roboti oziroma avtonomnim smrtonosnim orožjem.

Tako kot rečeno, v Levici bomo deklaracijo podprli, želeli pa bi si, da bi tudi preko mize bila ponujena roka in tudi vse možnost, opcije, bolj večji zamejitvi dostopa in uporabe tega orožja oziroma v celoti prepovedi, tako kot je tudi že prej gospod Fajt vam razložil, ker gospod Fajt tudi se spozna na te zadeve dosti boljše, kot marsikdo tukaj, ker je s tega področja in mislim, da bi vam še lahko tudi v tej smeri še kakšno dodatno stvar dodatno obrazložil oziroma tudi vam, bom rekel v narekovajih, prikazal.

Hvala.

Hvala lepa tudi vam.

Naslednji je za razpravo prijavljen poslanec mag. Branko Grims.

Izvolite.

Hvala.

Zdaj, najprej nekaj iz zgodovine. Zakaj je Slovenija tako zlahka zmagala v vojni za Sloveniji, zlahka v narekovajih, kajne, saj je v resnici šlo za leto in pol priprav in pa ustreznega ravnanja, Bosna in Hercegovina pa plačala nečloveško strahotno ceno z razseljenimi 100 tisoči žrtvami in vsem ostalim, kar se je tam dogajalo, preprosto zato, ker so ravnali naivno. Slovenija se je pripravljala, Slovenija je leto in pol se zavedala, kako se bodo stvari končale in skozi vso zgodovino velja en rek, »si vis pacem, para bellum«, še iz starega Rima; če hočeš mir, potem se rajši pripravi na boj, če si naiven pač izgubiš.

Kar se tiče tega, kar je danes na mizi, je treba vedet, da te pobude prihajajo veliko prepozno. Sam bi si osebno želel in SDS tudi, da bi sprejeli neko tako deklaracijo na svetovni ravni, kot je bila v zvezi s kemijskimi bojnimi orožji, ki so prepovedana po celem svetu, vendar se bojim, da smo do tega strahovito daleč. Nekateri avtonomni oborožitveni sistemi so v resnici že zdavnaj v uporabi, pa če se še vsi tako sprenevedamo danes tukaj. Recimo, najnovejši ruski tank lahko deluje popolnoma avtonomno, sam izbira cilje, isto velja za nekatere kitajske oborožitvene sisteme. Kitajska, mimogrede, postaja največji in najmodernejši svetovni orožar, če kdo še ni tega opazil, kar spreminja(?) geopolitiko, pa postavlja tudi v zahodni svet, v zelo drugačen položaj, kot je bil še nedavno in tako naprej.

Kaj bi bilo treba storit? Sam osebno in v imenu SDS lahko povem, da je edina prava pot to, ki jo že izvaja slovenska Vlada in ki je bila predstavljena, to pa je, da si prizadeva, da bi se na svetovni ravni doseglo sporazum, da se to omeji, da se vse te sisteme spravi vsaj v nek razumen nadzor. Najbrž si nihče ne želi nekega skyneta, kajne, iz onega filma in da se seveda te stvari uredi na svetovni ravni, kajti ena država tega ne more in lahko samo s kakšnim neumnim ali pa neprevidnim položajem sebe spravimo v slabšo situacijo, ne moremo pa vplivat na vse ostale, kajne, tak je pač moderen svet in zaradi tega je ta politika Vlade, ko gre za te stvari, pravilna.: Treba si je prizadevati za maksimalno možno omejitev po možnosti pa prepoved tega na svetovni ravni. Enostranskih korakov pa, ki bi jih lahko kdorkoli uporabil proti Sloveniji in priti njeni varnosti, pa se je pametni vzdržati in zaradi tega spoštujemo mnenje Vlade in v SDS predlaganega predloga deklaracije ne bomo podprli.

Hvala.