Rusko zablokovalo rokovania OSN o „robotoch-zabijakoch“
Konferencia OSN v Ženeve, ktorá mala rozhodnúť o začatí rokovaní o medzinárodných pravidlách pre smrtiace autonómne zbrane, sa hneď na úvod dostala do patovej situácie. Rusko odmietlo schváliť program zasadnutia. Moskva a Washington sa stavajú proti právne záväznému zákazu.
Rokovania o regulácii takzvaných robotov-zabijakov sa v pondelok 16. novembra zastavili krátko po začiatku konferencie zmluvných štátov Dohovoru OSN o niektorých konvenčných zbraniach (CCW) v Ženeve. Ruská delegácia otvorila procedurálny spor týkajúci sa vystúpení pozorovateľov a odmietla podporiť program rokovania. Keďže rozhodnutia na konferencii sa prijímajú na základe konsenzu, námietka Moskvy zabránila začatiu plánovanej diskusie. Konferencia združuje 128 zmluvných štátov a jej cieľom je rozhodnúť, či sa začne rokovanie o medzinárodnom nástroji, ktorý by stanovil jasné obmedzenia alebo zakázal určité druhy smrtiacich autonómnych zbraňových systémov. Nešlo teda ešte o samotné prijímanie zákazu, ale o rozhodnutie, či sa krajiny vôbec pustia do rokovaní o záväzných pravidlách.
Autonómne zbrane – oficiálne Smrtiace autonómne zbraňové systémy (LAWS - Lethal Autonomous Weapons Systems), v médiách nazývané aj "roboti-zabijaci" – sú zbraňové systémy, ktoré dokážu samostatne vyhľadávať, identifikovať, sledovať a zasiahnuť cieľ bez priameho ľudského zásahu v momente útoku. Človek síce systém aktivuje, ale o tom, koho a kedy zabiť, už rozhoduje algoritmus na základe umelej inteligencie.
3 úrovne autonómie – podľa toho, kde je človek:
1. Human-in-the-loop (človek v slučke) - Človek musí každý útok potvrdiť. Systém navrhne cieľ, človek stlačí spúšť.
2. Human-on-the-loop (človek nad slučkou) - Systém si vyberá a útočí sám, ale človek ho sleduje a môže ho kedykoľvek zastaviť alebo zrušiť.
3. Human-out-of-the-loop (človek mimo slučky) – plne autonómna zbraň. Systém je vypustený a od tej chvíle si sám hľadá ciele a zabíja bez akejkoľvek kontroly človeka. Práve o týchto zbraniach sa vedie spor v OSN. Príklad: zatiaľ hypotetický roj dronov, ktorý dostane úlohu "vyčisti oblasť od nepriateľov" a sám rozhoduje.
Čo ich robí inými ako bežné zbrane?
- Senzory + AI: Kamera, lidar, termovízia + algoritmus rozpoznávania cieľov.
- Autonómne rozhodovanie: Nie je diaľkovo riadený operátorom cez video, ako FPV dron.
- Učenie sa: Môže meniť správanie na základe prostredia.
Dnes sa za autonómne považujú napríklad:
- protilodné strely, ktoré si samé vyberú loď v konvoji,
- systémy protivzdušnej obrany v automatickom režime (Phalanx, Iron Dome),
- drony s funkciou "loitering" (vyčkávanie) – krúžia nad oblasťou a samé zaútočia na radar alebo tank.
Prečo je to problém?
Práve preto OSN v Ženeve teraz rokuje:
1. Právny: Kto nesie zodpovednosť za vojnový zločin, ak zabije stroj?
2. Etický: Môže stroj rozhodnúť o ľudskom živote? Pápež aj OSN hovoria, že nie.
3. Bezpečnostný: AI robí chyby, dá sa oklamať, správa sa nepredvídateľne – riziko masakru civilistov alebo nekontrolovanej eskalácie.
4. Šírenie: Lacný autonómny dron si bude môcť vyrobiť každý, vrátane teroristov.
Spor o vystúpenia pozorovateľov
Ruský zástupca na zasadnutí namietal proti doterajšej praxi, podľa ktorej môžu na konferencii vystupovať aj pozorovatelia vrátane Európskej únie. Moskva tvrdila, že predstavitelia EÚ na predchádzajúcich stretnutiach prednášali politicky motivované vyhlásenia a šírili nepravdivé informácie. Navrhla preto, aby pozorovatelia mohli hovoriť až na konci konferencie, nie pri prerokúvaní jednotlivých bodov programu. Návrh nezískal podporu ostatných delegácií. Proti obmedzeniu vystúpení sa postavili napríklad Írsko a Kanada. Keďže však na prijatie programu bola potrebná všeobecná zhoda, predseda konferencie Julien Thöni zasadnutie prerušil a delegácie pokračovali v neformálnych konzultáciách. Ani do konca dňa sa nepodarilo dosiahnuť dohodu. Thöni následne oznámil, že konferencia zostáva pozastavená, pričom na utorok avizoval pokračovanie neformálnych rokovaní. Pozorovatelia sa ich mali môcť zúčastniť. Predstavitelia občianskej spoločnosti však upozornili, že Rusko môže aj toto rozhodnutie napadnúť a pokračovať v zdržiavaní procesu. Anna Hehir z Inštitútu Future of Life označila situáciu za ďalší prípad paralýzy spôsobenej požiadavkou konsenzu. Podľa Beatrice Fihnovej, zakladateľky organizácie Lex International a bývalej šéfky Medzinárodnej kampane za zrušenie jadrových zbraní, niektoré štáty využívajú pravidlo jednomyseľnosti na blokovanie pokroku v procedurálnych aj vecných otázkach.
Guterres vyzýva na urýchlenú reguláciu
Blokáda prišla v čase, keď generálny tajomník OSN António Guterres vyzval krajiny, aby urýchlene prijali opatrenia proti šíreniu plne autonómnych smrtiacich zbraní. Vo video posolstve pri otvorení konferencie upozornil, že nové technológie vrátane umelej inteligencie prinášajú vážne humanitárne, právne, etické a bezpečnostné riziká. Takzvané roboty-zabijaky sú zbraňové systémy schopné samostatne vyhľadávať, vyberať a zasahovať ciele bez priameho rozhodnutia človeka. Guterres vyzval štáty, aby podporili prípravu právne záväzného dokumentu, ktorý by stanovil jasné zákazy a obmedzenia ich používania. „Prijmite opatrenia, aby sa zabránilo použitiu a šíreniu tejto nemilosrdnej zbrane,“ apeloval vo svojom posolstve. Zdôraznil tiež potrebu chrániť civilné obyvateľstvo pred dôsledkami ozbrojených konfliktov a predchádzať zbytočnému utrpeniu. Na riziká autonómnych zbraní upozornili aj Medzinárodný výbor Červeného kríža a pápež Lev XIV. Guterres a prezidentka Červeného kríža Mirjana Spoljaricová už v spoločnom vyhlásení z augusta varovali, že vývoj týchto systémov sa približuje k hranici, ktorú označili za morálne neprijateľnú. Pápež na stretnutí venovanom umelej inteligencii vo Vatikáne zdôraznil, že rozhodnutia o ľudskom živote by nemali byť prenechané strojom.
USA a Rusko odmietajú záväzný zákaz
Hoci väčšina štátov podporuje vytvorenie nových medzinárodných pravidiel, proti začatiu rokovaní o právne záväznom zákaze vystupujú predovšetkým Spojené štáty a Rusko. Podľa diplomatických zdrojov agentúry Reuters sa k nim stavia odmietavo aj Izrael. Tieto krajiny argumentujú, že existujúce medzinárodné humanitárne právo už poskytuje rámec na reguláciu vedenia vojny. Washington uprednostňuje nezáväzné usmernenia a navrhol, aby diskusie o pravidlách pokračovali ďalších päť rokov. Podobný prístup presadzuje aj Moskva. Takýto postup kritizujú organizácie na ochranu ľudských práv, podľa ktorých by ďalšie roky diskusií bez konkrétnych záväzkov mohli oddialiť prijatie účinných pravidiel. Spojené kráľovstvo, Nemecko a Francúzsko navrhujú kompromisnejší prístup. Podporujú rokovania o medzinárodnom nástroji, pričom zatiaľ nechávajú otvorené, či bude mať výsledný dokument právne záväznú podobu. Nemecko a Francúzsko zároveň presadzujú dvojstupňový model: úplný zákaz systémov, ktoré fungujú bez akejkoľvek ľudskej kontroly, a reguláciu zbraní s obmedzenými autonómnymi funkciami. Drvivá väčšina krajín podporujúcich prísnejšie pravidlá vrátane Rakúska, Belgicka a Írska chce, aby sa rokovania o právne záväznom protokole začali čo najskôr. Podľa agentúry Reuters však diplomati pripúšťajú, že výsledkom môže byť aj nezáväzný dokument alebo kombinácia právnych a dobrovoľných pravidiel.
Umelá inteligencia už mení podobu bojiska
Autonómne funkcie v zbraňových systémoch nie sú úplnou novinkou. Niektoré existujúce obranné zariadenia, napríklad na vojnových lodiach, dokážu automaticky reagovať na prichádzajúce rakety. Obavy však vyvoláva najmä nová generácia zbraní využívajúcich umelú inteligenciu, senzory a algoritmy na identifikáciu a výber cieľov. Vývoj sa týka dronov, pozemných vozidiel, tankov, ponoriek aj ďalšieho vojenského vybavenia. Poloautonómne systémy s podporou umelej inteligencie sa podľa dostupných správ objavili vo vojnách na Ukrajine, v Sudáne a na Blízkom východe. Pri plne autonómnych zbraniach by však rozhodnutie o použití smrtiacej sily mohlo prebehnúť bez priameho zásahu človeka. Organizácie na ochranu ľudských práv varujú, že takéto systémy sa môžu správať nepredvídateľne a nesprávne vyhodnotiť situáciu, čo môže viesť k usmrteniu civilistov alebo iným fatálnym chybám. Human Rights Watch upozorňuje, že technológia už nie je iba hypotetickou hrozbou a že medzinárodné spoločenstvo musí stanoviť hranice jej využívania. Medzinárodný výbor Červeného kríža pritom nežiada nevyhnutne zákaz všetkých autonómnych zbraní. Podporuje však zákaz systémov, ktoré cielia na ľudí, ako aj takých, ktorých účinky nemožno dostatočne predvídať a kontrolovať. Základnou požiadavkou je zachovanie zmysluplnej ľudskej kontroly nad rozhodnutiami o použití smrtiacej sily.
Hľadá sa cesta mimo ženevského konsenzu
Pondelkový vývoj ukázal, aké ťažké je dosiahnuť dohodu v rámci CCW, kde môže jediná krajina zablokovať prijatie rozhodnutia. Rokovania o autonómnych zbraniach sa pritom vedú už približne 13 rokov a napriek podpore desiatok štátov, humanitárnych organizácií a mimovládnych skupín sa zatiaľ neposunuli k formálnym rokovaniam o záväznej zmluve. Preto sa začínajú zvažovať aj alternatívne možnosti. Jednou z nich je presun diskusie na pôdu Valného zhromaždenia OSN, kde sa rozhoduje odlišným spôsobom a nie je potrebný rovnaký konsenzus všetkých účastníkov. Ďalšou možnosťou je využiť ustanovenia dohovoru, ktoré umožňujú štátu alebo skupine štátov predložiť generálnemu tajomníkovi OSN návrh na rokovanie o novom protokole. V hre je aj iniciatíva skupiny krajín, ktoré by mohli rokovania zorganizovať mimo rámca ženevského dohovoru. Podobný postup sa využil v roku 2006 v prípade kazetovej munície, keď Nórsko hostilo proces, ktorý pokračoval napriek neúspechu predchádzajúcich rokovaní v rámci CCW. Napriek komplikovanému začiatku niektorí predstavitelia humanitárnych organizácií veria, že väčšina štátov nájde spôsob, ako v diskusii pokračovať. Otázkou zostáva, či sa medzinárodnému spoločenstvu podarí dohodnúť na pravidlách skôr, než sa autonómne zbraňové systémy stanú bežnou súčasťou bojísk.
© Autorské práva vyhradené
内容来自 Pravda - Žurnál,版权归原作者所有。
阅读原文 ↗