Demokrati tlačia na Pentagón: AI a útok na školu v Iráne

Viac ako 120 demokratických členov Kongresu USA žiada od Pentagónu podrobné vysvetlenia, ako americká armáda minimalizuje civilné obete v súvislosti s operáciami týkajúcimi sa Iránu a akú rolu pritom zohráva umelá inteligencia. Dopyt prichádza po medializovanom zásahu v Iráne, pri ktorom bola zasiahnutá škola, a ktorý opäť otvoril otázky transparentnosti, zodpovednosti a ľudskej kontroly pri použití nových technológií v boji.

„Technológia nesmie predbehnúť právo a zodpovednosť. Zásah musí vždy sprevádzať ľudský úsudok a zreteľ na ochranu civilistov,“ znie postoj, ktorý v Kongrese čoraz častejšie rezonuje naprieč bezpečnostnými témami.

Čo konkrétne chcú zákonodarcovia vedieť

Demokrati žiadajú od ministerstva obrany ucelený obraz o:

• tom, ako sa posudzuje riziko civilných obetí pred, počas a po operáciách;
• úlohe umelej inteligencie pri výbere a prioritizácii cieľov, vrátane toho, kde sú jasne stanovené jej limity;
• tom, ako je zabezpečená „človek v rozhodovanom cykle“ (human-in-the-loop) pri kritických momentoch;
• postupoch vyšetrovania, nápravy a vyvodzovania zodpovednosti v prípade civilnej ujmy.

Hoci načasovanie odpovedí nie je bezprostredne jasné, tlak Kongresu naznačuje, že téma prejde podrobnejším dohľadom v príslušných výboroch, prípadne aj formou uzavretých brífingov.

Prečo je AI v zameriavači Kongresu

Nasadzovanie umelej inteligencie v obranných systémoch sľubuje rýchlejšie spracovanie spravodajských dát a efektívnejšie rozhodovanie v zložitých bojových podmienkach. Súčasne však prináša riziká – od skreslení v dátach a omylov v klasifikácii cieľov až po hrozbu nadmernej automatizácie rozhodnutia o použití sily.

Pentagón sa v posledných rokoch opiera o rámce a zásady, ktoré majú tieto riziká tlmiť:

• zodpovedná, spravodlivá, sledovateľná, spoľahlivá a riaditeľná AI (tzv. Responsible AI Principles),
• dôraz na ľudský dohľad a odsúhlasovanie v kritických fázach použitia sily,
• programy na zmierňovanie civilných škôd a spätnú väzbu z terénu na priebežné úpravy postupov.

Tieto prístupy majú fungovať ako poistky proti chybám strojového učenia a proti unáhleným zásahom v dynamickom prostredí.

Modelový príklad: ako majú vyzerať poistky v praxi

Predstavme si operáciu v husto obývanej oblasti, kde sa rýchlo mení situácia na zemi. Senzory a analytické nástroje s prvkami AI vyhodnotia, že v konkrétnej budove sa nachádza ozbrojená bunkra a označia ju ako „cieľ s vysokou prioritou“.

• Vďaka geofencingu a krížovým overeniam sa však do rozhodovacieho rozhrania zároveň premietne, že len pár metrov od objektu je škola.
• Systém automaticky spustí eskalačný protokol: vyžaduje ľudské potvrdenie, ďalší zdroj spravodajských informácií a prepočet pravdepodobnosti civilnej ujmy.
• Veliteľ rozhodne útok pozdržať a prehodnotiť ho vo vhodnejšom čase alebo zvoliť presnejší prostriedok, ktorý zníži riziko pre civilistov.

Takýto „bezpečnostný brzdový mechanizmus“ je kľúčový v situáciách, kde aj drobný dátový omyl môže mať tragické následky.

Politické dôsledky a ďalšie kroky

Kongres tradične vykonáva dohľad nad rezortom obrany prostredníctvom písomných žiadostí, brífingov, uzavretých vypočutí a kontrolných návštev. V krajnom prípade môže využiť rozpočtové páky či legislatívne podmienky, ktoré sprísnia pravidlá nasadenia nových technológií.

• Možné výstupy: detailnejšie štandardy pre AI v cieľovaní, povinné audity algoritmov, jasnejší reporting o civilných škodách a posilnené tréningy na ochranu civilistov.
• Demokrati zdôrazňujú, že dôveryhodnosť USA stojí a padá na schopnosti spájať vojenskú účinnosť s prísnym rešpektovaním medzinárodného práva a ochrany civilného obyvateľstva.

Kontext pre slovenských čitateľov

Pre strednú Európu je táto debata relevantná z dvoch dôvodov:

• Spojenci v NATO priebežne zlaďujú pravidlá nasadenia a etické rámce pre moderné technológie; diskusia v USA často nastavuje štandardy aj pre ďalšie členské štáty.
• Transparentnosť pri použití AI vo vojenských systémoch sa stáva testom dôvery – doma, voči partnerom aj voči verejnosti, ktorá očakáva zodpovednosť pri použití sily.

Americké Správy budú vývoj sledovať. V tejto chvíli nie je zrejmé, kedy Pentagón poskytne úplné odpovede na požiadavky zákonodarcov.