Bývalý výskumník Anthropic: Kongres by mal nechať AI firmy regulovať sa samé, kým nevznikne dozorný orgán
Bývalý výskumník Anthropic: Kongres by mal nechať AI firmy regulovať sa samé, kým nevznikne dozorný orgán
Jacob Coxon, niekdajší výskumník v spoločnosti Anthropic, v nedeľu vyzval americký Kongres, aby dočasne umožnil popredným laboratóriám vyvíjajúcim hraničné modely umelej inteligencie, aby sa regulovali samy. Zákonodarcovia by podľa neho mali medzitým pracovať na dlhodobom regulačnom rámci, ktorý spomalí tempo vývoja AI.
Podľa Coxona je súčasná situácia v oblasti umelej inteligencie natoľko dynamická, že okamžité a prísne zákony by mohli skôr uškodiť ako pomôcť. Tvrdí, že kým sa vytvorí funkčný dozorný orgán, mali by mať etablované americké laboratóriá – ako Anthropic, OpenAI či Google DeepMind – priestor na vlastné pravidlá a samoreguláciu. Tento prístup by podľa neho umožnil rýchlejšie reagovať na nové technologické výzvy a zároveň nezablokoval inovácie, v ktorých Spojené štáty momentálne vedú.
„Ak Kongres nebude konať rýchlo, hrozí, že regulácia príde neskoro a bude reagovať na už zastarané technológie. Dovtedy by mali mať firmy možnosť nastaviť si vlastné etické a bezpečnostné štandardy,“ uviedol Coxon počas diskusie o budúcnosti AI politiky.
Prečo samoregulácia a nie okamžitá legislatíva?
Coxon argumentuje, že federálne agentúry nemajú dostatočné technické kapacity ani odborníkov, ktorí by dokázali efektívne dohliadať na vývoj hraničných modelov. Vytvorenie nového úradu by podľa neho trvalo roky a medzitým by mohlo dôjsť k nežiadúcim následkom – od spomalenia výskumu až po odchod talentovaných odborníkov do zahraničia.
Ako konkrétny príklad uvádza situáciu z roku 2023, keď sa viaceré AI laboratóriá dobrovoľne zaviazali k bezpečnostným testom pred uvedením nových modelov. Hoci nešlo o zákonom vynútené pravidlá, podľa Coxona tento krok odvrátil niekoľko potenciálnych rizík a ukázal, že firmy dokážu konať zodpovedne, ak majú jasný rámec a motiváciu.
Riziká a výzvy samoregulácie
Kritici namietajú, že samoregulácia môže viesť k uprednostňovaniu obchodných záujmov pred bezpečnosťou. Bez vonkajšej kontroly by firmy mohli zanedbať etické aspekty vývoja AI, ako je napríklad ochrana súkromia alebo predchádzanie zneužívaniu modelov na dezinformácie. Coxon však tvrdí, že práve dočasná samoregulácia dáva priestor na vznik odborného dozorného orgánu, ktorý bude mať dostatočné znalosti a nebude iba politickým nástrojom.
| Prístup | Výhody | Nevýhody |
|---|---|---|
| Samoregulácia (dočasná) | Rýchla adaptácia, podpora inovácií, menšia byrokracia | Riziko konfliktu záujmov, chýbajúca vonkajšia kontrola |
| Okamžitá federálna regulácia | Jednotné pravidlá, ochrana spotrebiteľov | Pomalé zavádzanie, možné brzdenie výskumu |
| Vznik nezávislého dozorného orgánu | Odborný dohľad, vyváženosť | Časová náročnosť, nejasná jurisdikcia |
Čo bude nasledovať?
Coxon vyzýva Kongres, aby dočasne uznal samoregulačné mechanizmy popredných AI laboratórií a zároveň urýchlene pracoval na vytvorení nezávislého úradu. Ten by mal mať právomoc zasahovať v prípade preukázaných rizík, no zároveň by nemal duplikovať existujúce agentúry ako FTC alebo NIST.
Jeho slová prichádzajú v čase, keď americkí zákonodarcovia zvažujú niekoľko návrhov zákonov o umelej inteligencii. Otázka, či dať prednosť samoregulácii alebo tvrdej legislatíve, zostáva jednou z najdiskutovanejších tém v technologickej politike USA. Pre Slovensko a Európu, ktoré už prijali vlastný AI Act, je americký vývoj dôležitým signálom – ak sa Spojené štáty vydajú cestou dočasnej samoregulácie, môže to ovplyvniť globálne štandardy a konkurencieschopnosť európskych firiem.
Zdroj: Americké Správy
