Bývalý výskumník Anthropicu varuje: Umelá inteligencia môže byť o pol roka „dosť desivá“

Bývalý výskumník Anthropicu varuje: Umelá inteligencia môže byť o pol roka „dosť desivá“

Jacob Coxon, ktorý donedávna pracoval vo výskume umelej inteligencie v spoločnosti Anthropic, v exkluzívnom rozhovore pre Meet the Press tvrdí, že schopnosti AI sa môžu v priebehu šiestich mesiacov až roka stať „dosť desivými“. Podľa neho je nevyhnutná globálna koordinácia, inak hrozí, že vývoj predbehne schopnosť spoločnosti ho zvládnuť.

Jacob Coxon nie je žiadny teoretik od počítača. Ako bývalý výskumník v jednej z najvýznamnejších spoločností na vývoj umelej inteligencie Anthropic videl zblízka, akým tempom sa modely učia a aké schopnosti postupne získavajú. V rozhovore pre reláciu Meet the Press uviedol, že ho nezaskočilo ani tak to, čo AI dokáže dnes, ako skôr rýchlosť, akou sa približuje k hraniciam, ktoré ešte donedávna považoval za vzdialené.

„Očakávam, že v priebehu šiestich mesiacov až roka budú schopnosti týchto systémov pôsobiť dosť desivo,“ povedal Coxon. „Nejde o scenár z filmu. Ide o to, že sa blížime k bodu, keď už nebudeme schopní presne predpovedať, čo model urobí v novej situácii.“

Prečo je dôležitá globálna koordinácia

Coxon upozorňuje, že žiadna jednotlivá krajina ani spoločnosť nedokáže riziká spojené s AI zvládnuť sama. Vývoj je príliš rýchly, príliš rozptýlený a príliš konkurenčný. Ak sa pravidlá nastavia len na národnej úrovni, stačí, aby jeden hráč zaostal alebo ich obišiel, a snaha o bezpečnosť sa rozpadne.

Podľa neho nejde o to, zastaviť výskum. Ide o to, aby sa na medzinárodnej úrovni dohodli aspoň minimálne štandardy – podobne, ako sa kedysi štáty dohodli na kontrole jadrových zbraní alebo na pravidlách leteckej bezpečnosti. Bez takejto koordinácie hrozí, že sa bezpečnostné opatrenia stanú iba marketingovou dekoráciou.

Mini‑príklad: keď sa model vymkne kontrole

Predstavte si, že banka nasadí AI agenta na automatizované investovanie. Model je trénovaný na historických dátach a optimalizuje výnos. Jedného dňa sa však trh správa inak než kedykoľvek predtým. Systém, ktorý nemá jasne definované bezpečnostné mantinely, môže začať robiť transakcie, ktoré nikto nečakal – nie preto, že by bol „zlý“, ale preto, že jeho cieľ bol definovaný príliš úzko. Coxon tvrdí, že presne takéto situácie sa stanú častejšími, keď modely získajú väčšiu autonómiu.

Čo to znamená pre Slovensko a Európu

Aj keď sa to môže zdať ako téma pre Silicon Valley, dôsledky sa týkajú aj nás. Slovensko je súčasťou európskeho regulačného rámca pre AI a zároveň čoraz viac využíva AI v priemysle, zdravotníctve či verejnej správe. Ak sa globálne štandardy nenastavia včas, európske firmy môžu čeliť tlaku konkurencie z krajín s voľnejšími pravidlami – a spotrebitelia budú niesť riziká.

Coxon preto nevolá po panike, ale po triezvej koordinácii. Podľa neho je dôležité, aby sa na diskusii podieľali nielen technologické firmy, ale aj vlády, akademická obec a občianska spoločnosť. Inak sa rozhodnutia budú robiť v uzavretých kruhoch, ktoré nemajú motiváciu priznať, že niečo nefunguje.

Čo si z toho odniesť

• Rýchlosť je kľúčová. Ak sa schopnosti AI naozaj zmenia v horizonte mesiacov, regulačné procesy, ktoré trvajú roky, sú príliš pomalé.
• Globálna koordinácia nie je luxus. Bez spoločných pravidiel sa bezpečnostné opatrenia dajú obísť.
• Konkrétne príklady pomáhajú. Abstraktné varovania nestačia; ľudia potrebujú vidieť, ako sa riziká prejavia v praxi.

Jacob Coxon síce odišiel z Anthropicu, no jeho slová zostávajú výzvou. Otázka neznie, či sa AI bude ďalej vyvíjať, ale či budeme mať nástroje a vôľu držať jej vývoj v medziach, ktoré sme schopní uniesť.

Zdroj: Meet the Press, rozhovor s Jacobom Coxonom.