Bývalý zamestnanec Anthropicu a OpenAI bije na poplach: Vývoj umelej inteligencie je príliš rýchly
Bývalý zamestnanec Anthropicu a OpenAI bije na poplach: Vývoj umelej inteligencie je príliš rýchly
Jacob Coxon, ktorý kedysi pracoval ako bezpečnostný výskumník v spoločnostiach Anthropic a OpenAI, vystúpil v relácii "This Week with George Stephanopoulos", aby upozornil na zrýchľujúce sa tempo vývoja umelej inteligencie.
Podľa Coxona sa technológia vyvíja rýchlejšie, než sú spoločnosti a regulačné orgány schopné primerane zvládať. Jeho varovanie prichádza v čase, keď sa čoraz viac diskutuje o tom, ako zaistiť, aby systémy AI zostali bezpečné a pod kontrolou.
„Nie je to len o tom, čo dokážeme postaviť, ale či dokážeme pochopiť dôsledky skôr, než bude neskoro,“ povedal Coxon.
Prečo je tempo vývoja problém
Coxon upozorňuje, že vývojári čelia tlaku na rýchle uvádzanie nových modelov na trh. To môže viesť k tomu, že sa bezpečnostné testy a etické kontroly robia narýchlo alebo sa odkladajú. Ako príklad uvádza situáciu, keď sa nový jazykový model nasadí do produkcie skôr, než sa dôkladne preskúma jeho správanie v citlivých scenároch.
- Rýchlosť vs. bezpečnosť: Inovácie často predbiehajú schopnosť overiť, či systémy nešíria dezinformácie alebo nepodporujú nežiaduce správanie.
- Regulácia zaostáva: Zákony a normy sa tvoria pomaly, zatiaľ čo technológia napreduje míľovými krokmi.
- Tlak na výskumníkov: Odborníci na bezpečnosť môžu byť v menšine alebo ich varovania prehluší komerčný tlak.
Čo to znamená pre používateľov
Pre bežných používateľov to znamená, že by mali byť obozretní pri dôvere výstupom AI, najmä v oblastiach ako zdravie, financie alebo správy. Coxon odporúča, aby ľudia zostali informovaní a podporovali transparentnosť zo strany vývojárov.
Spoločnosti ako Anthropic a OpenAI tvrdia, že bezpečnosti venujú pozornosť. Coxon však naznačuje, že je potrebný systémový posun – nielen dobrovoľné záväzky, ale aj nezávislý dohľad a jasné pravidlá.
Záver
Varovanie Jacoba Coxona je pripomienkou, že technologický pokrok so sebou nesie zodpovednosť. Ak sa vývoj AI nezvládne, môže to mať vážne následky. Je na spoločnostiach, regulačných orgánoch a samotných používateľoch, aby tlačili na zodpovedný postup.
Zdroj: This Week with George Stephanopoulos
