„Kmotr AI“ varuje: Kongres má možno len rok na to, aby reguloval umelú inteligenciu
„Kmotr AI“ varuje: Kongres má možno len rok na to, aby reguloval umelú inteligenciu
Geoffrey Hinton, uznávaný ako „Kmotr umelej inteligencie“, predniesol znepokojujúce varovanie: Kongres Spojených štátov môže mať už len približne jeden rok na to, aby zaviedol ochranné opatrenia pre umelú inteligenciu (AI), kým nad ňou stratí kontrolu.
Hinton, ktorý je považovaný za jedného z priekopníkov moderného výskumu hlbokého učenia, nedávno opustil spoločnosť Google, aby mohol slobodne hovoriť o rizikách spojených s rýchlo sa vyvíjajúcou technológiou. Jeho varovanie prichádza v čase, keď zákonodarcovia po celom svete zrýchľujú snahy o vytvorenie regulačného rámca pre AI.
Prečo je rok kritický
Podľa Hintona sa schopnosti systémov umelej inteligencie zlepšujú míľovými krokmi a čoskoro môžu prekonať schopnosť ľudí im porozumieť a kontrolovať ich. Ak Kongres nebude konať rýchlo, môže sa stať, že akékoľvek neskoršie snahy o reguláciu už nebudú mať zmysel, pretože technológia sa dostane mimo dosah demokratickej kontroly.
„Myslím si, že Kongres má možno rok na to, aby niečo urobil,“ uviedol Hinton. „Ak to nezvládne, umelá inteligencia sa vymkne kontrole.“
Hinton tiež upozornil, že nejde len o teoretické riziko. Už dnes existujú prípady, keď systémy AI generujú dezinformácie, manipulujú s verejnou mienkou alebo sa používajú na kybernetické útoky. Ak sa takéto schopnosti dostanú do nesprávnych rúk, následky môžu byť nedozerné.
Konkrétny príklad: deepfakes a voľby
Ako názorný príklad môže poslúžiť šírenie deepfake videí počas volebných kampaní. Umelá inteligencia dokáže vytvoriť realistické, no falošné videá politikov, ktoré môžu ovplyvniť volebné správanie. Bez jasných regulačných pravidiel a mechanizmov na overovanie obsahu hrozí, že voliči budú čeliť záplave manipulatívnych materiálov, čo podkopáva dôveru v demokratické procesy.
Čo môže Kongres urobiť
Hinton vyzýva zákonodarcov, aby urýchlili práce na legislatíve, ktorá by zaviedla:
- povinné testovanie a certifikáciu vysoko rizikových AI systémov,
- transparentnosť pri vývoji a nasadení AI,
- mechanizmy na rýchle zastavenie nebezpečných aplikácií,
- medzinárodnú spoluprácu, aby sa predišlo regulačným únikom.
Podľa neho však nejde len o zákony. Je potrebné aj vzdelávanie verejnosti a odborná diskusia o etických a bezpečnostných aspektoch AI.
Reakcie a kontext
Hintonove slová rezonujú v prostredí, kde sa čoraz viac hovorí o potrebe globálnych pravidiel pre umelú inteligenciu. Európska únia už pracuje na svojom AI Act, ktorý má zaviesť jednotné normy pre celý blok. Spojené štáty zatiaľ zaostávajú a spoliehajú sa na čiastkové opatrenia a dobrovoľné záväzky technologických firiem.
Ak Kongres nevyužije najbližší rok, môže sa stať, že USA prídu o možnosť formovať podobu umelej inteligencie v súlade s demokratickými hodnotami. Hintonov odkaz je jasný: čas sa kráti.
Tento článok prináša Americké Správy, váš zdroj správ o Spojených štátoch v slovenčine.
