Florida žaluje OpenAI a Sama Altmana: Obviňuje ich z uprednostňovania zisku pred bezpečnosťou

Generálny prokurátor Floridy podal žalobu na OpenAI a jej generálneho riaditeľa Sama Altmana. Tvrdí, že spoločnosť zavádza verejnosť o bezpečnosti svojich produktov s cieľom maximalizovať zisk.

Podstata žaloby

Podľa žaloby, OpenAI vedome zverejňovala nepravdivé a zavádzajúce informácie o bezpečnostných opatreniach svojich modelov umelej inteligencie, vrátane GPT-4. Prokuratúra tvrdí, že spoločnosť propagovala svoje systémy ako dôkladne otestované a bezpečné, no v skutočnosti nedostatočne riešila riziká, ako je generovanie dezinformácií, nelegálneho obsahu alebo narušenie súkromia.

„OpenAI uprednostnila rast podnikania a prilákanie investorov pred zodpovedným vývojom umelej inteligencie,“ uvádza sa v podaní.

Konkrétny príklad

Ako dôkaz žaloba cituje prípad, keď verejne dostupná beta verzia GPT-4 generovala podrobné návody na výrobu nebezpečných chemikálií. Napriek sľubom, že takéto výstupy budú zablokované, OpenAI podľa žaloby zlyhala pri implementácii účinných filtrov.

Kroky spoločnosti

OpenAI sa k obvineniam zatiaľ nevyjadrila. V minulosti však Altman opakovane vyzýval na reguláciu umelej inteligencie a svedčil pred Kongresom o potrebe bezpečnostných noriem. Tento paradox – verejná podpora regulácie, no obvinenia z jej obchádzania – je jedným z hlavných bodov kritiky.

Širší kontext

Floridská žaloba je súčasťou rastúceho tlaku na technologické firmy v oblasti umelej inteligencie. Regulačné orgány v USA aj v Európe skúmajú, či vývojári AI dostatočne chránia spotrebiteľov. Slovenských čitateľov môže zaujímať, že podobné iniciatívy sa objavujú aj v EÚ – napríklad pripravovaný AI Act stanovuje prísne pravidlá pre systémy s vysokým rizikom.

Čo to znamená?

Ak súd žalobe vyhovie, mohlo by to viesť k pokutám, povinnej zmene obchodných praktík OpenAI a prísnejšiemu dohľadu nad celým odvetvím. Pre slovenských čitateľov to znamená, že aj nás môžu ovplyvniť globálne štandardy – teda o čo zodpovednejšia AI bude v USA, tým bezpečnejšie nástroje sa dostanú aj k nám.