Verejná politická agenda spoločnosti OpenAI

Poslaním OpenAI je zabezpečiť, aby všeobecná umelá inteligencia (AGI) prinášala úžitok celému ľudstvu. Pri práci sa riadime piatimi základnými zásadami⁠, ktoré formujú náš vývoj AI a zapojenie do tvorby verejných politík: 

1. Demokratizácia. Budeme sa stavať proti tomu, aby táto technológia sústreďovala moc v rukách niekoľkých ľudí.
2. Posilnenie. Veríme, že AI môže každému pomôcť dosahovať svoje ciele, viac sa učiť, byť šťastnejší a naplnenejší a ísť si za svojimi snami, a že z toho bude mať prospech celá spoločnosť.
3. Všeobecná prosperita. Chceme budúcnosť, v ktorej môže mať každý vynikajúci život.
4. Odolnosť. AI prinesie nové riziká a my budeme spolupracovať s ďalšími firmami, ekosystémami, vládami a spoločnosťou na ich riešení. 
5. Prispôsobivosť. Naďalej veríme, že jediný spôsob, ako čeliť výzvam týkajúcim sa mimoriadne nepredvídateľnej budúcnosti, je byť pripravení upraviť svoje stanoviská s postupným nadobúdaním poznatkov. 

Veríme, že AI má potenciál zmeniť to, ako ľudia pracujú, učia sa, tvoria a zapájajú sa do spoločnosti, a že demokracie budú zohrávať zásadnú úlohu pri rozširovaní prístupu k príležitostiam, zmierňovaní rizík a zabezpečení toho, aby ľudia mali skutočnú možnosť aktívne ovplyvňovať budúcnosť AI podľa seba. Preto sa zaväzujeme sprístupňovať naše technológie bezplatne a bezpečne. 

Naša používateľská základňa odráža tento záväzok:⁠ naše nástroje používa rovnaký počet žien ako mužov, máme viac používateľov mladších aj starších ako 30 rokov než ktorákoľvek iná platforma umelej inteligencie a viac používateľov s ročným príjmom pod 100 000 USD než nad 100 000 USD, čím odzrkadľujeme širšiu globálnu pracovnú silu.

Preto OpenAI vedie dialóg s vládami a občianskou spoločnosťou na celom svete: aby ste pomohli tvorcom politík pochopiť našu technológiu a jej vplyvy, zlepšili fungovanie vlád a spôsob, akým prinášajú hodnotu svojim občanom, rozšírili možnosti ľudí zapájať sa do demokratických inštitúcií a využívať ich prínosy a formovať politiky, ktoré podporujú naše poslanie zabezpečiť, aby AGI prinášala prospech celému ľudstvu.

Nasledujúce priority odrážajú, ako premietame naše poslanie⁠ a naše princípy⁠ do verejnej politiky. Podporujeme politiky, ktoré pomáhajú vládam a spoločnosti reagovať na príležitosti a výzvy, ktoré prináša umelá inteligencia, zmierňovať riziká, rozširovať prístup k príležitostiam a zabezpečiť, aby sa ľudia mohli zmysluplne zapájať do ekonomiky umelej inteligencie a profitovať z nej. Spoločne majú tieto priority pomôcť vládam lepšie slúžiť svojim občanom a zároveň napĺňať naše poslanie zabezpečiť, aby všeobecná umelá inteligencia (AGI) prinášala prospech celému ľudstvu. Predstavujú niektoré z oblastí, v ktorých sa dnes najaktívnejšie angažujeme. Tento zoznam však nie je úplný. S vývojom umelej inteligencie očakávame, že sa budú naďalej vyvíjať aj naše priority v politikách a zapojení.

Veríme, že bezpečnosť prelomovej umelej inteligencie je otázkou národnej bezpečnosti a verejnej bezpečnosti, najmä v prípade najpokročilejších modelov umelej inteligencie na všeobecné použitie, ktoré môžu vytvárať riziká súvisiace s kybernetickými, chemickými, biologickými, rádiologickými a jadrovými (CBRN) zbraňami. V Spojených štátoch amerických podporujeme úsilie jednotlivých štátov o zosúladenie v rámci spoločných rámcov, ako sú California SB 53⁠(otvorí sa v novom okne), New York RAISE Act⁠(otvorí sa v novom okne) a Illinois SB 315⁠(otvorí sa v novom okne), ktoré zdôrazňujú transparentnosť, verejné informovanie o hodnoteniach rizík s katastrofálnymi následkami a bezpečnostných incidentoch, ochranu oznamovateľov a vymáhateľnú zodpovednosť vývojárov, ktorí si neplnia svoje povinnosti v oblasti bezpečnosti a zabezpečenia. Tieto prístupy na úrovni jednotlivých štátov môžu pomôcť vytvoriť harmonizované štandardy, ktoré znižujú roztrieštenosť a vytvárajú cestu k budúcemu federálnemu rámcu. 

Podporujeme aj kroky Kongresu na vytvorenie komplexného federálneho rámca, ktorý využije vznikajúci konsenzus odrážajúci sa v zákonoch jednotlivých štátov o bezpečnosti prelomových riešení, posilní Centrum pre normy a inovácie v oblasti AI (CAISI) ako hlavnú inštitúciu federálnej vlády USA pre bezpečnosť prelomovej AI a zmobilizuje širší plán odolnosti vo vláde s cieľom riešiť výzvy pre národnú bezpečnosť a verejnú bezpečnosť, ktoré predstavuje prelomová AI. Tento rámec by mal od centra CAISI vyžadovať vykonávanie hodnotení najvýkonnejších prelomových modelov, poveriť CAISI vytvorením nezávislého ekosystému posudzovania a uprednostniť monitorovanie pokroku smerom k rekurzívnemu sebazdokonaľovaniu (RSI). Pomocou zavedeného komplexného federálneho rámca podporujeme prednostné uplatnenie federálneho práva pred zákonmi jednotlivých štátov, ktoré sa snažia regulovať tie isté bezpečnostné riziká prelomových technológií.

Podporujeme tiež federálnu vládu USA v tom, aby zohrávala vedúcu úlohu pri stanovovaní spoločných medzinárodných štandardov, a boli sme prvou americkou spoločnosťou, ktorá podpísala Kódex postupov k Aktu EÚ o umelej inteligencii. Patrili sme tiež medzi prvé spoločnosti, ktoré uzavreli dobrovoľné dohody s americkým centrom CAISI aj s britským Inštitútom pre bezpečnosť umelej inteligencie (UK AISI). 

Pri pohľade do budúcnosti sme presvedčení, že tvorcovia politík by sa mali začať zameriavať na ambicióznejšie nápady⁠(otvorí sa v novom okne), ako sú príručky postupov na obmedzovanie modelov, hlásenie incidentov alebo medzinárodné riadiace orgány, ktoré uľahčujú koordináciu v oblasti rizík prelomovej umelej inteligencie, ochranných opatrení a bezpečnostných incidentov.

Konkrétne v oblasti kybernetickej bezpečnosti⁠(otvorí sa v novom okne) podporujeme politiky, ktoré rozširujú dôveryhodný prístup k nástrojom kybernetickej obrany využívajúcim umelú inteligenciu, ako aj pevnejšie partnerstvá medzi vládami, výskumníkmi a priemyslom s cieľom vykonávať hodnotenia, prehlbovať zdieľanie informácií a budovať opatrenia zamerané na odolnosť a posilnenie kybernetickej obrany. Podporujeme tiež úsilie o modernizáciu zastaraných systémov kybernetickej bezpečnosti vo verejnom sektore a spolupracujeme s vládou USA na federálnej, štátnej a miestnej úrovni, ako aj s medzinárodnými partnermi.

Veríme, že umelá inteligencia môže mladým ľuďom pomôcť učiť sa, tvoriť a rozvíjať zručnosti a podnikateľské myslenie, ktoré budú potrebovať na to, aby sa im v budúcej ekonomike darilo – za predpokladu, že bude nasadená so silnými bezpečnostnými opatreniami a ochranou primeranou veku. Tínedžeri by mali mať doma, v škole aj počas prípravy na vstup na trh práce prístup k bezpečnej a dôveryhodnej umelej inteligencii⁠(otvorí sa v novom okne) a mali by byť chránení pred jej potenciálnymi škodlivými následkami. Podporujeme prísne, vymáhateľné regulácie založené na posudzovaní rizík v oblasti bezpečnosti dospievajúcich a rámce, ktoré kombinujú robustné ochranné opatrenia s transparentnosťou a nástrojmi, ktoré dodávajú rodinám kontrolu. 

Patria sem požiadavky na overovanie veku so zachovaním súkromia, aby spoločnosti dokázali rozpoznať, keď je používateľ maloletý, a uplatniť ochranné opatrenia primerané veku. Pravidelné posúdenia rizík pre bezpečnosť mládeže identifikujú predvídateľné riziká a vedú k primeraným ochranným opatreniam ešte pred tým, ako dôjde k ujme. Dostupná rodičovská kontrola pomáha rodinám usmerňovať a podporovať skúsenosti ich tínedžerov. Jasné verejné politiky bezpečnosti mládeže vysvetľujú, aké ochranné opatrenia sú zavedené a ako sa postupom času vyvíjajú.

Zahŕňa to aj ochranné opatrenia navrhnuté na riešenie rizík, s ktorými sa tínedžeri môžu stretnúť pri interakcii so systémami umelej inteligencie, vrátane ochrany pred škodlivým alebo vekovo nevhodným obsahom, jasných protokolov na reakciu na vážne bezpečnostné situácie a ochranných opatrení proti manipulatívnym alebo klamlivým interakciám. Protokoly reakcie na krízové situácie by mali zahŕňať podporu v rámci služby, nasmerovanie na vhodné zdroje pomoci v reálnom svete, ako je napríklad linka 988 v Spojených štátoch, a včasné informovanie rodičov, ak je to vhodné. Spoločnosti by mali mať tiež povinnosť chrániť osobné údaje tínedžerov a to aj obmedzením cielenej reklamy zameranej na maloletých a predaja osobných údajov.

Napokon sú tu silné mechanizmy zodpovednosti vrátane nezávislých auditov, ktoré sú nevyhnutné pre to, aby tieto ochranné opatrenia mali v praxi skutočný význam. Audity by mali byť podložené súborom spoločných štandardov, ktoré umožňujú interoperabilné audity naprieč rôznymi jurisdikciami. Legislatívne rámce by mali zahŕňať opatrenia v oblasti dohľadu a presadzovania, ktoré vládam umožnia posúdiť, či spoločnosti účinne zavádzajú ochranné opatrenia na zaistenie bezpečnosti mladých ľudí, zmierňujú identifikované riziká a dodržiavajú povinnosti týkajúce sa bezpečnosti mladých ľudí a ochrany súkromia. Sme hrdí na to, že podporujeme úsilie Koalície pre bezpečnú AI pre rodičov a deti⁠(otvorí sa v novom okne) presadzovať tieto zásady a podporovať praktické ochranné opatrenia v oblasti AI, ktoré chránia mladých ľudí a zároveň zachovávajú ich schopnosť učiť sa s pomocou AI a využívať jej výhody. 

Okrem toho podporujeme silné právne a technické ochranné opatrenia proti sexuálnemu zneužívaniu a vykorisťovaniu detí. Patrí sem modernizácia zákonov na ochranu detí, aby riešili spôsoby, akými môže byť generatívna umelej inteligencie zneužitá na vytváranie syntetických materiálov zobrazujúcich pohlavné zneužívanie detí (CSAM), digitálnu úpravu existujúcich obrazových materiálov a rozširovanie groomingu alebo aktivít zameraných na vykorisťovanie. Tvorcovia politík by mali zabezpečiť, aby právne predpisy týkajúce sa CSAM jasne zahŕňali materiál vytvorený umelou inteligenciou a digitálne upravený materiál, objasňovali zodpovednosť za úmyselné snahy vytvárať alebo vyžiadať si CSAM, a aby zachovávali silné právomoci na presadzovanie práva pre prokurátorov a orgány činné v trestnom konaní. Podporujeme aj štandardy nahlasovania a koordinácie pre poskytovateľov, ktoré zlepšujú kvalitu a praktickú využiteľnosť hlásení CyberTipline, znižujú vyšetrovaciu záťaž a pomáhajú organizácii NCMEC a orgánom činným v trestnom konaní konať rýchlejšie. Napokon by spoločnosti mali zaviesť ochranné opatrenia založené na princípe bezpečnosti už v návrhu, vrátane detekcie, mechanizmov odmietania, ľudského dohľadu a nepretržitého monitorovania, aby zastavili pokusy o zneužitie skôr, než dôjde k ujme.

Umelá inteligencia bude čoraz viac formovať spôsob, akým sa ľudia učia, pracujú a zapájajú do občianskeho života. Vzdelávacie inštitúcie budú zohrávať kľúčovú úlohu pri budovaní gramotnosti v oblasti umelej inteligencie⁠(otvorí sa v novom okne) a príprave študentov na orientáciu vo svete, v ktorom je umelá inteligencia všadeprítomná. Podporujeme politiky, ktoré pomáhajú študentom, učiteľom, rodinám a komunitám pracovať s umelou inteligenciou bezpečne, kriticky a tvorivo, pričom zabezpečujú, aby pedagógovia zostali kľúčoví pri rozhodovaní v triede a určovali tempo, akým sa umelá inteligencia zavádza do škôl. To zahŕňa investície do gramotnosti v oblasti umelej inteligencie, kvalitnej základnej výučby v predmetoch, ako sú história, občianska náuka, matematika, prírodné vedy, literatúra, informatika a odborné a technické vzdelávanie. Zahŕňa aj odbornú prípravu učiteľov a vyhradený čas na profesijné vzdelávanie, vzdelávacie cesty zosúladené s potrebami trhu práce a rozšírený prístup k nástrojom umelej inteligencie, širokopásmovému internetu, zariadeniam a vzdelávacím zdrojom pre školy, knižnice a komunitné inštitúcie. Podporujeme aj snahy o posilnenie výskumu toho, ako umelá inteligencia ovplyvňuje výsledky vzdelávania, celkovú pohodu študentov a rovnosť príležitostí vo vzdelávaní, ako aj snahy o začlenenie získaných poznatkov do vývoja a nasadzovania umelej inteligencie.

Veríme, že každý by mal mať možnosť podieľať sa na nových príležitostiach, ktoré vytvára AI⁠(otvorí sa v novom okne), a preto sprístupňujeme ChatGPT bezplatne. Podporujeme politiky, ktoré rozširujú cenovo dostupný prístup k užitočnej umelej inteligencii a pomáhajú pracovníkom, podnikateľom, pedagógom a malým podnikom osvojovať si ju prostredníctvom investícií do vzdelávania pracovníkov a gramotnosti v oblasti umelej inteligencie. Podporujeme aj vytváranie regionálnych centier AI, ktoré prepájajú zamestnávateľov, odborové organizácie, komunitné vysoké školy, univerzity, rady pre rozvoj pracovnej sily a miestne podniky, ako aj programy na podporu zavádzania AI v malých podnikoch, ktoré poskytujú prístup k nástrojom AI, technickej podpore a praktickým školeniam.

Takisto spolupracujeme s odborovými organizáciami⁠(otvorí sa v novom okne) s cieľom rozšíriť prístup k školeniam⁠, ktoré pracovníkom pomáhajú rozvíjať praktické zručnosti v oblasti AI a pripraviť sa na zmeny v ekonomike vyvolané čoraz schopnejšími systémami AI. Pravidelne tiež zverejňujeme údaje o tom, ako pracovníci a zamestnávatelia používajú naše nástroje, a podporujeme opatrenia zamerané na transparentnosť pracovníkov, ktoré nielen pomáhajú tvorcom politík a verejnosti lepšie pochopiť, ako AI mení prácu, ale tiež pomáhajú identifikovať cesty, ktoré pracovníkom umožňujú objavovať nové roly a prácu zameranú na človeka. Zároveň sme odhodlaní spolupracovať s tvorcami politík na vypracovaní a implementácii ambicióznejšej agendy transformácie pracovníkov a hospodárstva⁠(otvorí sa v novom okne), ktorá počíta s prenositeľnými benefitmi, modernizáciou daňového systému, fondmi verejného bohatstva a adaptívnymi sociálnymi záchrannými sieťami.

Veríme, že AI môže rozšíriť možnosti tvorivého vyjadrenia, podporiť umelcov a tvorcov, priniesť nové formy vyjadrenia, komentovania a tvorivej transformácie a zmierniť prekážky pre nezávislých tvorcov, malé štúdiá a nové hlasy, aby sa mohli zapojiť do kreatívnej ekonomiky. Zároveň by ľudia mali byť schopní pochopiť, odkiaľ digitálny obsah pochádza, a byť chránení pred škodlivými deepfakmi, napríklad pred klamlivým vydávaním sa za inú osobu a neoprávnenými digitálnymi replikami. Podporujeme politiky, ktoré presadzujú transparentnosť v online prostredí vrátane požiadaviek na to, aby nástroje umelej inteligencie zahŕňali do audiovizuálneho obsahu, ktorý generujú, signalizáciu pôvodu, napríklad takú, ktorú vyvinula Koalícia pre pôvod a autentickosť obsahu (Coalition for Content Provenance and Authenticity, C2PA), a spolupracujeme s partnermi naprieč odvetviami na presadzovaní interoperabilných štandardov pôvodu a nástrojov na overovanie autentickosti obsahu, ktoré ľuďom pomáhajú lepšie pochopiť, odkiaľ digitálny obsah pochádza. Podporujeme pravidlá, ktoré chránia pred škodlivým zneužívaním hlasu a podoby, pričom zachovávajú dôležité ochranné mechanizmy pre slobodu prejavu, paródiu, žurnalistiku a ďalšie zákonné spôsoby použitia. 

Podporujeme silnú ochranu proti sexuálnemu zneužívaniu prostredníctvom obrazového materiálu, vrátane snáh kriminalizovať šírenie syntetických intímnych zobrazení bez súhlasu a posilniť právne prostriedky nápravy pre obete. Podporujeme ochranu integrity volieb v súvislosti s klamlivým politickým obsahom generovaným umelou inteligenciou, vrátane zákazov úmyselného šírenia obsahu generovaného umelou inteligenciou na zavádzanie voličov a požiadaviek na zverejňovanie informácií pri politickej reklame a komunikácii kampaní generovanej umelou inteligenciou. Spolupracujeme s dôveryhodnými volebnými orgánmi, aby sme pomohli poskytovať presné informácie o hlasovaní a voľbách⁠ a zabránili tomu, aby naše systémy neprimerane odporúčali alebo zoraďovali kandidátov.

Veríme, že ak sa infraštruktúra AI rozvíja v spolupráci s komunitami, stáva sa hnacím motorom miestneho, regionálneho a celoštátneho hospodárskeho rastu. Spolupráca s miestnymi komunitami sa začína pochopením miestnych potrieb. Preto má každá lokalita Stargate prispôsobený komunitný plán⁠ vypracovaný po konzultácii s komunitami, a to vrátane dizajnu lokality a zdrojov energie. To je tiež dôvod, prečo podporujeme politiky, ktoré požadujú transparentnosť v oblasti vody, elektriny, a dohôd uzatváraných s vládou, s primeranými výnimkami v záujme zachovania bezpečnosti, komerčne citlivých informácií, obchodných tajomstiev a vlastníckych informácií. 

Zaväzujeme sa hradiť svoje vlastné náklady na energiu, aby naše prevádzky nezvyšovali ceny elektriny, a zároveň podporujeme politiky, ktoré zabezpečia, že dátové centrá budú platiť svoj spravodlivý podiel na nákladoch na elektrinu, vrátane požiadaviek, aby štátne komisie pre reguláciu verejných služieb vytvorili tarify pre veľkých odberateľov, ktoré vyžadujú, aby dátové centrá platili dodatočné náklady, ktoré spôsobujú. Spolupracujeme s miestnymi energetickými spoločnosťami a regulačnými orgánmi, aby dátové centrá prispievali k spoľahlivosti elektrizačnej sústavy. Podporujeme aj požiadavky na vykazovanie udržateľnosti vrátane zverejňovania informácií o technológiách a postupoch, ktoré znižujú vplyvy na životné prostredie, ako sú záložné generátory s nízkymi emisiami a chladiace systémy s uzavretým okruhom alebo s nízkou spotrebou vody. Podporujeme opatrenia, ktoré miestnym pracovníkom pomáhajú získať prístup k dobre plateným pracovným miestam v stavebníctve vrátane stimulov na využívanie registrovaných učňov a dohôd o pracovných podmienkach pri projektoch. A podporujeme politiky, ktoré zachovávajú odvetvovo neutrálne a predvídateľné rámce daní a stimulov, vedú spoločnosti k zodpovednosti za plnenie svojich záväzkov a podnecujú inovácie, podnikanie a dlhodobý hospodársky rast v okolitých komunitách.