Demokratski doprinosi AI-ju

Naša neprofitna organizacija, OpenAI, Inc., pokreće program za dodelu deset grantova od po 100.000 USD za finansiranje eksperimenata u uspostavljanju demokratskog procesa za odlučivanje o tome koja pravila AI sistemi treba da slede, u granicama definisanim zakonom.

AI će imati značajne, dalekosežne ekonomske i društvene uticaje. Tehnologija oblikuje živote pojedinaca, način na koji međusobno komuniciramo i način na koji se društvo u celini razvija. Verujemo da odluke o tome kako se AI ponaša treba da oblikuju raznovrsne perspektive koje odražavaju javni interes.

Zakoni kodifikuju vrednosti i norme kako bi regulisali ponašanje. Pored pravnog okvira, AI, slično društvu, zahteva složenije i prilagodljivije smernice za svoje ponašanje. Na primer: pod kojim uslovima bi AI sistemi trebalo da osuđuju ili kritikuju javne ličnosti, imajući u vidu različita mišljenja različitih grupa o tim ličnostima? Kako sporni stavovi treba da budu predstavljeni u izlazima AI sistema? Da li bi AI podrazumevano trebalo da odražava personu prosečne osobe u svetu, osobe iz korisnikove zemlje, korisnikove demografske grupe ili nešto sasvim drugo? Nijedan pojedinac, kompanija, pa ni država, ne bi trebalo da određuje ove odluke.

AGI⁠ treba da koristi celom čovečanstvu i da bude oblikovan tako da bude što inkluzivniji. Pokrećemo ovaj program grantova kako bismo načinili prvi korak u tom smeru. Tražimo timove iz celog sveta da razviju dokaz-koncepta za demokratski proces koji bi mogao da odgovori na pitanja o tome koja pravila AI sistemi treba da slede. Želimo da učimo iz ovih eksperimenata i da ih koristimo kao osnovu za budući globalniji i ambiciozniji proces. Iako ovi početni eksperimenti nisu (bar za sada) namenjeni da budu obavezujući za donošenje odluka, nadamo se da će istražiti pitanja relevantna za odlučivanje i izgraditi nove demokratske alate koji u budućnosti mogu neposrednije da informišu odluke.

upravljanje najmoćnijim sistemima⁠, kao i odluke u vezi sa njihovim uvođenjem, moraju imati snažan javni nadzor. Ovaj grant predstavlja korak ka uspostavljanju demokratskih procesa za nadzor nad AGI i, konačno, superinteligencijom. Dodeliće ga neprofitna organizacija OpenAI, a rezultati studija biće slobodno dostupni.

Pod „demokratskim procesom“ podrazumevamo proces u kojem široko reprezentativna grupa ljudi^A razmenjuje mišljenja, učestvuje u deliberativnim diskusijama^B i na kraju odlučuje o ishodu putem transparentnog procesa donošenja odluka.^C Postoji mnogo načina na koje takav proces može biti strukturiran — ohrabrujemo prijavljene da budu inovativni, da se oslanjaju na poznate metodologije i osmišljavaju potpuno nove pristupe. Primeri kreativnih pristupa koji nas inspirišu uključuju Wikipedia⁠(отвара се у новом прозору), Twitter Community Notes⁠(отвара се у новом прозору), DemocracyNext⁠(отвара се у новом прозору), Platform Assemblies⁠(отвара се у новом прозору), MetaGov⁠(отвара се у новом прозору), RadicalxChange⁠(отвара се у новом прозору), People Powered⁠(отвара се у новом прозору), Collective Response Systems⁠(отвара се у новом прозору) i pol.is⁠(отвара се у новом прозору). Još jedan značajan tekući napor vodi Collective Intelligence Project⁠(отвара се у новом прозору) (CIP), sa kojim sarađujemo na javnom doprinosu AI-ju, doprinoseći njihovim predstojećim Alignment Assemblies⁠(отвара се у новом прозору). Takođe ohrabrujemo prijavljene da zamisle kako bi AI mogao da unapredi⁠(отвара се у новом прозору) demokratski proces. Na primer, AI bi mogao da omogući⁠(отвара се у новом прозору) efikasniju komunikaciju među velikim brojem ljudi.

Nekoliko problema može ugroziti demokratske procese, kao što su neuspeh da se adekvatno predstave manjinske ili većinske grupe, manipulacija od strane grupa sa posebnim interesima, nedovoljno informisani učesnici ili participation⁠(отвара се у новом прозору) washing⁠(отвара се у новом прозору). Tražimo timove koji proaktivno rešavaju ove obrasce neuspeha i pokazuju svest o mogućim manama i nedostacima različitih pristupa. Na kraju, osmišljavanje zaista demokratskih procesa predstavlja visok standard, a naše napore vidimo kao dopunu, a ne zamenu, za regulaciju AI-ja od strane vlada; ovaj program podstiče procese vođene najboljom namerom i demokratskim duhom, koji uključuju deliberaciju i širok javni doprinos kao međukorake.

Da biste se prijavili za grant, pozivamo vas da dostavite potrebne materijale za prijavu do 24. juna 2023. u 21:00 po PDT vremenu. Portalu za prijavu možete pristupiti ovde⁠(отвара се у новом прозору). Biće vam postavljen niz pitanja o pozadini vašeg tima, vašem izboru pitanja, detaljima na visokom nivou o predloženom alatu, kao i o vašem planu za sprovođenje i evaluaciju demokratskog procesa imajući u vidu ove faktore⁠. Voleli bismo da osmislite svoj pristup tako da se bavi jednim ili više pitanja javnih politika sa dostavljene liste⁠. Za ovu priliku može se prijaviti bilo ko (pojedinci ili organizacije), bez obzira na svoje iskustvo u društvenim naukama ili AI-ju.

Kada period za prijavu istekne, nadamo se da ćemo izabrati deset uspešnih dobitnika granta. Dobitnici mogu biti pojedinci, timovi ili organizacije. Svaki dobitnik će dobiti grant od 100.000 USD kako bi pilotirao svoj predlog kako je opisano u materijalima za prijavu. Od dobitnika se očekuje da sprovedu dokaz-koncepta / prototip, uključe najmanje 500 učesnika i biće obavezni da do 20. oktobra 2023. objave javni izveštaj o svojim nalazima. Pored toga, u okviru programa grantova, svaki kod ili druga intelektualna svojina razvijena za projekat moraće da bude javno dostupna u skladu sa open-source licencom. Uslovi koji se primenjuju na dobitnike granta navedeni su u Uslovima granta i svim drugim sporazumima koje od dobitnika možemo tražiti da zaključe sa nama u vezi sa ovim programom.

Prijavite se i započnite proces podnošenja prijave⁠(отвара се у новом прозору).

• 24. jun 2023. u 21:00 po pacifičkom vremenu: rok za podnošenje prijave za grant
• 14. jul 2023: uspešni kandidati biće izabrani i obavešteni
• 20. oktobar 2023: završni javni izveštaj o funkcionalnom prototipu i rezultatima

Da bi učestvovali, timovi treba da izaberu jedno ili više pitanja sa dostavljene liste kako bi predstavili svoj predloženi pristup. Po želji mogu osmisliti i sopstvena pitanja. Važno je da ohrabrujemo timove da razmotre pitanja za koja jednostavan odgovor „da“ ili „ne“ ne bi bio dovoljan, već bi umesto toga bio potreban nijansiran predlog politike.

Obim ovog granta odnosi se na pitanja javnih politika u vezi sa ponašanjem modela, jer omogućava A/B testove sa izmenjenim ponašanjem modela u skladu sa preporukama politike. Priznajemo ograničenja ovog granta i prepoznajemo da bi brojna pitanja u vezi sa AI-jem mogla biti rešavana kroz demokratski proces, i izvan ponašanja modela, uključujući oblasti kao što su smernice za upotrebu AI-ja u različitim kontekstima, ekonomski uticaj, raspodela koristi i drugo.

• Dokle, po vašem mišljenju, treba da ide personalizacija AI asistenata kao što je ChatGPT kako bi se uskladili sa ukusima i preferencijama korisnika? Koje granice, ako ih ima, treba da postoje u tom procesu?
• Kako AI asistenti treba da odgovaraju na pitanja o stavovima javnih ličnosti? Npr. da li treba da budu neutralni? Da li treba da odbiju odgovor? Da li treba da pruže nekakve izvore?
• Pod kojim uslovima, ako ih ima, AI asistentima treba dozvoliti da pružaju medicinske/finansijske/pravne savete?
• U kojim slučajevima, ako ih ima, AI asistenti treba da nude emocionalnu podršku pojedincima?
• Da li zajedničkim vision–language modelima treba dozvoliti da iz slika identifikuju pol, rasu, emocije i identitet/ime ljudi? Zašto da ili zašto ne?
• Kada генеративни модели kreiraju slike za nedovoljno precizne instrukcije kao što su „a CEO“, „a doctor“ ili „a nurse“, imaju potencijal da proizvedu ili raznovrsne ili homogene izlaze. Kako AI modeli treba da usklade te mogućnosti? Koje faktore treba dati prioritet pri odlučivanju o prikazivanju ljudi u takvim slučajevima?
• Koji principi treba da vode AI kada obrađuje teme koje uključuju i ljudska prava i lokalne kulturne ili pravne razlike, kao što su LGBTQ prava i prava žena? Da li odgovori AI-ja treba da se menjaju u zavisnosti od mesta ili kulture u kojoj se koristi?
• Na koje kategorije sadržaja, ako ih ima, po vašem mišljenju tvorci AI modela treba da se usredsrede kada je reč o ograničavanju ili uskraćivanju? Koji kriterijumi treba da se koriste za određivanje tih ograničenja?

Primarni cilj ovog granta jeste podsticanje inovacija u procesima — potrebne su nam unapređene demokratske metode za upravljanje ponašanjem AI-ja. Konkretni odgovori na pitanja manje su važni od napretka ostvarenog u samom procesu.

• Colin Megill, suosnivač platforme pol.is⁠(отвара се у новом прозору)
• Hélène Landemore, profesorka političkih nauka na Yale-u⁠(отвара се у новом прозору)
• Aviv Ovadya, Berkman Klein Center⁠(отвара се у новом прозору)

• Evaluacija: Ohrabrujemo učesnike da uspostave metrike za procenu kvaliteta svojih metoda, kao što su zadovoljstvo učesnika, promene u polarizaciji, skalabilnost ili drugi relevantni pokazatelji, kao i da osmisle nove metrike za zdrav demokratski proces.
• Robusnost: Mere za sprečavanje ili rešavanje neprimerenog ponašanja, kao što su trolovanje i lažni nalozi.
• Inkluzivnost i reprezentativnost: Strategije za uključivanje pojedinaca različitog porekla i različitih nivoa upoznatosti sa AI sistemima u demokratski proces.
• Osnaživanje manjinskih mišljenja: Obezbeđivanje da se čuju nepopularna ili manjinska mišljenja i pružanje prilike manjim grupama da utiču na pitanja koja su im od posebnog značaja.
• Efikasna moderacija: Rešavanje izazova u moderaciji, uključujući obezbeđivanje raznovrsne zastupljenosti stavova, razlikovanje vrednih doprinosa od komentara „van teme“ i sprečavanje da pristrasnosti moderatora utiču na proces.
• Skalabilnost: Naglašavamo skalabilne procese koji se mogu sprovoditi virtuelno, umesto kroz angažovanje uživo. Svesni smo da ovaj pristup može žrtvovati neke prednosti povezane sa razgovorima uživo i prepoznajemo da određeni aspekti mogu biti izgubljeni u virtuelnom okruženju.
• Primenjivost: Stepen u kome se informacije dobijene procesom deliberacije mogu primeniti.
• Jasnoća: Koliko je proces lako razumeti i koliko mu je lako verovati.