Inputs demokratiċi għall-IA

L-organizzazzjoni tagħna mingħajr skop ta’ qligħ, OpenAI, Inc., qed tniedi programm biex tagħti għaxar għotjiet ta’ $100,000 biex tiffinanzja esperimenti fit-twaqqif ta’ proċess demokratiku biex jiġi deċiż liema regoli għandhom isegwu s-sistemi tal-IA, fil-limiti ddefiniti mil-liġi.

L-IA se jkollha impatti ekonomiċi u soċjali sinifikanti u estensivi. It-teknoloġija ssawwar il-ħajja tal-individwi, kif ninteraġixxu ma’ xulxin, u kif tevolvi s-soċjetà kollha kemm hi. Aħna nemmnu li d-deċiżjonijiet dwar kif għandha taġixxi l-IA għandhom jiġu ffurmati minn perspettivi diversi li jirriflettu l-interess pubbliku. 

​​Il-liġijiet jikkodifikaw valuri u normi biex jirregolaw l-imġiba. Lil hinn minn qafas legali, l-IA, bħas-soċjetà, teħtieġ linji gwida aktar kumplessi u adattabbli għall-imġiba tagħha. Pereżempju: taħt liema kundizzjonijiet għandhom is-sistemi tal-IA jikkundannaw jew jikkritikaw figuri pubbliċi, meta jitqiesu opinjonijiet differenti bejn gruppi dwar dawk il-figuri? Kif għandhom jiġu rrappreżentati fehmiet ikkontestati fl-outputs tal-IA? L-IA għandha b’mod awtomatiku tirrifletti l-persona ta’ individwu medjan fid-dinja, il-pajjiż tal-utent, id-demografija tal-utent, jew xi ħaġa kompletament differenti? L-ebda individwu wieħed, kumpanija, jew saħansitra pajjiż ma għandu jiddetta dawn id-deċiżjonijiet. 

AGI⁠ għandha tkun ta’ benefiċċju għall-umanità kollha u tkun iffurmata biex tkun inklużiva kemm jista’ jkun. Qed inniedu dan il-programm ta’ għotjiet biex nieħdu l-ewwel pass f’din id-direzzjoni. Qed infittxu timijiet minn madwar id-dinja biex jiżviluppaw provi ta’ kunċett għal proċess demokratiku li jista’ jwieġeb mistoqsijiet dwar liema regoli għandhom isegwu s-sistemi tal-IA. Irridu nitgħallmu minn dawn l-esperimenti, u nużawhom bħala bażi għal proċess aktar globali u aktar ambizzjuż ’il quddiem. Filwaqt li dawn l-esperimenti inizjali mhumiex (tal-anqas għalissa) maħsuba biex ikunu vinkolanti għad-deċiżjonijiet, nittamaw li jesploraw mistoqsijiet rilevanti għad-deċiżjonijiet u jibnu għodod demokratiċi ġodda li fil-futur jistgħu jinfurmaw id-deċiżjonijiet b’mod aktar dirett.

Il-governanza tal-aktar sistemi b’saħħithom⁠, kif ukoll id-deċiżjonijiet dwar l-użu tagħhom, irid ikollhom superviżjoni pubblika qawwija. Din l-għotja tirrappreżenta pass biex jiġu stabbiliti proċessi demokratiċi għas-sorveljanza tal-AGI u, fl-aħħar mill-aħħar, tas-superintelliġenza. Din se tingħata mill-organizzazzjoni mingħajr skop ta’ qligħ OpenAI, u r-riżultati tal-istudji se jkunu aċċessibbli liberament.

B’“proċess demokratiku,” aħna nfissru proċess li fih grupp ta’ nies rappreżentattiv b’mod wiesa’^A jiskambja opinjonijiet, jieħu sehem f’diskussjonijiet deliberattivi,^B u fl-aħħar jiddeċiedi riżultat permezz ta’ proċess trasparenti tat-teħid tad-deċiżjonijiet.^C Hemm ħafna modi kif proċess bħal dan jista’ jkun strutturat—ninkoraġġixxu lill-applikanti jkunu innovattivi, jibnu fuq metodoloġiji magħrufa, u joħorġu b’approċċi kompletament ġodda. Eżempji ta’ approċċi kreattivi li jispirawna jinkludu Wikipedia⁠(jinfetaħ f’tieqa ġdida), Twitter Community Notes⁠(jinfetaħ f’tieqa ġdida), DemocracyNext⁠(jinfetaħ f’tieqa ġdida), Platform Assemblies⁠(jinfetaħ f’tieqa ġdida), MetaGov⁠(jinfetaħ f’tieqa ġdida), RadicalxChange⁠(jinfetaħ f’tieqa ġdida), People Powered⁠(jinfetaħ f’tieqa ġdida), Collective Response Systems⁠(jinfetaħ f’tieqa ġdida), u pol.is⁠(jinfetaħ f’tieqa ġdida). Sforz ieħor notevoli li għadu għaddej huwa mmexxi mill-Collective Intelligence Project⁠(jinfetaħ f’tieqa ġdida) (CIP), li miegħu qed nikkollaboraw dwar l-input pubbliku għall-IA, billi nikkontribwixxu għall-Alignment Assemblies⁠(jinfetaħ f’tieqa ġdida) li jmiss tagħhom. Ninkoraġġixxu wkoll lill-applikanti jimmaġinaw kif l-IA tista’ ittejjeb⁠(jinfetaħ f’tieqa ġdida) il-proċess demokratiku. Pereżempju, l-IA tista’ tippermetti⁠(jinfetaħ f’tieqa ġdida) komunikazzjoni aktar effiċjenti fost għadd kbir ta’ nies.

Diversi kwistjonijiet jistgħu jdgħajfu l-proċessi demokratiċi, bħan-nuqqas li jiġu rrappreżentati b’mod adegwat gruppi minoritarji jew maġġoritarji, il-manipulazzjoni minn gruppi ta’ interess speċjali, parteċipanti mhux infurmati biżżejjed, jew ħasil⁠(jinfetaħ f’tieqa ġdida) tal-parteċipazzjoni⁠(jinfetaħ f’tieqa ġdida). Qed infittxu timijiet li jindirizzaw dawn il-modi ta’ falliment b’mod proattiv, u juru għarfien tad-difetti u l-iżvantaġġi potenzjali ta’ approċċi differenti. Fl-aħħar mill-aħħar, id-disinn ta’ proċessi tassew demokratiċi huwa standard għoli li diffiċli jintlaħaq, u nqisu l-isforzi tagħna bħala komplementi aktar milli sostituti għar-regolazzjoni tal-IA mill-gvernijiet; dan il-programm jinkoraġġixxi proċessi ta’ l-aħjar sforz, bi spirtu demokratiku, li jinvolvu deliberazzjoni u input pubbliku wiesa’ bħala pedamenti.

Biex tapplika għal għotja, nistednuk tissottometti l-materjal tal-applikazzjoni meħtieġ sa 9:00 pm PDT tal-24 ta’ Ġunju 2023. Tista’ taċċessa l-portal tal-applikazzjoni hawnhekk⁠(jinfetaħ f’tieqa ġdida). Int se tintalab twieġeb sensiela ta’ mistoqsijiet dwar l-isfond tat-tim tiegħek, l-għażla tiegħek tal-mistoqsijiet, dettalji ġenerali tal-għodda proposta tiegħek kif ukoll il-pjan tiegħek għat-twettiq u l-evalwazzjoni tal-proċess demokratiku b’dawn il-fatturi⁠ f’moħħok. Nixtiequk tfassal l-approċċ tiegħek biex tindirizza waħda jew aktar mill-mistoqsijiet ta’ politika mil-lista pprovduta⁠. Kull min hu (individwi jew organizzazzjonijiet) jista’ japplika għal din l-opportunità, irrispettivament mill-isfond tiegħu fix-xjenza soċjali jew fl-IA.

Ladarba jagħlaq il-perjodu tal-applikazzjoni, nittamaw li nagħżlu għaxar riċevituri ta’ għotjiet li rnexxew. Ir-riċevituri jistgħu jkunu individwi, timijiet, jew organizzazzjonijiet. Kull riċevitur se jirċievi għotja ta’ $100,000 biex jittestja l-proposta tiegħu kif deskritt fil-materjal tal-applikazzjoni tiegħu. Ir-riċevituri tal-għotjiet huma mistennija jimplimentaw prova ta’ kunċett / prototip, billi jinvolvu mill-inqas 500 parteċipant u se jkunu meħtieġa jippubblikaw rapport pubbliku dwar is-sejbiet tagħhom sal-20 ta’ Ottubru 2023. Barra minn hekk, bħala parti mill-programm tal-għotjiet, kwalunkwe kodiċi jew proprjetà intellettwali oħra żviluppata għall-proġett se tkun meħtieġa ssir disponibbli pubblikament skont liċenzja open-source. It-termini applikabbli għar-riċevituri tal-għotjiet huma speċifikati fit-Termini tal-Għotja u fi kwalunkwe ftehim ieħor li r-riċevituri tal-għotjiet jistgħu jintalbu jidħlu għalih magħna b’rabta ma’ dan il-programm.

Applika u ibda l-proċess tas-sottomissjoni⁠(jinfetaħ f’tieqa ġdida).

• 24 ta’ Ġunju 2023 9:00 pm Ħin tal-Paċifiku: Skadenza biex tiġi sottomessa l-applikazzjoni għall-għotja
• 14 ta’ Lulju 2023: L-applikanti magħżula se jintgħażlu u jiġu nnotifikati
• 20 ta’ Ottubru 2023: Rapport pubbliku sħiħ tal-prototip funzionanti u r-riżultati

Biex jipparteċipaw, it-timijiet għandhom jagħżlu mistoqsija waħda jew aktar mil-lista pprovduta biex juru l-approċċ propost tagħhom. Jistgħu wkoll joħolqu l-mistoqsijiet tagħhom stess jekk jixtiequ. Importanti, ninkoraġġixxu lit-timijiet iqisu mistoqsijiet li għalihom tweġiba sempliċi ta’ “iva” jew “le” ma tkunx adegwata, u minflok tkun meħtieġa proposta ta’ politika b’aktar sfumaturi.

L-ambitu ta’ din l-għotja jikkonċerna mistoqsijiet ta’ politika dwar l-imġiba tal-mudell, peress li dan jippermetti testijiet A/B b’imġiba tal-mudell modifikata skont ir-rakkomandazzjonijiet tal-politika. Nirrikonoxxu l-limitazzjonijiet ta’ din l-għotja u nagħrfu li bosta kwistjonijiet tal-IA jistgħu jiġu indirizzati permezz tal-proċess demokratiku, lil hinn mill-imġiba tal-mudell biex jinkludu oqsma bħal linji gwida għall-użu tal-IA f’diversi kuntesti, impatt ekonomiku, distribuzzjoni tal-benefiċċji u aktar.

• Kemm taħseb li għandha tasal il-personalizzazzjoni ta’ assistenti tal-IA bħal ChatGPT biex tallinja mat-togħmiet u l-preferenzi ta’ utent? X’limiti, jekk hemm, għandhom jeżistu f’dan il-proċess?
• Kif għandhom jirrispondu l-assistenti tal-IA għal mistoqsijiet dwar il-fehmiet ta’ figuri pubbliċi? Eż., għandhom ikunu newtrali? Għandhom jirrifjutaw iwieġbu? Għandhom jipprovdu xi tip ta’ sorsi?
• Taħt liema kundizzjonijiet, jekk hemm, għandhom l-assistenti tal-IA jitħallew jagħtu pariri mediċi/finanzjarji/legali?
• F’liema każijiet, jekk hemm, għandhom l-assistenti tal-IA joffru appoġġ emozzjonali lill-individwi?
• Għandhom mudelli konġunti ta’ viżjoni-lingwa jitħallew jidentifikaw il-ġeneru, ir-razza, l-emozzjoni, u l-identità/isem tan-nies mill-immaġnijiet tagħhom? Għaliex jew għaliex le?
• Meta l-mudelli ġenerattivi joħolqu immaġnijiet għal prompts mhux speċifikati biżżejjed bħal “CEO,” “tabib,” jew “infermier,” għandhom il-potenzjal li jipproduċu outputs jew diversi jew omoġenji. Kif għandhom il-mudelli tal-IA jibbilanċjaw dawn il-possibbiltajiet? Liema fatturi għandhom jingħataw prijorità meta jiġi deċiż kif jintwerew in-nies f’każijiet bħal dawn?
• Liema prinċipji għandhom jiggwidaw lill-IA meta tittratta suġġetti li jinvolvu kemm id-drittijiet tal-bniedem kif ukoll differenzi kulturali jew legali lokali, bħad-drittijiet LGBTQ u d-drittijiet tan-nisa? It-tweġibiet tal-IA għandhom jinbidlu skont il-post jew il-kultura fejn tintuża?
• Liema kategoriji ta’ kontenut, jekk hemm, temmen li l-ħallieqa tal-mudelli tal-IA għandhom jiffukaw fuq il-limitazzjoni jew iċ-ċaħda tagħhom? Liema kriterji għandhom jintużaw biex jiġu ddeterminati dawn ir-restrizzjonijiet?

L-għan ewlieni ta’ din l-għotja huwa li trawwem l-innovazzjoni fil-proċessi—għandna bżonn metodi demokratiċi aħjar biex niggvernaw l-imġiba tal-IA. It-tweġibiet speċifiċi għall-mistoqsijiet huma inqas importanti mill-avvanzi li jsiru fil-proċess innifsu.

• Colin Megill, Ko-fundatur ta’ pol.is⁠(jinfetaħ f’tieqa ġdida)
• Hélène Landemore, Professur tax-Xjenza Politika f’Yale⁠(jinfetaħ f’tieqa ġdida)
• Aviv Ovadya, Berkman Klein Center⁠(jinfetaħ f’tieqa ġdida)

• Evalwazzjoni: Ninkoraġġixxu lill-parteċipanti jistabbilixxu metriċi biex jevalwaw il-kwalità tal-metodi tagħhom, bħas-sodisfazzjon tal-parteċipanti, bidliet fil-polarizzazzjoni, l-iskalabbiltà, jew indikaturi rilevanti oħra, u jivvintaw metriċi ġodda għal proċess demokratiku b’saħħtu. 
• Robustezza: Miżuri biex jipprevjenu jew jindirizzaw imġiba mhux xierqa, bħat-trolling u kontijiet foloz.
• Inklużività u rappreżentattività: Strateġiji biex jiġu inklużi individwi minn sfondi diversi u b’livelli differenti ta’ familjarità mas-sistemi tal-IA fil-proċess demokratiku.
• Setgħa lill-Opinjonijiet Minoritarji: Tiġi żgurata li opinjonijiet mhux popolari jew minoritarji jinstemgħu u li gruppi iżgħar jingħataw l-opportunità jinfluwenzaw kwistjonijiet ta’ tħassib sinifikanti għalihom.
• Moderazzjoni Effettiva: Jiġu indirizzati l-isfidi fil-moderazzjoni, inkluż l-iżgurar ta’ rappreżentanza diversa ta’ perspettivi, id-distinzjoni bejn kontribuzzjonijiet ta’ valur u kummenti “barra mis-suġġett”, u l-prevenzjoni li l-preġudizzji tal-moderaturi jinfluwenzaw il-proċess.
• Skalabbiltà: Nenfasizzaw proċessi skalabbli li jistgħu jsiru virtwalment, aktar milli permezz ta’ involviment wiċċ imb wiċċ. Nafu li dan l-approċċ jista’ jissagrifika xi benefiċċji marbuta mad-diskussjonijiet fil-preżenza, u nirrikonoxxu li ċerti aspetti jistgħu jintilfu f’ambjent virtwali.
• Applikabbiltà: Il-grad ta’ applikabbiltà tal-informazzjoni miksuba mill-proċess deliberattiv.
• Leġibbiltà: Kemm hu faċli li wieħed jifhem u jafda l-proċess.