AI માટે લોકશાહી ઇનપુટ્સ

અમારી બિનનફાકારક સંસ્થા OpenAI, Inc. કાયદા દ્વારા નિર્ધારિત મર્યાદાઓની અંદર AI સિસ્ટમ્સે કયા નિયમોનું પાલન કરવું જોઈએ તે નક્કી કરવા માટે લોકશાહી પ્રક્રિયા સ્થાપિત કરવાના પ્રયોગોને નાણાં પુરા પાડવા દસ $100,000ની ગ્રાન્ટ આપવાનો કાર્યક્રમ શરૂ કરી રહી છે.

AIના આર્થિક અને સામાજિક ક્ષેત્રોમાં નોંધપાત્ર અને દૂરગામી પ્રભાવ પડશે. ટેક્નોલોજી વ્યક્તિઓનું જીવન, આપણે એકબીજા સાથે કેવી રીતે સંપર્ક કરીએ છીએ, અને સમગ્ર સમાજ કેવી રીતે વિકસે છે તેને આકાર આપે છે. અમારો વિશ્વાસ છે કે AI કેવી રીતે વર્તે તે અંગેના નિર્ણયોને જાહેર હિત પ્રતિબિંબિત કરતી વિવિધ દૃષ્ટિઓ દ્વારા આકાર મળવો જોઈએ.

કાયદા વર્તનને નિયમિત કરવા માટે મૂલ્યો અને ધોરણોને સંહિતાબદ્ધ કરે છે. કાનૂની માળખા સિવાય, AIને પણ સમાજની જેમ તેના વર્તન માટે વધુ જટિલ અને અનુકૂળ માર્ગદર્શિકાઓની જરૂર છે. ઉદાહરણ તરીકે: વિવિધ જૂથોમાં જાહેર વ્યક્તિત્વો વિશે જુદા મત હોવા પર, કઈ પરિસ્થિતિઓમાં AI સિસ્ટમ્સે તેમને દોષારોપણ કરવું અથવા ટીકા કરવી જોઈએ? વિવાદાસ્પદ દૃષ્ટિકોણો AIના આઉટપુટમાં કેવી રીતે રજૂ થવા જોઈએ? શું AI મૂળભૂત રીતે દુનિયાના સરેરાશ વ્યક્તિનું વ્યક્તિત્વ દર્શાવે, વપરાશકર્તાના દેશનું, વપરાશકર્તાના લોકસાંખ્યિક જૂથનું, કે કંઈક સંપૂર્ણપણે જુદું? કોઈ એક વ્યક્તિ, કંપની, કે દેશ પણ આ નિર્ણયો નક્કી ન કરવો જોઈએ.

AGI⁠ સમગ્ર માનવજાતને લાભ આપે અને શક્ય તેટલું સર્વસમાવેશક બને તે રીતે આકારિત થવું જોઈએ. આ દિશામાં પ્રથમ પગલું તરીકે અમે આ ગ્રાન્ટ કાર્યક્રમ શરૂ કરી રહ્યા છીએ. અમે વિશ્વભરના એવા ટીમોની શોધમાં છીએ જે લોકશાહી પ્રક્રિયા માટેના પ્રૂફ-ઓફ-કોન્સેપ્ટ વિકસાવે, જે એ પ્રશ્નોના જવાબ આપી શકે કે AI સિસ્ટમ્સે કયા નિયમોનું પાલન કરવું જોઈએ. અમે આ પ્રયોગોમાંથી શીખવા માગીએ છીએ અને આગળ વધુ વૈશ્વિક અને વધુ મહત્ત્વાકાંક્ષી પ્રક્રિયાનો આધાર તરીકે તેનો ઉપયોગ કરવા માગીએ છીએ. આ પ્રારંભિક પ્રયોગો નિર્ણયોને બંધનકારક બનાવવા માટે હાલ તો નથી, છતાં અમે આશા રાખીએ છીએ કે તે નિર્ણયસંબંધિત પ્રશ્નોને તપાસશે અને એવા નવા લોકશાહી સાધનો બનાવશે જે ભવિષ્યમાં વધુ સીધા રીતે નિર્ણયોને માર્ગદર્શન આપી શકે.

સૌથી શક્તિશાળી સિસ્ટમ્સના શાસન⁠, તેમજ તેમના અમલીકરણ સંબંધિત નિર્ણયો પર મજબૂત જાહેર દેખરેખ હોવી જ જોઈએ. આ ગ્રાન્ટ AGI અને અંતે સુપરઇન્ટેલિજન્સ પર દેખરેખ માટે લોકશાહી પ્રક્રિયાઓ સ્થાપિત કરવાની દિશામાં એક પગલું છે. આ OpenAIની બિનનફાકારક સંસ્થા દ્વારા આપવામાં આવશે, અને અભ્યાસોના પરિણામો મફતમાં ઉપલબ્ધ રહેશે.

“લોકશાહી પ્રક્રિયા”થી અમારો અર્થ એવી પ્રક્રિયા છે જેમાં વ્યાપક પ્રતિનિધિત્વ ધરાવતો લોકોનો જૂથ^A મતોની આપલે કરે, વિચારવિમર્શાત્મક ચર્ચાઓમાં જોડાય,^B અને અંતે પારદર્શક નિર્ણય પ્રક્રિયા દ્વારા પરિણામ નક્કી કરે.^C આવી પ્રક્રિયા ઘણી રીતે રચાઈ શકે છે. અમે અરજદારોને નવીન બનવા, જાણીતી પદ્ધતિઓ પર આધાર બાંધવા અને સંપૂર્ણપણે નવા અભિગમો લાવવા પ્રોત્સાહિત કરીએ છીએ. અમને પ્રેરણા આપતા સર્જનાત્મક અભિગમોના ઉદાહરણોમાં Wikipedia⁠(નવી વિન્ડોમાં ખૂલે છે), Twitter Community Notes⁠(નવી વિન્ડોમાં ખૂલે છે), DemocracyNext⁠(નવી વિન્ડોમાં ખૂલે છે), Platform Assemblies⁠(નવી વિન્ડોમાં ખૂલે છે), MetaGov⁠(નવી વિન્ડોમાં ખૂલે છે), RadicalxChange⁠(નવી વિન્ડોમાં ખૂલે છે), People Powered⁠(નવી વિન્ડોમાં ખૂલે છે), Collective Response Systems⁠(નવી વિન્ડોમાં ખૂલે છે), અને pol.is⁠(નવી વિન્ડોમાં ખૂલે છે)નો સમાવેશ થાય છે. બીજી એક નોંધપાત્ર ચાલુ પહેલ Collective Intelligence Project⁠(નવી વિન્ડોમાં ખૂલે છે) (CIP) દ્વારા સંચાલિત છે, જેમની સાથે અમે AI માટે જાહેર ઇનપુટ અંગે ભાગીદારી કરી રહ્યા છીએ અને તેમની આવનારી Alignment Assemblies⁠(નવી વિન્ડોમાં ખૂલે છે)માં યોગદાન આપી રહ્યા છીએ. અમે અરજદારોને એ કલ્પના કરવા પણ પ્રોત્સાહિત કરીએ છીએ કે AI લોકશાહી પ્રક્રિયાને કેવી રીતે વધારી⁠(નવી વિન્ડોમાં ખૂલે છે) શકે. ઉદાહરણ તરીકે, AI ઘણાં લોકો વચ્ચે વધુ કાર્યક્ષમ સંચાર સક્ષમ⁠(નવી વિન્ડોમાં ખૂલે છે) બનાવી શકે.

લોકશાહી પ્રક્રિયાઓને અનેક મુદ્દાઓ કમજોર બનાવી શકે છે, જેમ કે લઘુમતી અથવા બહુમતી જૂથોનું પૂરતું પ્રતિનિધિત્વ ન થવું, વિશેષ હિતગ્રસ્ત જૂથો દ્વારા હેરફેર, પૂરતી માહિતી વિનાના ભાગ લેનારાઓ, અથવા participation⁠(નવી વિન્ડોમાં ખૂલે છે) washing⁠(નવી વિન્ડોમાં ખૂલે છે). અમે એવી ટીમોની શોધમાં છીએ જે આ નિષ્ફળતા સ્થિતિઓને પૂર્વસક્રિય રીતે ઉકેલે અને વિવિધ અભિગમોની સંભવિત ખામીઓ અને નકારાત્મક પાસાઓ અંગે જાગરૂકતા દર્શાવે. અંતે, ખરેખર લોકશાહી પ્રક્રિયાઓ ડિઝાઇન કરવી એક ઊંચો ધોરણ છે, અને અમે અમારા પ્રયાસોને સરકારો દ્વારા AIના નિયમનના વિકલ્પ તરીકે નહીં પરંતુ પૂરક તરીકે જોીએ છીએ. આ કાર્યક્રમ શ્રેષ્ઠ પ્રયાસ આધારિત, લોકશાહી ભાવના ધરાવતી, વિચારવિમર્શ અને વ્યાપક જાહેર ઇનપુટ જોડતી પ્રક્રિયાઓને આગળના પગથિયા તરીકે પ્રોત્સાહિત કરે છે.

ગ્રાન્ટ માટે અરજી કરવા, અમે તમને 24 જૂન, 2023ના રોજ રાત્રે 9:00 વાગ્યા PDT સુધી જરૂરી અરજી સામગ્રી સબમિટ કરવા આમંત્રિત કરીએ છીએ. તમે અરજી પોર્ટલ અહીં⁠(નવી વિન્ડોમાં ખૂલે છે) ઍક્સેસ કરી શકો છો. તમને તમારી ટીમની પૃષ્ઠભૂમિ, તમારા પ્રશ્નોની પસંદગી, તમારા પ્રસ્તાવિત સાધનની ઉચ્ચ સ્તરીય વિગતો તેમજ આ પરિબળોને⁠ ધ્યાનમાં રાખીને લોકશાહી પ્રક્રિયા કેવી રીતે ચલાવશો અને તેનો મૂલ્યાંકન કરશો તેની યોજના અંગે પ્રશ્નોની શ્રેણીનો જવાબ આપવા કહેવામાં આવશે. અમે ઇચ્છીએ છીએ કે તમે આપેલી યાદી⁠માંથી એક અથવા વધુ નીતિ પ્રશ્નોને ધ્યાનમાં રાખીને તમારો અભિગમ ડિઝાઇન કરો. કોઈપણ વ્યક્તિ અથવા સંસ્થા, સામાજિક વિજ્ઞાન કે AIમાં તેમની પૃષ્ઠભૂમિ ગમે તેવી હોય, આ તક માટે અરજી કરી શકે છે.

અરજી સમયગાળો પૂર્ણ થયા પછી, અમે દસ સફળ ગ્રાન્ટ પ્રાપ્તિકારો પસંદ કરવાની આશા રાખીએ છીએ. પ્રાપ્તિકારો વ્યક્તિઓ, ટીમો અથવા સંસ્થાઓ હોઈ શકે છે. દરેક પ્રાપ્તિકારને તેમની અરજી સામગ્રીમાં વર્ણવ્યા મુજબના પ્રસ્તાવના પાયલોટ માટે $100,000ની ગ્રાન્ટ મળશે. ગ્રાન્ટ પ્રાપ્તિકારોએ પ્રૂફ-ઓફ-કોન્સેપ્ટ / પ્રોટોટાઇપ અમલમાં મૂકવો, ઓછામાં ઓછા 500 ભાગ લેનારાઓને જોડવા અને 20 ઓક્ટોબર, 2023 સુધીમાં તેમના નિષ્કર્ષો પર જાહેર અહેવાલ પ્રકાશિત કરવો અપેક્ષિત છે. ઉપરાંત, ગ્રાન્ટ કાર્યક્રમના ભાગરૂપે, પ્રોજેક્ટ માટે વિકસાવાયેલ કોઈપણ કોડ અથવા અન્ય બૌદ્ધિક સંપત્તિ ઓપન-સોર્સ લાઇસન્સ હેઠળ જાહેરરૂપે ઉપલબ્ધ કરવી ફરજિયાત રહેશે. ગ્રાન્ટ પ્રાપ્તિકારો પર લાગુ પડતી શરતો Grant Terms અને આ કાર્યક્રમ સંબંધિત અમારી સાથે કરવામાં આવનારા અન્ય કોઈ કરારોમાં નિર્દિષ્ટ છે.

અરજી કરો અને સબમિશન પ્રક્રિયા શરૂ કરો⁠(નવી વિન્ડોમાં ખૂલે છે).

• 24 જૂન, 2023 રાત્રે 9:00 વાગ્યા Pacific Time: ગ્રાન્ટ અરજી સબમિટ કરવાની અંતિમ તારીખ
• 14 જુલાઈ, 2023: સફળ અરજદારો પસંદ કરવામાં આવશે અને તેમને જાણ કરવામાં આવશે
• 20 ઓક્ટોબર, 2023: કાર્યરત પ્રોટોટાઇપ અને પરિણામો અંગેનો સંપૂર્ણ જાહેર અહેવાલ

ભાગ લેવા માટે, ટીમોએ તેમના પ્રસ્તાવિત અભિગમને દર્શાવવા માટે આપેલી યાદીમાંથી એક અથવા વધુ પ્રશ્નો પસંદ કરવા જોઈએ. તેઓ ઇચ્છે તો પોતાના પ્રશ્નો પણ બનાવી શકે છે. મહત્વપૂર્ણ રીતે, અમે ટીમોને એવા પ્રશ્નો પર વિચારવા પ્રોત્સાહિત કરીએ છીએ જેમાં માત્ર “હા” અથવા “ના” જવાબ પૂરતો ન હોય અને તેના બદલે સૂક્ષ્મ નીતિ પ્રસ્તાવ જરૂરી બને.

આ ગ્રાન્ટનો વ્યાપ મોડલના વર્તન સંબંધિત નીતિ પ્રશ્નો સુધી મર્યાદિત છે, કારણ કે તે નીતિ ભલામણો અનુસાર બદલાયેલા મોડલ વર્તન સાથે A/B ટેસ્ટ શક્ય બનાવે છે. અમે આ ગ્રાન્ટની મર્યાદાઓ સ્વીકારીએ છીએ અને સમજીએ છીએ કે અનેક AI મુદ્દાઓ લોકશાહી પ્રક્રિયા દ્વારા ઉકેલી શકાય છે, જે મોડલ વર્તનથી આગળ વધી વિવિધ સંદર્ભોમાં AIના ઉપયોગ માટે માર્ગદર્શિકાઓ, આર્થિક અસર, લાભોના વિતરણ અને અન્ય ક્ષેત્રોને પણ આવરી લે છે.

• તમારા મત મુજબ ChatGPT જેવા AI સહાયકોને વપરાશકર્તાની પસંદ અને રુચિઓ સાથે સુસંગત બનાવવા માટેનું વ્યક્તિગતીકરણ કેટલા દૂર સુધી જવું જોઈએ? જો કોઈ મર્યાદાઓ હોવી જોઈએ, તો આ પ્રક્રિયામાં તે કઈ હોવી જોઈએ?
• જાહેર વ્યક્તિત્વોના દૃષ્ટિકોણ અંગેના પ્રશ્નોનો AI સહાયકો કેવી રીતે જવાબ આપે? ઉદાહરણ તરીકે, શું તેઓ તટસ્થ રહે? શું તેઓ જવાબ આપવાનો ઇનકાર કરે? શું તેઓ કોઈ પ્રકારના સ્ત્રોતો પ્રદાન કરે?
• કઈ પરિસ્થિતિઓમાં, જો હોય તો, AI સહાયકોને તબીબી/નાણાકીય/કાનૂની સલાહ આપવાની મંજૂરી હોવી જોઈએ?
• કયા કિસ્સાઓમાં, જો હોય તો, AI સહાયકો વ્યક્તિઓને ભાવનાત્મક સહાય આપે?
• સંયુક્ત vision–language મોડેલ્સને લોકોના ચિત્રોમાંથી તેમનું લિંગ, જાતિ, ભાવના અને ઓળખ/નામ ઓળખવાની મંજૂરી હોવી જોઈએ? કેમ અથવા કેમ નહીં?
• જ્યારે જનરેટિવ મોડેલ્સ “a CEO,” “a doctor,” અથવા “a nurse” જેવા ઓછી નિર્દિષ્ટતા ધરાવતા પ્રોમ્પ્ટ્સ માટે છબીઓ બનાવે છે, ત્યારે તેમાં વિવિધ અથવા એકરૂપ આઉટપુટ્સ ઉત્પન્ન કરવાની ક્ષમતા હોય છે. AI મોડેલ્સે આ સંભાવનાઓમાં સંતુલન કેવી રીતે સાધવું જોઈએ? આવા કિસ્સાઓમાં લોકોનું દર્શન નક્કી કરતી વખતે કયા પરિબળોને પ્રાથમિકતા આપવી જોઈએ?
• માનવ અધિકારો અને સ્થાનિક સાંસ્કૃતિક અથવા કાનૂની ભિન્નતાઓ બંનેને આવરી લેતા વિષયો, જેમ કે LGBTQ અધિકારો અને મહિલાઓના અધિકારો, સંભાળતી વખતે AIને કયા સિદ્ધાંતો માર્ગદર્શન આપે? AIના જવાબો તેનો ઉપયોગ કયા સ્થળે અથવા સંસ્કૃતિમાં થાય છે તેના આધારે બદલાવા જોઈએ?
• તમારા મત મુજબ AI મોડેલ્સના નિર્માતાઓએ કયા પ્રકારની સામગ્રીને મર્યાદિત અથવા નકારી દેવા પર ધ્યાન આપવું જોઈએ, જો હોય તો? આ મર્યાદાઓ નક્કી કરવા માટે કયા માપદંડોનો ઉપયોગ કરવો જોઈએ?

આ ગ્રાન્ટનો મુખ્ય હેતુ પ્રક્રિયાઓમાં નવીનતા પ્રોત્સાહિત કરવાનો છે. AIના વર્તનનું શાસન કરવા માટે અમને વધુ સારી લોકશાહી પદ્ધતિઓની જરૂર છે. પ્રશ્નોના ચોક્કસ જવાબો કરતાં પ્રક્રિયામાં થયેલી પ્રગતિ વધુ મહત્વપૂર્ણ છે.

• Colin Megill, pol.isના સહ-સ્થાપક⁠(નવી વિન્ડોમાં ખૂલે છે)
• Hélène Landemore, Yaleમાં રાજનીતિશાસ્ત્રના પ્રોફેસર⁠(નવી વિન્ડોમાં ખૂલે છે)
• Aviv Ovadya, Berkman Klein Center⁠(નવી વિન્ડોમાં ખૂલે છે)

• મૂલ્યાંકન: અમે ભાગ લેનારાઓને તેમની પદ્ધતિઓની ગુણવત્તા માપવા માટે માપદંડો સ્થાપિત કરવા પ્રોત્સાહિત કરીએ છીએ, જેમ કે ભાગ લેનારાઓનો સંતોષ, ધ્રુવીકરણમાં ફેરફાર, સ્કેલેબિલિટી અથવા અન્ય સંબંધિત સૂચકો, તેમજ સ્વસ્થ લોકશાહી પ્રક્રિયા માટે નવા માપદંડો શોધવા.
• મજબૂતી: ટ્રોલિંગ અને નકલી ખાતાઓ જેવા અયોગ્ય વર્તનને રોકવા અથવા ઉકેલવા માટેના પગલાં.
• સર્વસમાવેશકતા અને પ્રતિનિધિત્વ: વિવિધ પૃષ્ઠભૂમિ ધરાવતા અને AI સિસ્ટમ્સ સાથેની પરિચિતતાના જુદા સ્તરવાળા લોકોને લોકશાહી પ્રક્રિયામાં સામેલ કરવાની વ્યૂહરચનાઓ.
• લઘુમતી મતોનું સશક્તિકરણ: અલોકપ્રિય અથવા લઘુમતી મતો સાંભળવામાં આવે તે સુનિશ્ચિત કરવું અને નાના જૂથોને તેમના માટે મહત્ત્વના મુદ્દાઓ પર પ્રભાવ પાડવાની તક આપવી.
• અસરકારક મોડરેશન: મોડરેશનમાં પડકારોને ઉકેલવા, જેમાં દૃષ્ટિકોણોની વિવિધ પ્રતિનિધિત્વતા સુનિશ્ચિત કરવી, મૂલ્યવાન યોગદાનને “ઓફ-ટોપિક” ટિપ્પણીઓથી અલગ પાડવી અને મોડરેટરના પક્ષપાતો પ્રક્રિયાને પ્રભાવિત ન કરે તે રોકવું સામેલ છે.
• સ્કેલેબિલિટી: અમે વ્યક્તિગત ઉપસ્થિતિ કરતાં વર્ચ્યુઅલી ચલાવી શકાય તેવી સ્કેલેબલ પ્રક્રિયાઓ પર ભાર મૂકીએ છીએ. અમને ખબર છે કે આ અભિગમથી સામસામેની ચર્ચાઓ સાથે જોડાયેલા કેટલાક લાભોનો ત્યાગ કરવો પડી શકે છે, અને અમે સ્વીકારીએ છીએ કે વર્ચ્યુઅલ પરિસ્થિતિમાં કેટલાક પાસાઓ ગુમાઈ શકે છે.
• કાર્યક્ષમતા: વિચારવિમર્શ પ્રક્રિયા દ્વારા પ્રાપ્ત માહિતી કેટલી કાર્યક્ષમ છે તેનો દરજ્જો.
• સ્પષ્ટતા: પ્રક્રિયાને સમજવી અને તેના પર વિશ્વાસ કરવો કેટલું સરળ છે.