AI-ға демократиялық кірістер

Біздің коммерциялық емес ұйымымыз OpenAI, Inc. заңмен белгіленген шектер аясында AI жүйелері қандай ережелерді ұстануы керектігін шешуге арналған демократиялық үдерісті құру эксперименттерін қаржыландыру үшін әрқайсысы $100,000 болатын он грант беретін бағдарламаны іске қосып отыр.

AI елеулі, ауқымды экономикалық және қоғамдық әсерлерге ие болады. Технология жеке адамдардың өмірін, бір-бірімізбен қалай өзара әрекеттесетінімізді және тұтас қоғамның қалай дамитынын қалыптастырады. AI қалай әрекет етуі туралы шешімдер қоғамдық мүддені көрсететін сан алуан көзқарастармен айқындалуы тиіс деп санаймыз. 

​​Заңдар мінез-құлықты реттеу үшін құндылықтар мен нормаларды бекітеді. Құқықтық негізден тыс, AI-ға да, қоғам сияқты, өз іс-әрекетін реттейтін неғұрлым күрделі әрі бейімделгіш нұсқаулар қажет. Мысалы: белгілі бір тұлғаларға қатысты топтар арасында әртүрлі пікірлер болған жағдайда, AI жүйелері қоғамдық қайраткерлерді қандай шарттарда айыптауы немесе сынауы керек? Даулы көзқарастар AI нәтижелерінде қалай көрсетілуі тиіс? Әдепкіде AI әлемдегі орташа адамның бейнесін, пайдаланушы елін, пайдаланушының демографиялық тобын, әлде мүлде басқа нәрсені көрсетуі керек пе? Бұл шешімдерді бірде-бір адам, компания, тіпті ел де дара өзі айқындамауы тиіс. 

AGI⁠ бүкіл адамзаттың игілігіне қызмет етіп, барынша инклюзивті болатындай қалыптастырылуы тиіс. Осы бағыттағы алғашқы қадам ретінде біз осы гранттық бағдарламаны іске қосып отырмыз. Біз әлемнің түкпір-түкпірінен AI жүйелері қандай ережелерді ұстануы керектігі туралы сұрақтарға жауап бере алатын демократиялық үдерістің proof-of-concept нұсқаларын әзірлейтін командаларды іздейміз. Біз осы тәжірибелерден үйреніп, оларды алдағы уақытта неғұрлым жаһандық әрі өршіл үдерістің негізі ретінде пайдаланғымыз келеді. Бұл бастапқы тәжірибелер әзірге шешімдер үшін міндетті болуға арналмағанымен, олар шешім қабылдауға қатысы бар мәселелерді зерттеп, болашақта шешімдерге тікелейірек әсер ете алатын жаңа демократиялық құралдар жасайды деп үміттенеміз.

Ең қуатты жүйелерді басқару⁠, сондай-ақ оларды енгізуге қатысты шешімдер күшті қоғамдық қадағалауға ие болуы тиіс. Бұл грант AGI-ды және түптеп келгенде суперинтеллектті қадағалауға арналған демократиялық үдерістерді құру жолындағы бір қадам болып табылады. Оны OpenAI коммерциялық емес ұйымы ұсынады, ал зерттеу нәтижелері еркін қолжетімді болады.

«Демократиялық үдеріс» деп біз халықтың кең ауқымын танытатын адамдар тобы^A пікір алмасып, талқылау сипатындағы пікірсайыстарға қатысып,^B соңында ашық шешім қабылдау үдерісі арқылы нәтижені айқындайтын үдерісті айтамыз.^C Мұндай үдерісті құрудың көптеген жолы бар — біз өтініш берушілерді жаңашыл болуға, белгілі әдіснамаларға сүйенуге және мүлде жаңа тәсілдер ұсынуға шақырамыз. Бізді шабыттандыратын креативті тәсілдерге Wikipedia⁠(жаңа терезеде ашылады), Twitter Community Notes⁠(жаңа терезеде ашылады), DemocracyNext⁠(жаңа терезеде ашылады), Platform Assemblies⁠(жаңа терезеде ашылады), MetaGov⁠(жаңа терезеде ашылады), RadicalxChange⁠(жаңа терезеде ашылады), People Powered⁠(жаңа терезеде ашылады), Collective Response Systems⁠(жаңа терезеде ашылады) және pol.is⁠(жаңа терезеде ашылады) жатады. Тағы бір назар аударарлық жалғасып жатқан бастамаға Collective Intelligence Project⁠(жаңа терезеде ашылады) (CIP) жетекшілік етеді; біз олармен AI-ға қатысты қоғамдық пікір бағыты бойынша серіктес болып, олардың алдағы Alignment Assemblies⁠(жаңа терезеде ашылады) бастамасына үлес қосып отырмыз. Сондай-ақ біз өтініш берушілерді AI демократиялық үдерісті қалай күшейте алатынын⁠(жаңа терезеде ашылады) елестетуге шақырамыз. Мысалы, AI көптеген адамдар арасындағы байланысты неғұрлым тиімді етуге мүмкіндік бере⁠(жаңа терезеде ашылады) алады.

Демократиялық үдерістерге бірқатар мәселе нұқсан келтіруі мүмкін, мысалы азшылық немесе көпшілік топтарды жеткілікті деңгейде көрсете алмау, ерекше мүдделі топтардың айла-шарғысы, қатысушылардың жеткілікті хабардар болмауы немесе қатысуды⁠(жаңа терезеде ашылады) жалған көрсету⁠(жаңа терезеде ашылады). Біз осы сәтсіздік түрлерін проактивті түрде шешетін және түрлі тәсілдердің ықтимал кемшіліктері мен теріс жақтарын түсінетінін көрсететін командаларды іздейміз. Түптеп келгенде, шын мәнінде демократиялық үдерістерді жобалау — өте жоғары талап, сондықтан біз өз күш-жігерімізді үкіметтердің AI-ды реттеуін алмастыратын емес, толықтыратын қадамдар деп санаймыз; бұл бағдарлама талқылау мен кең қоғамдық пікірді қамтитын, демократиялық рухтағы барынша тиімді үдерістерді аралық баспалдақтар ретінде ынталандырады.

Грантқа өтінім беру үшін қажетті өтінім материалдарын 2023 жылғы 24 маусымда PDT уақытымен кешкі 9:00-ге дейін жолдауға шақырамыз. Өтінім беру порталына осы жерден⁠(жаңа терезеде ашылады) кіре аласыз. Сізден командаңыздың тәжірибесі, таңдаған сұрақтарыңыз, ұсынған құралыңыздың жоғары деңгейдегі сипаттамалары, сондай-ақ осы факторларды⁠ ескере отырып демократиялық үдерісті жүргізу және бағалау жоспарыңыз туралы бірқатар сұрақтарға жауап беру сұралады. Біз сізден өз тәсіліңізді берілген тізімдегі⁠ бір немесе бірнеше саясат сұрағына жауап беретіндей етіп жобалауыңызды қалаймыз. Бұл мүмкіндікке кез келген адам (жеке тұлғалар немесе ұйымдар) әлеуметтік ғылымдар немесе AI саласындағы тәжірибесіне қарамастан өтініш бере алады.

Өтінім беру кезеңі аяқталғаннан кейін, он табысты грант алушыны таңдауға үміттенеміз. Алушылар жеке тұлғалар, командалар немесе ұйымдар болуы мүмкін. Әрбір алушы өтінім материалдарында сипатталған ұсынысын сынақтан өткізу үшін $100,000 грант алады. Грант алушылар кемінде 500 қатысушыны тарта отырып proof-of-concept / prototype нұсқасын іске асырады деп күтіледі және 2023 жылғы 20 қазанға дейін өз қорытындылары бойынша ашық есеп жариялауы тиіс. Сонымен қатар, гранттық бағдарламаның бір бөлігі ретінде жоба үшін әзірленген кез келген код немесе басқа зияткерлік меншік ашық бастапқы код лицензиясына сәйкес көпшілікке қолжетімді болуы талап етіледі. Грант алушыларға қолданылатын шарттар Grant Terms құжатында және осы бағдарламаға байланысты бізбен жасалуы сұралуы мүмкін өзге келісімдерде көрсетілген.

Өтінім беріп, жіберу үдерісін бастаңыз⁠(жаңа терезеде ашылады).

• 24 маусым 2023 жыл, Тынық мұхиты уақытымен 21:00: грант өтінімін тапсырудың соңғы мерзімі
• 14 шілде 2023 жыл: іріктеуден өткен өтініш берушілер таңдалып, хабарланады
• 20 қазан 2023 жыл: жұмыс істейтін prototype және нәтижелер бойынша толық ашық есеп

Қатысу үшін командалар ұсынылған тәсілін көрсету мақсатында берілген тізімнен бір немесе бірнеше сұрақ таңдауы керек. Қаласа, өз сұрақтарын да құрастыра алады. Ең бастысы, біз командаларды қарапайым «иә» немесе «жоқ» жауабы жеткіліксіз болып, оның орнына мәнмәтінге сай саясат ұсынысын қажет ететін сұрақтарды қарастыруға шақырамыз.

Бұл гранттың ауқымы модель мінез-құлқына қатысты саясат сұрақтарына арналған, өйткені ол саясат ұсынымдарына сәйкес өзгертілген модель мінез-құлқымен A/B тесттерін жүргізуге мүмкіндік береді. Біз бұл гранттың шектеулерін түсінеміз және көптеген AI мәселесін демократиялық үдеріс арқылы, тек модель мінез-құлқымен шектелмей, AI-ды әртүрлі контексте қолдану нұсқаулары, экономикалық әсер, пайданы бөлу және тағы басқа салаларда шешуге болатынын мойындаймыз.

• Сіздің ойыңызша, ChatGPT сияқты AI көмекшілерін пайдаланушының талғамы мен қалауына сәйкестендіру қаншалықты алысқа баруы керек? Бұл үдерісте қандай да бір шекаралар болуы тиіс пе?
• AI көмекшілері қоғамдық тұлғалардың көзқарастары туралы сұрақтарға қалай жауап беруі керек? Мысалы, олар бейтарап болуы керек пе? Жауап беруден бас тартуы керек пе? Қандай да бір дереккөз ұсынуы керек пе?
• Қандай жағдайларда, егер ондай жағдайлар болса, AI көмекшілеріне медициналық/қаржылық/құқықтық кеңес беруге рұқсат етілуі керек?
• Қандай жағдайларда, егер ондай жағдайлар болса, AI көмекшілері адамдарға эмоциялық қолдау көрсетуі керек?
• Біріккен көру–тіл модельдеріне адамдардың суреттері бойынша олардың жынысын, нәсілін, эмоциясын және жеке басын/атын анықтауға рұқсат етілуі керек пе? Неліктен иә немесе неліктен жоқ?
• Генеративті модельдер «CEO», «дәрігер» немесе «медбике» сияқты толық нақтыланбаған көмексөздер бойынша сурет жасағанда, олар алуан түрлі де, біртекті де нәтижелер бере алады. AI модельдері осы мүмкіндіктердің арасын қалай теңгеруі керек? Мұндай жағдайларда адамдардың бейнесін анықтағанда қандай факторларға басымдық берілуі тиіс?
• Адам құқықтары мен жергілікті мәдени немесе құқықтық айырмашылықтарды қатар қамтитын LGBTQ құқықтары мен әйелдер құқықтары сияқты тақырыптарды қарастырғанда AI-ды қандай қағидаттар бағыттауы керек? AI жауаптары оны қолданатын жерге немесе мәдениетке қарай өзгеруі керек пе?
• Сіздің ойыңызша, AI модельдерін жасаушылар қандай контент санаттарын, егер ондай санаттар болса, шектеуге немесе тыйым салуға назар аударуы керек? Бұл шектеулерді анықтау үшін қандай өлшемшарттар қолданылуы тиіс?

Бұл гранттың негізгі мақсаты — үдерістердегі инновацияны ынталандыру; бізге AI мінез-құлқын басқару үшін жетілдірілген демократиялық әдістер қажет. Сұрақтарға берілетін нақты жауаптардан гөрі, үдерістің өзінде жасалған ілгерілеу маңыздырақ.

• Colin Megill, pol.is тең құрылтайшысы⁠(жаңа терезеде ашылады)
• Hélène Landemore, Йель университетінің саясаттану профессоры⁠(жаңа терезеде ашылады)
• Aviv Ovadya, Berkman Klein Center⁠(жаңа терезеде ашылады)

• Бағалау: Қатысушыларды өз әдістерінің сапасын бағалауға арналған метрикаларды, мысалы қатысушылардың қанағаттануы, поляризациядағы өзгерістер, ауқымдану мүмкіндігі немесе басқа да маңызды көрсеткіштерді белгілеуге, сондай-ақ салауатты демократиялық үдеріс үшін жаңа метрикалар ойлап табуға шақырамыз. 
• Тұрақтылық: Троллинг пен жалған аккаунттар сияқты орынсыз әрекеттердің алдын алу немесе оларды шешу шаралары.
• Инклюзивтілік және өкілділік: Демократиялық үдеріске түрлі ортадан шыққан және AI жүйелерімен таныстық деңгейі әртүрлі адамдарды қосудың стратегиялары.
• Азшылық пікірлерін күшейту: Танымал емес немесе азшылық пікірлердің естілуін қамтамасыз ету және шағын топтарға өздері үшін маңызды мәселелерге ықпал ету мүмкіндігін беру.
• Тиімді модерация: Модерациядағы қиындықтарды шешу, соның ішінде көзқарастардың сан алуанды өкілдігін қамтамасыз ету, құнды үлестерді «тақырыптан тыс» пікірлерден ажырату және модераторлардың бейтарап еместігінің үдеріске әсер етуіне жол бермеу.
• Ауқымдану мүмкіндігі: Біз бетпе-бет қатысудан гөрі виртуалды түрде жүргізуге болатын ауқымдалатын үдерістерге басымдық береміз. Бұл тәсіл бетпе-бет талқылауларға тән кейбір артықшылықтардан айыруы мүмкін екенін түсінеміз және виртуалды ортада кейбір қырлар жоғалуы мүмкін екенін мойындаймыз.
• Іске жарамдылық: Талқылау үдерісі арқылы алынған ақпараттың іс жүзінде қолданылу дәрежесі.
• Түсініктілік: Үдерісті түсіну және оған сену қаншалықты оңай екені.