დემოკრატიული მონაწილეობა AI-ში
ჩვენი არაკომერციული ორგანიზაცია, OpenAI, Inc., იწყებს პროგრამას, რომლის ფარგლებშიც გაიცემა ათი 100,000-დოლარიანი გრანტი ექსპერიმენტების დასაფინანსებლად, რომლებიც დემოკრატიული პროცესის შექმნას ისახავს მიზნად, რათა განისაზღვროს, რა წესები უნდა დაიცვან AI სისტემებმა, კანონით დადგენილ ფარგლებში.
AI-ს ექნება მნიშვნელოვანი, შორსმიმავალი ეკონომიკური და საზოგადოებრივი გავლენა. ტექნოლოგია აყალიბებს ადამიანების ცხოვრებას, იმას, თუ როგორ ვურთიერთობთ ერთმანეთს, და იმასაც, თუ როგორ ვითარდება საზოგადოება მთლიანობაში. გვჯერა, რომ გადაწყვეტილებები იმის შესახებ, თუ როგორ უნდა იქცეოდეს AI, უნდა ყალიბდებოდეს მრავალფეროვანი პერსპექტივებით, რომლებიც საზოგადოებრივ ინტერესს ასახავს.
კანონები ქცევის რეგულირებისთვის კოდირებს ღირებულებებსა და ნორმებს. სამართლებრივი ჩარჩოს მიღმაც, AI-ს, საზოგადოების მსგავსად, თავისი ქცევისთვის უფრო რთული და ადაპტირებადი სახელმძღვანელოები სჭირდება. მაგალითად: რა პირობებში უნდა გმობდნენ ან აკრიტიკებდნენ AI სისტემები საჯარო ფიგურებს, თუ სხვადასხვა ჯგუფს ამ ფიგურებზე განსხვავებული აზრი აქვს? როგორ უნდა აისახოს სადავო შეხედულებები AI-ის პასუხებში? უნდა ასახავდეს თუ არა AI ნაგულისხმევად მსოფლიოში საშუალო ადამიანის პერსონას, მომხმარებლის ქვეყნისას, მომხმარებლის დემოგრაფიული ჯგუფისას, თუ სრულიად სხვას? ამ გადაწყვეტილებებს არც ერთმა ინდივიდმა, კომპანიამ ან თუნდაც ქვეყანამ არ უნდა უკარნახოს.
AGI უნდა ემსახურებოდეს მთელ კაცობრიობას და ფორმირდებოდეს მაქსიმალურად ინკლუზიურად. ამ მიმართულებით პირველი ნაბიჯის გადასადგმელად ვიწყებთ ამ საგრანტო პროგრამას. მსოფლიოს სხვადასხვა კუთხიდან ვეძებთ გუნდებს, რომლებიც შეიმუშავებენ დემოკრატიული პროცესის proof-of-concept-ებს იმ კითხვებზე საპასუხოდ, თუ რა წესები უნდა დაიცვან AI სისტემებმა. გვინდა, ამ ექსპერიმენტებიდან ვისწავლოთ და ისინი მომავალში უფრო გლობალური და უფრო ამბიციური პროცესის საფუძვლად გამოვიყენოთ. მიუხედავად იმისა, რომ ეს საწყისი ექსპერიმენტები (ყოველ შემთხვევაში, ამ ეტაპზე) გადაწყვეტილებებისთვის სავალდებულო არ არის გათვალისწინებული, იმედი გვაქვს, რომ ისინი გამოიკვლევს გადაწყვეტილებებთან დაკავშირებულ მნიშვნელოვან საკითხებს და შექმნის ახალ დემოკრატიულ ინსტრუმენტებს, რომლებიც მომავალში გადაწყვეტილებების მიღებას უფრო პირდაპირ შეუწყობს ხელს.
ყველაზე ძლიერი სისტემების მართვას, ისევე როგორც მათი დანერგვის შესახებ გადაწყვეტილებებს, ძლიერი საზოგადოებრივი ზედამხედველობა უნდა ჰქონდეს. ეს გრანტი წარმოადგენს ნაბიჯს AGI-ისა და საბოლოოდ სუპერინტელექტის ზედამხედველობისთვის დემოკრატიული პროცესების ჩამოსაყალიბებლად. მას OpenAI-ის არაკომერციული ორგანიზაცია გასცემს, და კვლევების შედეგები თავისუფლად ხელმისაწვდომი იქნება.
„დემოკრატიულ პროცესში“ ვგულისხმობთ პროცესს, რომელშიც ადამიანების ფართოდ წარმომადგენლობითი ჯგუფიA აზრებს ცვლის, მონაწილეობს დელიბერაციულ განხილვებშიB და საბოლოოდ შედეგს გამჭვირვალე გადაწყვეტილების მიღების პროცესის მეშვეობით განსაზღვრავს.C ასეთი პროცესი მრავალგვარად შეიძლება აიგოს — მოვუწოდებთ აპლიკანტებს, იყვნენ ინოვაციურები, დაეყრდნონ ცნობილ მეთოდოლოგიებს და სრულიად ახალი მიდგომებიც შექმნან. შემოქმედებითი მიდგომების მაგალითები, რომლებიც ჩვენთვის შთამაგონებელია, მოიცავს Wikipedia(იხსნება ახალ ფანჯარაში)-ს, Twitter Community Notes(იხსნება ახალ ფანჯარაში)-ს, DemocracyNext(იხსნება ახალ ფანჯარაში)-ს, Platform Assemblies(იხსნება ახალ ფანჯარაში)-ს, MetaGov(იხსნება ახალ ფანჯარაში)-ს, RadicalxChange(იხსნება ახალ ფანჯარაში)-ს, People Powered(იხსნება ახალ ფანჯარაში)-ს, Collective Response Systems(იხსნება ახალ ფანჯარაში)-ს და pol.is(იხსნება ახალ ფანჯარაში)-ს. კიდევ ერთი მნიშვნელოვანი მიმდინარე ინიციატივაა Collective Intelligence Project(იხსნება ახალ ფანჯარაში) (CIP), რომელთანაც AI-ზე საჯარო ჩართულობის მიმართულებით ვთანამშრომლობთ და წვლილი შეგვაქვს მათ მომავალ Alignment Assemblies(იხსნება ახალ ფანჯარაში)-ში. ასევე მოვუწოდებთ აპლიკანტებს წარმოიდგინონ, როგორ შეიძლება AI-მ დემოკრატიული პროცესი გააუმჯობესოს(იხსნება ახალ ფანჯარაში). მაგალითად, AI-ს შეუძლია შესაძლებელი გახადოს(იხსნება ახალ ფანჯარაში) უფრო ეფექტური კომუნიკაცია მრავალ ადამიანს შორის.
რამდენიმე პრობლემამ შეიძლება დემოკრატიული პროცესები დაასუსტოს, მაგალითად უმცირესობის ან უმრავლესობის ჯგუფების სათანადოდ ვერ წარმომადგენლობამ, სპეციალური ინტერესების ჯგუფების მანიპულაციამ, არასაკმარისად ინფორმირებულმა მონაწილეებმა, ან მონაწილეობის(იხსნება ახალ ფანჯარაში) გამორეცხვამ(იხსნება ახალ ფანჯარაში). ჩვენ ვეძებთ გუნდებს, რომლებიც პროაქტიულად გაუმკლავდებიან ამ წარუმატებლობის სცენარებს და აჩვენებენ, რომ აცნობიერებენ სხვადასხვა მიდგომის პოტენციურ ხარვეზებსა და უარყოფით მხარეებს. საბოლოოდ, ჭეშმარიტად დემოკრატიული პროცესების შექმნა ძალიან მაღალი სტანდარტია, და ჩვენ ჩვენს ძალისხმევას უფრო დამატებად ვხედავთ, ვიდრე მთავრობების მიერ AI-ის რეგულირების შემცვლელად; ეს პროგრამა ხელს უწყობს მაქსიმალური ძალისხმევის, დემოკრატიული სულისკვეთების მქონე პროცესებს, რომლებიც დელიბერაციასა და ფართო საზოგადოებრივ ჩართულობას მოიცავს, როგორც შუალედურ ნაბიჯებს.
გრანტზე განაცხადის შესატანად, გთხოვთ, საჭირო სააპლიკაციო მასალები წარმოადგინოთ 2023 წლის 24 ივნისს, PDT დროით საღამოს 9:00 საათამდე. განაცხადის პორტალზე გადასვლა შეგიძლიათ აქ(იხსნება ახალ ფანჯარაში). მოგეთხოვებათ უპასუხოთ კითხვების სერიას თქვენი გუნდის გამოცდილების, თქვენს მიერ შერჩეული კითხვების, თქვენი შემოთავაზებული ინსტრუმენტის მაღალი დონის დეტალების, ასევე დემოკრატიული პროცესის ჩატარებისა და შეფასების გეგმის შესახებ, ამ ფაქტორების გათვალისწინებით. გვსურს, თქვენი მიდგომა შეიმუშაოთ ისე, რომ პასუხობდეს მოცემული სიიდან ერთ ან რამდენიმე პოლიტიკის საკითხს. ამ შესაძლებლობაზე განაცხადის შეტანა ყველას შეუძლია (ინდივიდებსაც და ორგანიზაციებსაც), მიუხედავად მათი გამოცდილებისა სოციალური მეცნიერებებისა თუ AI-ის სფეროში.
განაცხადების ვადის დასრულების შემდეგ, იმედი გვაქვს, შევარჩევთ გრანტის ათ წარმატებულ მიმღებს. მიმღებები შეიძლება იყვნენ ინდივიდები, გუნდები ან ორგანიზაციები. თითოეული მიმღები მიიღებს 100,000-დოლარიან გრანტს, რათა თავიანთი წინადადება პილოტურად განახორციელონ განაცხადის მასალებში აღწერილი სახით. გრანტის მიმღებებს მოეთხოვებათ proof-of-concept / პროტოტიპის განხორციელება, მინიმუმ 500 მონაწილის ჩართვით, და 2023 წლის 20 ოქტომბრამდე თავიანთი მიგნებების შესახებ საჯარო ანგარიშის გამოქვეყნება. გარდა ამისა, საგრანტო პროგრამის ფარგლებში, პროექტისთვის შექმნილი ნებისმიერი კოდი ან სხვა ინტელექტუალური საკუთრება ღია კოდის ლიცენზიის შესაბამისად საჯაროდ ხელმისაწვდომი უნდა გახდეს. გრანტის მიმღებებზე მოქმედი პირობები მოცემულია Grant Terms-ში და სხვა შეთანხმებებში, რომელთა გაფორმებაც შესაძლოა ამ პროგრამასთან დაკავშირებით ჩვენთან დასჭირდეთ.
შეიტანეთ განაცხადი და დაიწყეთ წარდგენის პროცესი(იხსნება ახალ ფანჯარაში).
- 2023 წლის 24 ივნისი, წყნარი ოკეანის დროით საღამოს 9:00: გრანტის განაცხადის წარდგენის ბოლო ვადა
- 2023 წლის 14 ივლისი: წარმატებული აპლიკანტები შეირჩევიან და ეცნობებათ
- 2023 წლის 20 ოქტომბერი: სამუშაო პროტოტიპისა და შედეგების სრული საჯარო ანგარიში
მონაწილეობის მისაღებად, გუნდებმა მოცემული სიიდან უნდა აირჩიონ ერთი ან რამდენიმე კითხვა, რათა წარმოაჩინონ თავიანთი შემოთავაზებული მიდგომა. სურვილის შემთხვევაში მათ საკუთარი კითხვების შექმნაც შეუძლიათ. მნიშვნელოვანია, რომ გუნდებმა გაითვალისწინონ ისეთი კითხვები, რომლებზეც მარტივი „დიახ“ ან „არა“ პასუხი საკმარისი არ იქნება და ამის ნაცვლად ნიუანსიანი პოლიტიკის წინადადება იქნება საჭირო.
ამ გრანტის მასშტაბი ეხება მოდელის ქცევასთან დაკავშირებულ პოლიტიკის საკითხებს, რადგან ის შესაძლებელს ხდის A/B ტესტებს პოლიტიკის რეკომენდაციების მიხედვით შეცვლილი მოდელის ქცევით. ვაღიარებთ ამ გრანტის შეზღუდვებს და იმასაც, რომ მრავალი AI საკითხის გადაწყვეტა შეიძლებოდა დემოკრატიული პროცესის გზით, მოდელის ქცევის ფარგლებს მიღმაც, მათ შორის ისეთ სფეროებში, როგორიცაა AI-ის გამოყენების წესები სხვადასხვა კონტექსტში, ეკონომიკური გავლენა, სარგებლის განაწილება და სხვა.
- თქვენი აზრით, რამდენად შორს უნდა წავიდეს ChatGPT‑ის მსგავსი AI ასისტენტების პერსონალიზაცია, რათა ის მომხმარებლის გემოვნებასა და პრეფერენციებს მოერგოს? რა საზღვრები უნდა არსებობდეს, თუ საერთოდ უნდა არსებობდეს, ამ პროცესში?
- როგორ უნდა უპასუხონ AI ასისტენტებმა კითხვებს საჯარო ფიგურების შეხედულებების შესახებ? მაგალითად, უნდა იყვნენ ნეიტრალურები? უნდა თქვან პასუხზე უარი? უნდა მიუთითონ რაიმე სახის წყაროები?
- რა პირობებში, თუ საერთოდ, უნდა ჰქონდეთ AI ასისტენტებს სამედიცინო/ფინანსური/იურიდიული რჩევის მიცემის უფლება?
- რა შემთხვევებში, თუ საერთოდ, უნდა სთავაზობდნენ AI ასისტენტები ადამიანებს ემოციურ მხარდაჭერას?
- უნდა ჰქონდეთ თუ არა ერთობლივ ხედვა-ენის მოდელებს უფლება, ადამიანების გამოსახულებებიდან ამოიცნონ სქესი, რასა, ემოცია და იდენტობა/სახელი? რატომ ან რატომ არა?
- როდესაც გენერაციული მოდელები ქმნიან გამოსახულებებს არასაკმარისად განსაზღვრული მოთხოვნებისთვის, როგორიცაა „CEO“, „ექიმი“ ან „მედდა“, მათ შეუძლიათ წარმოქმნან როგორც მრავალფეროვანი, ისე ერთგვაროვანი შედეგები. როგორ უნდა დააბალანსონ AI მოდელებმა ეს შესაძლებლობები? რა ფაქტორები უნდა იყოს პრიორიტეტული, როდესაც ასეთ შემთხვევებში ადამიანების გამოსახვა წყდება?
- რა პრინციპებმა უნდა უხელმძღვანელოს AI-ს იმ თემებთან მიმართებით, რომლებიც ერთდროულად მოიცავს ადამიანის უფლებებს და ადგილობრივ კულტურულ ან სამართლებრივ განსხვავებებს, როგორიცაა LGBTQ უფლებები და ქალთა უფლებები? უნდა იცვლებოდეს თუ არა AI-ის პასუხები ადგილის ან კულტურის მიხედვით, სადაც მას იყენებენ?
- თქვენი აზრით, შინაარსის რომელ კატეგორიებზე, თუ რომელიმეზე, უნდა გაამახვილონ ყურადღება AI მოდელების შემქმნელებმა შეზღუდვის ან აკრძალვის მხრივ? რა კრიტერიუმებით უნდა განისაზღვროს ეს შეზღუდვები?
ამ გრანტის მთავარი მიზანი პროცესებში ინოვაციის წახალისებაა — ჩვენ გვჭირდება გაუმჯობესებული დემოკრატიული მეთოდები AI-ის ქცევის სამართავად. კითხვებზე კონკრეტულ პასუხებს ნაკლები მნიშვნელობა აქვს, ვიდრე იმ წინსვლას, რომელიც თავად პროცესში მიიღწევა.
- შეფასება: მონაწილეებს მოვუწოდებთ, განსაზღვრონ საკუთარი მეთოდების ხარისხის შეფასების მეტრიკები, მაგალითად მონაწილის კმაყოფილება, პოლარიზაციის ცვლილებები, მასშტაბირებადობა ან სხვა შესაბამისი ინდიკატორები, და შექმნან ახალი მეტრიკები ჯანსაღი დემოკრატიული პროცესისთვის.
- მდგრადობა: ზომები არასათანადო ქცევის, მაგალითად ტროლინგისა და ყალბი ანგარიშების, თავიდან ასაცილებლად ან მოსაგვარებლად.
- ინკლუზიურობა და წარმომადგენლობითობა: სტრატეგიები, რომლებიც დემოკრატიულ პროცესში სხვადასხვა გამოცდილებისა და AI სისტემებთან სხვადასხვაგვარი ნაცნობობის მქონე ადამიანების ჩართვას უზრუნველყოფს.
- უმცირესობის მოსაზრებების გაძლიერება: იმის უზრუნველყოფა, რომ არაპოპულარული ან უმცირესობის მოსაზრებები ისმოდეს, და მცირე ჯგუფებს მიეცეთ შესაძლებლობა გავლენა მოახდინონ მათთვის განსაკუთრებით მნიშვნელოვან საკითხებზე.
- ეფექტური მოდერაცია: მოდერაციასთან დაკავშირებული გამოწვევების მოგვარება, მათ შორის თვალსაზრისების მრავალფეროვანი წარმომადგენლობის უზრუნველყოფა, ღირებული წვლილის „თემას აცდენილი“ კომენტარებისგან გამიჯვნა და მოდერატორის მიკერძოების ზეგავლენის თავიდან აცილება პროცესზე.
- მასშტაბირებადობა: ჩვენ ყურადღებას ვამახვილებთ მასშტაბირებად პროცესებზე, რომელთა ვირტუალურად ჩატარებაა შესაძლებელი, და არა პირისპირ ჩართულობით. გვესმის, რომ ამ მიდგომამ შეიძლება დაკარგოს ზოგიერთი სარგებელი, რომელიც პირისპირ განხილვებს ახლავს, და ვაცნობიერებთ, რომ გარკვეული ასპექტები ვირტუალურ გარემოში შეიძლება დაიკარგოს.
- ქმედითობა: დელიბერაციის პროცესით მიღებული ინფორმაციის პრაქტიკულად გამოყენებადობის ხარისხი.
- გასაგებობა: რამდენად ადვილია პროცესის გაგება და მისდამი ნდობა.
სქოლიოები
- A
მონაწილეთა ჯგუფის შერჩევა კრიტიკულად მნიშვნელოვანი დიზაინის საკითხია. ამ საგრანტო გამოწვევის ნაწილი მონაწილეობასთან დაკავშირებული კითხვების განსაზღვრაში მდგომარეობს. მაგალითად, პოლიტიკის საკითხებს, რომლებიც უმცირესობების ჯგუფებს ეხება, შეიძლება ჯგუფის წევრების უფრო მაღალი წარმომადგენლობა დასჭირდეს, ხოლო ტექნოლოგიის ბავშვებზე გავლენის შესახებ კითხვებმა შეიძლება განათლებისა და ფსიქოლოგიის ექსპერტების, მაგალითად მასწავლებლებისა და ფსიქოლოგების, ჩართულობა მოითხოვოს. გარდა ამისა, ზოგიერთი კითხვა შეიძლება უკეთ შეეფერებოდეს კონკრეტულ გეოგრაფიულ საზღვრებში მცხოვრები მოსახლეობის პასუხებს, რათა ლოკალიზებული პოლიტიკის საკითხები მოგვარდეს.
- B
დელიბერაცია შეიძლება აღიწეროს, როგორც პროცესი, რომელიც ავლენს აზრებს და ეხმარება განხილვაში მონაწილეებს, უკეთ გაიგონ ერთმანეთის შეხედულებები, გადააფასონ და განაახლონ საკუთარი პოზიციები. კარგად დაგეგმილი დელიბერაცია უზრუნველყოფს, რომ არგუმენტები ყველა მხარისთვის კარგად გასაგები იყოს და ეფუძნებოდეს ადამიანების ღირებულებებს და არა ზედაპირულ გაუგებრობებს. წარმატებული დელიბერაცია იწვევს იმას, რომ მონაწილეები ან კონსენსუსის უფრო მაღალ დონეს აღწევენ, ან განსხვავებული პერსპექტივების უფრო ღრმა გაგებას.
- C
აქ გასათვალისწინებელია გადაწყვეტილების მიღების მრავალი ალგორითმი, მაგალითად წარმომადგენლების არჩევა, უმრავლესობით კენჭისყრა, ლიკვიდური დემოკრატიის(იხსნება ახალ ფანჯარაში) გამოყენება და გადაწყვეტილებების მიღება მოსახლეობის შემთხვევითი შერჩევის(იხსნება ახალ ფანჯარაში) გზით, რომელიც ასევე ცნობილია როგორც ნაფიცი მსაჯულები ან სორტირება(იხსნება ახალ ფანჯარაში).
ავტორები
მადლობები
Ariel Procaccia, Aviv Ovadya, Colin Megill, David Medina, Divya Siddarth, Ela Madej, Elizabeth Seger, Gillian Hadfield, Greg Brockman, Hélène Landemore, Ilya Sutskever, Justin Rosenstein, Margaret Levi, Michiel Bakker, Miles Brundage, Mira Murati, Noel Bundick, Pamela Mishkin, Ryan Lowe, Saffron Huang, Sam Altman, Sandhini Agarwal, Teddy Lee
