Input demokratis kanggo AI

Organisasi nirlaba kita, OpenAI, Inc., lagi ngluncuraké program kanggo maringi sepuluh hibah $100,000 kanggo mbiayai eksperimen nyiyapaké proses demokratis kanggo mutusaké aturan apa sing kudu dituruti sistem AI, ing wates sing ditemtokaké déning hukum.

AI bakal nduweni dampak ekonomi lan sosial sing gedhe lan jembar. Teknologi mbentuk uripe saben wong, cara kita sesambungan siji lan sijiné, lan cara masyarakat sakabèhé berkembang. Kita yakin manawa keputusan babagan carané AI tumindak kudu dibentuk déning macem-macem perspektif sing nggambarake kapentingan umum.

Undang-undang ngemot nilai lan norma kanggo ngatur prilaku. Ngluwihi kerangka hukum, AI, kaya masyarakat, mbutuhake pedoman tumindak sing luwih ruwet lan adaptif. Contoné: ing kahanan apa sistem AI kudu nyalahké utawa ngritik tokoh publik, ngélingi ana béda panemu antarkelompok babagan tokoh-tokoh kasebut? Kepiyé pandangan sing disengketakaké kudu diwakili ing output AI? Apa AI kanthi gawan kudu nggambarake persona wong rata-rata ing donya, negara pangguna, demografi pangguna, utawa sing béda babar pisan? Ora ana siji wong, perusahaan, utawa malah negara sing kudune ndikte keputusan-keputusan iki.

AGI⁠ kudu migunani kanggo kabèh umat manungsa lan dibentuk supaya sakinklusif mungkin. Kita ngluncuraké program hibah iki kanggo njupuk langkah awal menyang arah iki. Kita nggoleki tim saka saindenging donya kanggo ngembangaké proof-of-concepts kanggo proses demokratis sing bisa njawab pitakonan babagan aturan apa sing kudu dituruti sistem AI. Kita pengin sinau saka eksperimen-eksperimen iki, lan nggunakaké minangka dhasar kanggo proses global sing luwih ambisius ing mangsa ngarep. Senadyan eksperimen awal iki ora dimaksudaké (paling ora saiki) dadi ngiket kanggo keputusan, kita ngarep-arep iki njelajah pitakonan sing relevan kanggo keputusan lan mbangun piranti demokratis anyar sing ing mangsa ngarep bisa luwih langsung maringi informasi kanggo keputusan.

Tata kelola sistem sing paling kuat⁠, uga keputusan ngenani panyebarané, kudu nduweni pengawasan publik sing kuwat. Hibah iki minangka langkah kanggo netepaké proses demokratis kanggo ngawasi AGI lan pungkasane superintelligence. Iki bakal diwènèhaké déning organisasi nirlaba OpenAI, lan asil saka studi-studi kasebut bakal bisa diakses kanthi bébas.

Kanthi “proses demokratis,” sing kita maksud yaiku proses nalika klompok wong sing wakilé amba^A ijol-ijolan panemu, melu rembugan deliberatif,^B lan pungkasane mutusaké asil liwat proses pangambilan keputusan sing transparan.^C Ana akèh cara proses kaya ngéné bisa disusun—kita nyengkuyung pelamar supaya inovatif, nerusaké metodologi sing wis dikenal, lan nemokaké pendekatan anyar babar pisan. Conto pendekatan kreatif sing marahi kita inspirasi kalebu Wikipedia⁠(mbukak ing jendhela anyar), Twitter Community Notes⁠(mbukak ing jendhela anyar), DemocracyNext⁠(mbukak ing jendhela anyar), Platform Assemblies⁠(mbukak ing jendhela anyar), MetaGov⁠(mbukak ing jendhela anyar), RadicalxChange⁠(mbukak ing jendhela anyar), People Powered⁠(mbukak ing jendhela anyar), Collective Response Systems⁠(mbukak ing jendhela anyar), lan pol.is⁠(mbukak ing jendhela anyar). Upaya liya sing penting lan isih lumaku dipimpin déning Collective Intelligence Project⁠(mbukak ing jendhela anyar) (CIP), sing dadi mitra kita ing input publik kanggo AI, kanthi nyumbang marang Alignment Assemblies⁠(mbukak ing jendhela anyar) sing bakal teka. Kita uga nyengkuyung pelamar kanggo mbayangaké carané AI bisa ningkataké⁠(mbukak ing jendhela anyar) proses demokratis. Contoné, AI bisa nggampangaké⁠(mbukak ing jendhela anyar) komunikasi sing luwih efisien antarané akèh wong.

Sawetara masalah bisa ngrusak proses demokratis, kayata gagale makili kelompok minoritas utawa mayoritas kanthi cukup, manipulasi déning kelompok berkepentingan khusus, peserta sing kurang informasi, utawa partisipasi⁠(mbukak ing jendhela anyar) washing⁠(mbukak ing jendhela anyar). Kita nggoleki tim sing kanthi proaktif ngatasi mode kegagalan iki, lan nuduhaké kesadaran marang cacat lan kekurangan potensial saka manéka pendekatan. Pungkasane, ngrancang proses sing tenan demokratis iku standar sing dhuwur banget, lan kita ndeleng upaya kita minangka pelengkap, dudu panggantos, kanggo regulasi AI déning pemerintah; program iki nyengkuyung proses sing best-effort lan nduweni semangat demokratis sing nglibataké deliberasi lan input publik sing amba minangka watu loncatan.

Kanggo nglamar hibah, kita ngajak sampeyan ngirim materi aplikasi sing dibutuhaké paling telat jam 9:00 bengi PDT, 24 Juni 2023. Sampeyan bisa ngakses portal aplikasi ing kéné⁠(mbukak ing jendhela anyar). Sampeyan bakal dijaluk njawab serangkaian pitakonan babagan latar mburi tim sampeyan, pilihan pitakonan, rincian tingkat dhuwur babagan piranti sing diusulaké uga rencana kanggo nindakake lan ngevaluasi proses demokratis kanthi ngélingi faktor-faktor iki⁠. Kita pengin sampeyan ngrancang pendekatan kanggo ngatasi siji utawa luwih pitakonan kabijakan saka dhaptar sing diwènèhaké⁠. Sapa waé (individu utawa organisasi) bisa nglamar kesempatan iki, tanpa preduli latar mburi ing ilmu sosial utawa AI.

Sawisé periode aplikasi ditutup, kita ngarep-arep bisa milih sepuluh panampa hibah sing sukses. Panampa bisa individu, tim, utawa organisasi. Saben panampa bakal nampa hibah $100,000 kanggo nguji usulané kaya sing diterangaké ing materi aplikasi. Panampa hibah diarepaké ngleksanakaké proof-of-concept / prototipe, nglibataké paling ora 500 peserta lan diwajibaké nerbitaké laporan umum babagan temuane paling telat 20 Oktober 2023. Saliyane, minangka bagéan saka program hibah, kode utawa properti intelektual liya sing dikembangaké kanggo proyek iki kudu kasedhiya kanggo umum miturut lisensi open-source. Katemtuan sing ditrapaké kanggo panampa hibah dijlentrehaké ing Grant Terms lan perjanjian liya sing bisa waé dijaluk supaya ditandatangani karo kita gegayutan karo program iki.

Lamar lan wiwiti proses pengajuan⁠(mbukak ing jendhela anyar).

• 24 Juni 2023 9:00 bengi Wektu Pasifik: Tenggat ngirim aplikasi hibah
• 14 Juli 2023: Pelamar sing kasil bakal dipilih lan diwènèhi kabar
• 20 Oktober 2023: Rampungé laporan umum lengkap babagan prototipe kerja lan asil

Kanggo melu, tim kudu milih siji utawa luwih pitakonan saka dhaptar sing diwènèhaké kanggo nuduhaké pendekatan sing diusulaké. Yen dikarepaké, dheweke uga bisa nggawe pitakonané dhéwé. Sing penting, kita nyengkuyung tim kanggo nimbang pitakonan sing ora cukup yen mung dijawab “ya” utawa “ora”, saéngga mbutuhake usulan kabijakan sing luwih nuansa.

Ruang lingkup hibah iki gegayutan karo pitakonan kabijakan babagan prilaku model, amarga iki ngidini uji A/B kanthi prilaku model sing diowahi manut rekomendasi kabijakan. Kita ngakoni watesan hibah iki lan ngerti manawa akèh isu AI bisa ditangani liwat proses demokratis, ngluwihi prilaku model nganti nyakup wilayah kaya pedoman kanggo panggunaan AI ing manéka konteks, dampak ekonomi, distribusi paédah, lan liya-liyané.

• Sepira adoh miturut panemumu personalisasi asisten AI kaya ChatGPT supaya selaras karo selera lan preferensi pangguna kuduné ditindakake? Watesan apa, yen ana, sing kudu ana ing proses iki?
• Kepiyé asisten AI kuduné nanggapi pitakonan babagan pandangan tokoh publik? Contoné, apa kudu netral? Apa kudu nolak njawab? Apa kudu nyedhiyakake sumber tartamtu?
• Ing kahanan apa, yen ana, asisten AI kuduné diidinaké maringi saran medis/keuangan/hukum?
• Ing kasus apa, yen ana, asisten AI kuduné maringi dhukungan emosional marang individu?
• Apa model vision–language gabungan kuduné diidinaké ngenali gender, ras, emosi, lan identitas/jeneng wong saka gambaré? Napa ya utawa napa ora?
• Nalika model generatif nggawe gambar kanggo prompt sing ora rinci kaya “CEO,” “dokter,” utawa “perawat,” model kasebut nduweni potensi ngasilaké output sing warna-warni utawa seragam. Kepiyé model AI kudu nimbang loro kemungkinan iki? Faktor apa sing kudu diprioritaské nalika mutusaké penggambaran wong ing kasus kaya ngéné?
• Prinsip apa sing kudu nuntun AI nalika nangani topik sing nyangkut hak asasi manungsa lan uga béda budaya utawa hukum lokal, kaya hak LGBTQ lan hak perempuan? Apa tanggapan AI kudu owah adhedhasar lokasi utawa budaya panggonan AI digunakaké?
• Kategori konten apa, yen ana, sing miturut panemumu kudu dadi fokus para kreator model AI kanggo diwatesi utawa ditolak? Kritéria apa sing kudu digunakaké kanggo nemtokaké watesan iki?

Tujuan utama hibah iki yaiku nyurung inovasi ing proses—kita butuh cara demokratis sing luwih apik kanggo ngatur prilaku AI. Jawaban spesifik kanggo pitakonan-pitakonan kasebut ora pati wigati tinimbang kemajuan sing digawé ing prosesé dhéwé.

• Colin Megill, Ko-Pendiri pol.is⁠(mbukak ing jendhela anyar)
• Hélène Landemore, Profesor Ilmu Politik ing Yale⁠(mbukak ing jendhela anyar)
• Aviv Ovadya, Berkman Klein Center⁠(mbukak ing jendhela anyar)

• Evaluasi: Kita nyengkuyung peserta kanggo netepaké metrik kanggo ngevaluasi kualitas metodhé, kayata kepuasan peserta, owah-owahan polarisasi, skalabilitas, utawa indikator relevan liyané, lan nemokaké metrik anyar kanggo proses demokratis sing sehat.
• Ketangguhan: Langkah kanggo nyegah utawa ngatasi prilaku sing ora pantes, kayata trolling lan akun palsu.
• Inklusivitas lan keterwakilan: Strategi kanggo nglebokaké individu saka latar mburi sing warna-warni lan tingkat keakraban sing béda karo sistem AI ing proses demokratis.
• Panguwatan Panemu Minoritas: Mesthekaké manawa panemu sing ora populer utawa panemu minoritas tetep dirungokaké lan maringi klompok cilik kesempatan kanggo mengaruhi prakara sing wigati tumrap dheweke.
• Moderasi sing Efektif: Ngatasi tantangan ing moderasi, kalebu mesthekaké keterwakilan pandangan sing warna-warni, mbedakaké kontribusi sing migunani saka komentar “ora nyambung”, lan nyegah bias moderator mengaruhi proses.
• Skalabilitas: Kita nekanaké proses sing bisa diskalakake lan bisa ditindakake kanthi virtual, tinimbang liwat keterlibatan langsung. Kita ngerti manawa pendekatan iki bisa ngorbanaké sawetara paédah sing ana ing rembugan langsung, lan kita ngakoni manawa ana aspek tartamtu sing bisa ilang ing setelan virtual.
• Keterterapan: Sepira bisa ditindaklanjuti informasi sing digalihaké liwat proses deliberasi.
• Keterbacaan: Sepira gampang proses iki dipahami lan dipercaya.