Ngenalake Intelligence Age

“Apa bakal cukup… yen wates saka lembaran kertas iki dipercaya kanggo ngadhepi semangat kakuwasan sing saya nyusup?”
—James Madison, Federalis No. 48

Kanthi bungah, kita ngluncurake Intelligence Age, blog saka tim Masa Depan Strategis anyar ing OpenAI. Kita tim cilik kanthi tujuan bebarengan kanggo mangsuli siji pitakon utama: kepriye masyarakat mardika kudu ditata maneh supaya hak lan daya tumindak mandiri saben wong tetep kajaga nalika AI transformatif wiwit muncul?

Ing komunitas kabijakan lan keamanan AI sing luwih amba, pitakon kaya iki kadhang diarani risiko pemusatan kakuwasan. Tim kita didegake adhedhasar pamikiran manawa ing wektu sing dawa, golongan risiko iki paling gedhe, paling serius, lan paling angel ditanggulangi saka sisi konsep. Kena apa?

Negara modern minangka asil saka proses rembugan sing dawa lan ora rata antarane maneka pusat kakuwasan, kayata pemilik modal lan komoditas, sing nyekel kakuwasan politik, lan rakyat. Sing paling dhasar, kakuwasan politik lan militer gumantung marang tenaga kerja. Nyekel kakuwasan politik ateges nduweni monopoli panggunaan kekuwatan sing sah. Sajrone sejarah manungsa, monopoli kasebut awujud prajurit lan sing saiki diarani “polisi”, bebarengan karo birokrasi sipil-militer sing gedhe. Mesthi wae kabeh iku ditunjang akeh piranti teknologi, nanging dhasare tetep dioperasikake manungsa sing dhukungane dibutuhake supaya bisa terus mlaku. Kabèh piranti kasebut—prajurit, piranti, lan birokrasi panyengkuyunge—dibiayai saka pajak sing dipungut saka upah utawa asil produksi manungsa sing kudu gelem mbayar. Ing dhasare, kakuwasan gumantung marang kerja sama lan persetujuan akeh manungsa kanthi ukuran gedhe. David Hume ngringkes anggapan sing asring ora diucapake iki nalika nyatakake manawa para pemimpin politik “ora duwe panyengkuyung saliyane panemu [rakyat].”

Nanging mbokmenawa saiki wis ora mangkono. Kemajuan sistem otonom ing donya nyata bisa uga enggal ndadekake negara bisa nggunakake kekuwatan—ing njero lan njaba negara—tanpa gumantung marang prajurit utawa polisi sing gelem kerja sama. Kemajuan kecerdasan mesin uga bisa ndadekake negara entuk penghasilan sing dibutuhake, ora saka asil tenaga kerja saben wong, nanging saka asil pusat data. Operasional birokrasi dhewe uga bisa diotomatisasi meh kabeh. Mula, kakuwasan bisa wae ora perlu maneh disangga dening kesepakatan ing saindenging masyarakat. Rakyat sacara umum bisa mung oleh papan cilik ing meja rembugan, utawa malah ora oleh babar pisan.

Nyingkiri asil iki penting banget kanggo njaga kamardikan manungsa. Ora ana panemuan ilmiah, kemajuan teknologi, utawa pertumbuhan ekonomi sing pantes ditebus kanthi ngorbanake otonomi individu sajrone wektu dawa, kaya sing bakal ditimbulake asil iki. Akeh rasa kuwatir sing lumrah dadi panggerak politik AI sing lagi tuwuh ana gandhengane karo pitakon iki. Bisnis, kelompok kepentingan, lan saben wong padha kuwatir, “Apa aku bakal kelangan papan ing meja rembugan?”Ing sawatara bab, politik Amerika ing abad kaping 21 dibentuk dening rasa kuwatir sing padha, yaiku babagan daya individu lan bebarengan kanggo nemtokake arah negara lan “kanggo sapa” ekonomi iki lumaku. AI kanthi samesthine ndadekake rasa kuwatir sing wis ana iki saya penting.

Iki masalah struktural sing luwih jero tinimbang politik partisan saiki, malah luwih jero tinimbang wujud lan tata cara kanggo nindakake demokrasi republik saiki, sanajan kabeh iku kita anggep suci. Manungsa bisa wae alon-alon kelangan daya, sanajan rutinitas milih wakil tetep dianakake. Rakyat bisa kelangan daya tumindak, sanajan ana lembaran kertas sing nyebut dheweke mardika.

Nalika Amerika Serikat wiwit lair minangka negara mardika, James Madison wis ngerti manawa “wates saka lembaran kertas” ora bakal cukup kanggo nyegah tirani. Kaya akeh Pendiri liyane, kawigaten utamane yaiku nyegah pemusatan kakuwasan sing kebangeten.

Nanging, kuwi ora ateges para Pendiri nyengkuyung desentralisasi kakuwasan kanthi radikal. Kosok baline, dheweke ngrancang imbangan kakuwasan nganggo pepindhan saka ilmu paling maju ing jamane, yaiku mekanika Newton. Dokumen pendirian Amerika, sing niru basa lan logika gravitasi, kebak rujukan marang “orbit”, “lingkup”, lan dorongan “tarik-menarik” antarane siji perkara lan liyane. Tata surya dudu kumpulan watu sing dipisahake sakadoh-dohé; tata surya dumadi saka rembulan sing ngubengi planet, lan planet kasebut banjur ngubengi srengenge ing tengah. Dheweke percaya manawa manungsa lan organisasi duwe kecenderungan ngoyak kakuwasan, kaya benda langit sing duwe pola gerak lan daya tarik sing bisa diramalake. Kanggo nyegah pemusatan kakuwasan sing kebangeten, mekanisme kecenderungan kasebut kudu dimangerteni supaya bisa digerakake kanggo saling ngimbangi.

Dadi, tujuane para Pendiri dudu nyingkiri kabeh pemusatan kakuwasan, nanging nyegah supaya ora kebangeten, kanthi ngimbangi kakuwasan nganggo kakuwasan, lan ambisi nganggo ambisi. Saiki, kita bisa nggunakake tembung kaya “insentif” lan frasa kaya “teori game” kanggo nerangake dinamika dhasar sing padha.

Mangkono uga, jawaban kanggo tantangan struktural sing ditimbulake intelijèn mesin maju marang masyarakat merdika mbokmenawa dudu desentralisasi kuwasa paling radikal sing bisa dibayangake. Sing kudu ditindakake yaiku ngupaya mbangun lan njaga keseimbangan kuwasa sing trep supaya ora ana siji pihak utawa saklompok cilik pihak sing bisa nguwasani liyane.

Kanggo nggayuh keseimbangan iki, kita kudu mikir kanthi wening ngenani kasunyatan teknologi iki. Donya sing ngidini sapa wae, senajan duwe niyat ala, kanthi gampang nyebabake karusakan gedhe marang ewonan utawa mayuta-yuta wong dudu donya sing wis nggayuh keseimbangan kuwasa sing trep. Nanging keseimbangan kuwasa uga durung trep yen saben wong ora nduweni akses lan kendhali sing jembar marang meh kabeh unsur piranti sing digunakake kanggo mujudake kamardikane. Ora kena ana siji perusahaan utawa oligopoli sing nemtokake utawa nguwasani ekonomi utawa rancangan dhasar masyarakat manungsa.

Kita uga kudu tinarbuka marang risiko sing ora asale saka manungsa kanthi niyat ala. Kedadeyan Hugging Face sing mentas kelakon nuduhake yen agen AI bisa tumindak ngluwihi tugas sing diwenehake lan ngembangake panemune siji lan sijine kanthi cara sing ora diprakirakake utawa diidinake operator. Ngluwihi kedadeyan Hugging Face, manungsa pancen kudu nggatekake apa teges AI supercerdas sing “uwal” saka kendhali manungsa tumrap daya tahane pranata politik lan ekonomi kita, lan uga urip kita. Nganggep desentralisasi bisa ngrampungake kabeh masalah—senajan sampeyan percaya manawa akeh masalah bisa dirampungake—ateges ora nggatekake risiko sing saiki mesthine wis cetha lan nyata.

Prinsip-prinsip umum ing ngisor iki—sing dudu dhaptar jangkep—bakal nuntun pakaryan kita nalika ngupaya mangsuli pitakon sing wis diandharake ing ndhuwur:

• Manungsa kudu tetep nduweni otonomi lan kalodhangan pribadi nalika nggunakake AI lan teknologi sing gegayutan, senajan kadhang kudu ngurangi keamanan lan pertumbuhan ekonomi;
• Otonomi pribadi gumantung marang tanggung jawab saben wong tumrap panggunaan teknologi kanthi luput utawa sewenang-wenang;
• Ana kategori risiko sing cilik nanging serius lan mbutuhake tumindak bebarengan kanthi taraf tartamtu; cakupan tumindak kasebut kudu digawe sesempit lan prasaja sabisa-bisane;
• Yen bisa, hukum kudu ngupaya nyamaratakake kahanan saingan lan nguwatake individu lan organisasi cilik, dudu malah memusatake kuwasa;
• Pranata politik, sosial, lan ekonomi manungsa kudu tetep dadi penentu utama arah urusan donya, senajan kudu ngrembaka kanthi cara sing saiki bisa katon asing tumrap kita;
• Tata kelola AI jangka panjang bakal gumantung marang mekanisme kelembagaan anyar kanggo nggayuh keterlacakan winates—nalika sistem AI nindakake tumindak berisiko gedhe sing mengaruhi kasehatan jasmani utawa barang darbeke wong liya, tumindak kasebut kudu bisa dilacak menyang manungsa utawa organisasi sing dikendhaleni manungsa lan tanggung jawab. Nanging, mekanisme kasebut kudu dirancang kanthi privasi minangka dhasare; kabebasan ngandharake panemu mbutuhake anonimitas, lan manungsa kudu bebas nggunakake AI kanthi anonim ing akeh kahanan.

Kita bakal nyoba njlentrehake—kanthi cara sakonkret-konkreté—carane prinsip-prinsip iki miturut kita kudu diimbangi, amarga kaya kumpulan prinsip sing becik, kabeh pancen duwe sawetara ketegangan siji lan sijine. Kanggo nindakake iki, dibutuhake riset ing patemon antarane rancangan kabijakan umum, ekonomi, hukum, sejarah, lan pamulangan mesin. Iki uga mbutuhake akeh prakiraan. Contone, kita percaya yen AI bakal ngowahi struktur perusahaan, padha kaya teknologi Revolusi Industri—utamane sepur—sing nuwuhake perusahaan modern kanthi manajemen profesional. Angel mikirake ekonomi politik lan keseimbangan kuwasa ing mangsa ngarep tanpa ngembangake gagasan sing luwih jero ngenani kepriye struktur perusahaan—uga lembaga pamrentah lan masyarakat sipil kanthi luwih jembar—bisa owah.

Tim Masa Depan Strategis bakal nuduhake karyane ing kene lan liwat format liyane, kalebu makalah, video, lan siniar. Upaya iki isih terus dikembangake, kanthi ngutamakake penyempurnaan, debat, lan sikap tinarbuka marang pamrayoga. Nalika ngadeg “ing sikile gunung singularitas”, pitakon kita isih luwih akeh tinimbang wangsulane. Kita ngerti manawa “wates saka lembaran kertas” wae ora bakal menehi solusi sing digoleki, nanging kita uga ora nganggep apa sing katulis mung “tembung tanpa teges”. Kita makarya kanggo mujudake cita-cita kabebasan medhar panemu lan kamardikan individu sing diabadekake ing lembaran prasaja Konstitusi A.S. lan konstitusi saka akeh masyarakat mardika liyane ing saindenging jagad.

Pungkasane, kita ngerti manawa ora ana siji perusahaan, industri, utawa malah masyarakat manungsa sing bisa mangsuli pitakon wigati iki dhewekan. Iki tugas sing kudu ditindakake bebarengan dening kabeh manungsa. Pangarep-arep kita sing paling gedhe yaiku madhangi perkara-perkara paling angel babagan carane AI bakal ngowahi jagad kita. Pakaryan kita lagi wae diwiwiti, lan isih akeh undhakan sing kudu diliwati.

Cathetan: jeneng blog iki wis diganti dadi Intelligence Age supaya ora kliru karo AI Futures Project, organisasi nirlaba.