Kemajuan dan rekomendasi AI

Ketika konsep populer tentang tes Turing berlalu begitu saja, banyak dari kita merasa sedikit heran karena kehidupan sehari-hari tetap berjalan seperti biasa. Ini adalah tonggak sejarah yang telah dibicarakan orang selama beberapa dekade. Rasanya mustahil untuk diraih, lalu tiba-tiba terasa dekat, lalu tiba-tiba kita berada di sisi yang lain. Kita memiliki beberapa produk baru yang hebat dan tidak banyak yang berubah di dunia, meskipun komputer sekarang dapat berkomunikasi dan berpikir tentang masalah-masalah sulit.

Sebagian besar dunia masih memandang AI sebagai chatbot dan mesin pencarian yang lebih baik, tetapi saat ini, kita memiliki sistem yang dapat mengungguli manusia terpintar dalam beberapa kompetisi intelektual yang paling menantang. Meskipun sistem AI masih rentan dan memiliki banyak kekurangan, sistem yang mampu menyelesaikan masalah sulit terasa jauh lebih dekat dengan kemampuan peneliti AI, sekitar 80% jalan, bukan hanya 20% Cara kebanyakan orang menggunakan AI masih jauh dari kemampuan AI sebenarnya saat ini.

Sistem AI yang dapat menemukan pengetahuan baru—baik secara mandiri, atau dengan membuat orang bekerja lebih efektif—kemungkinan besar akan memberikan dampak signifikan terhadap dunia.

Dalam beberapa tahun saja, AI telah berkembang dari hanya mampu menyelesaikan tugas (khususnya dalam bidang rekayasa perangkat lunak) yang dapat diselesaikan seseorang dalam hitungan detik hingga tugas yang memerlukan waktu lebih dari satu jam. Kami berharap segera memiliki sistem yang dapat menyelesaikan tugas yang memerlukan waktu berhari-hari atau berminggu-minggu bagi seseorang; kami tidak tahu bagaimana cara memikirkan sistem yang dapat menyelesaikan tugas yang memerlukan waktu berabad-abad bagi seseorang.

Pada saat yang sama, biaya per unit dari tingkat kecerdasan tertentu telah turun tajam; 40 kali per tahun adalah perkiraan yang masuk akal selama beberapa tahun terakhir! 

Pada tahun 2026, kami berharap AI akan mampu membuat penemuan-penemuan kecil. Pada tahun 2028 dan seterusnya, kami cukup yakin bahwa kami akan memiliki sistem yang dapat membuat penemuan yang lebih signifikan (meskipun kami tentu saja bisa salah, inilah yang tampaknya ditunjukkan oleh kemajuan penelitian kami).

Kami sudah lama merasa bahwa kemajuan AI berkembang dengan cara yang mengejutkan, dan bahwa masyarakat menemukan cara untuk berevolusi bersama teknologi tersebut. Meskipun kami mengharapkan kemajuan pesat dan signifikan dalam kemampuan AI dalam beberapa tahun ke depan, kami memperkirakan bahwa kehidupan sehari-hari akan tetap terasa mengejutkan konstan; cara kita hidup memiliki banyak inersia bahkan dengan alat yang jauh lebih baik.

Secara khusus, kami berharap masa depan akan menghadirkan cara-cara yang baru dan semoga lebih baik untuk menikmati kehidupan dengan indah, dan agar lebih banyak orang dapat memiliki kehidupan seperti itu dibandingkan dengan saat ini. Memang benar bahwa pekerjaan akan berbeda, transisi ekonomi mungkin sangat sulit dalam beberapa hal, dan bahkan mungkin kontrak sosial ekonomi yang mendasar harus berubah. Namun, di dunia dengan sumber daya melimpah di mana-mana, kehidupan orang-orang dapat menjadi jauh lebih baik daripada saat ini.

Sistem AI akan membantu orang memahami kesehatan mereka, mempercepat kemajuan di bidang-bidang seperti ilmu material, pengembangan obat, dan pemodelan iklim, serta memperluas akses ke pendidikan yang dipersonalisasi bagi siswa di seluruh dunia. Menunjukkan manfaat nyata seperti ini membantu membangun visi bersama tentang dunia di mana AI dapat membuat hidup lebih baik, bukan hanya lebih efisien.

OpenAI sangat berkomitmen terhadap keamanan ⁠, yang kami pikirkan sebagai praktik memungkinkan dampak positif AI dengan mengurangi dampak negatifnya. Meskipun potensi manfaatnya sangat besar, kami memandang risiko sistem superintelijen sebagai sesuatu yang berpotensi menimbulkan bencana dan percaya bahwa secara empiris⁠ mempelajari⁠ keamanan⁠ dan keselarasan⁠ dapat membantu keputusan global, seperti apakah seluruh bidang harus memperlambat pengembangan sesuatu untuk mempelajari sistem ini dengan lebih cermat saat kita semakin dekat dengan sistem yang mampu melakukan perbaikan diri secara rekursif. Jelas, tidak seorang pun seharusnya menerapkan sistem superintelijen tanpa kemampuan untuk menyelaraskan dan mengendalikannya dengan kuat, dan ini memerlukan lebih banyak pekerjaan teknis. 

Berikut adalah beberapa hal yang kami pikir dapat membantu mencapai masa depan yang positif dengan AI:

Kami berpikir bahwa laboratorium terdepan harus menyetujui prinsip-prinsip keamanan bersama dan berbagi penelitian keamanan⁠, pembelajaran tentang risiko baru, mekanisme untuk mengurangi dinamika persaingan, dan lainnya. Kami dapat membayangkan situasi seperti laboratorium terdepan yang menyetujui standar-standar tertentu seputar evaluasi pengendalian AI akan sangat membantu.

Masyarakat menjalani proses serupa untuk menetapkan kode bangunan dan standar kebakaran, yang telah menyelamatkan banyak nyawa.

Ada dua aliran pemikiran tentang AI. Salah satunya adalah bahwa AI seperti “teknologi biasa,” karena akan berkembang seperti revolusi teknologi lainnya di masa lalu, dari mesin cetak hingga internet. Hal-hal akan berkembang dengan cara yang memberi kesempatan kepada individu dan masyarakat untuk beradaptasi, dan alat kebijakan publik konvensional seharusnya dapat berfungsi. Kami perlu memprioritaskan ide-ide seperti mendorong inovasi, melindungi privasi percakapan dengan AI, dan mencegah penyalahgunaan sistem canggih oleh pihak yang berniat jahat, termasuk bekerja sama dengan pemerintah federal.

Kami percaya AI dengan tingkat kemampuan saat ini berada di titik yang kira-kira seperti ini, dan sebaiknya tersebar luas. Artinya, sebagian besar pengembang dan model open-source, serta hampir semua penerapan teknologi saat ini, seharusnya menghadapi tambahan beban regulasi sedikit dibanding yang sudah ada. Seharusnya tentu tidak perlu menghadapi aturan yang berbeda-beda di 50 negara bagian

Yang lainnya adalah ketika kecerdasan super berkembang dan menyebar dengan cara dan kecepatan yang belum pernah disaksikan umat manusia sebelumnya. Di sini, kita harus melakukan sebagian besar hal di atas, tetapi kita juga perlu lebih inovatif. Jika premisnya adalah bahwa hal seperti ini akan sulit diadaptasi oleh masyarakat dengan “cara normal”, kita juga tidak boleh berharap regulasi yang umum akan mampu berbuat banyak. Dalam kasus ini, kita mungkin perlu bekerja sama erat dengan cabang eksekutif dan lembaga terkait di berbagai negara (seperti berbagai lembaga keamanan) untuk berkoordinasi dengan baik, terutama dalam hal mitigasi aplikasi AI terhadap bioterorisme (dan penggunaan AI untuk mendeteksi dan mencegah bioterorisme) serta implikasi dari AI yang dapat memperbaiki dirinya sendiri.

Hal yang paling penting seharusnya adalah akuntabilitas kepada lembaga publik, tetapi cara kita mencapainya mungkin harus berbeda dari masa lalu.

Dalam skenario apa pun, membangun ekosistem ketahanan AI akan sangat penting. Ketika internet muncul, kita tidak melindunginya dengan satu kebijakan atau perusahaan—kita membangun seluruh bidang keamanan siber: perangkat lunak, protokol enkripsi, standar, sistem pemantauan, tim respons darurat, dan lain-lain. Ekosistem tersebut tidak menghilangkan risiko, tetapi menguranginya ke tingkat yang dapat diterima oleh masyarakat, menjadikan orang-orang cukup mempercayai infrastruktur digital guna membangun kehidupan dan perekonomian mereka di atasnya. Kita akan membutuhkan sesuatu yang serupa untuk AI, dan ada peran penting bagi pemerintah nasional dalam mempromosikan kebijakan industri untuk mendorong hal ini.

Memahami bagaimana AI secara konkret memengaruhi dunia memudahkan untuk mengarahkan teknologi ini ke dampak yang positif. Prediksi itu sulit: misalnya, dampak AI pada pekerjaan sulit untuk diantisipasi, sebagian besarnya karena kekuatan dan kelemahan AI saat ini sangat berbeda dari kekuatan dan kelemahan manusia. Mengukur apa yang terjadi dalam praktik kemungkinan besar akan sangat informatif.

Kami percaya bahwa orang dewasa seharusnya dapat menggunakan AI sesuai keinginan mereka sendiri, dalam batasan luas yang ditetapkan oleh masyarakat. Kami memperkirakan akses ke AI canggih akan menjadi utilitas mendasar dalam beberapa tahun mendatang—setara dengan listrik, air bersih, atau makanan. Pada akhirnya, kami berpikir bahwa masyarakat seharusnya memberikan dukungan agar alat-alat ini tersedia secara luas dan bahwa tujuan utama harus membantu memberdayakan orang untuk mencapai tujuan mereka.