AI berpotensi untuk meningkatkan banyak aspek masyarakat dengan ketara.
Teknologi ini, seperti teknologi lain sebelumnya, akan memberi orang lebih banyak keupayaan dan autonomi yang lebih besar; apa yang manusia dapat lakukan dengan AI akan jauh mengatasi apa yang dapat dilakukan dengan enjin wap atau elektrik.
Kami membayangkan dunia dengan kemajuan meluas pada tahap yang kini sukar dibayangkan, dan dunia di mana potensi, autonomi dan kepuasan individu meningkat dengan ketara. Banyak perkara yang selama ini hanya wujud dalam imaginasi fiksyen sains berpotensi menjadi kenyataan, dan kebanyakan orang mungkin dapat menjalani kehidupan yang lebih bermakna berbanding yang mampu mereka nikmati hari ini.
Namun, hasil seperti ini tidak dijamin akan berlaku. Pada masa hadapan, kuasa mungkin tertumpu di tangan segelintir syarikat yang menggunakan dan mengawal kecerdasan super, atau ia boleh diagihkan secara lebih ternyahpusat kepada orang ramai. Kami percaya pilihan yang kedua adalah jauh lebih baik, dan matlamat kami adalah untuk meletakkan AI yang benar-benar bersifat umum di tangan seramai mungkin orang. Seperti masa kini, masa hadapan tidak akan menjadi sepenuhnya baik atau sepenuhnya buruk, tetapi keputusan yang kita buat hari ini boleh membantu memaksimumkan manfaat yang bakal diperoleh.
Misi kami adalah untuk memastikan AGI memberi manfaat kepada seluruh manusia. Berikut ialah prinsip yang membimbing kerja kami.
1. Pendemokrasian. Kami akan berusaha menghalang teknologi ini daripada menyebabkan kuasa tertumpu di tangan segelintir pihak.
Ini bermakna bahawa selain memastikan semua orang mempunyai akses kepada AI, kita juga perlu memastikan keputusan-keputusan penting berkaitan AI dibuat melalui proses demokrasi dan berlandaskan prinsip kesaksamaan, bukannya ditentukan oleh makmal AI semata-mata.
2. Pemerkasaan. Kami percaya AI dapat memperkasakan setiap individu untuk mencapai matlamat mereka, menimba lebih banyak ilmu, menikmati kehidupan yang lebih bahagia dan bermakna, serta mengejar impian masing-masing, dan masyarakat secara keseluruhannya turut akan memperoleh manfaat daripadanya.
Untuk merealisasikannya, kita perlu memberi ruang kepada orang ramai untuk meneroka potensi besar yang terbentang di hadapan kita, dan kita perlu membangunkan produk yang membolehkan mereka berbuat demikian. Pengguna seharusnya dapat melaksanakan tugas yang semakin bernilai melalui perkhidmatan kami dengan konsisten dan boleh dipercayai.
Dunia ini penuh dengan kepelbagaian, dan setiap orang mempunyai keperluan yang berbeza. Kami mahu memberikan autonomi yang diperlukan oleh pengguna kami serta membenarkan sebanyak mungkin kebebasan dalam batas yang munasabah.
Walaupun kami mahu memberi pengguna kami ruang yang sangat luas dalam cara mereka menggunakan perkhidmatan kami dan sangat percaya bahawa AI akan membawa manfaat besar secara keseluruhan, kami mempunyai tanggungjawab untuk membina dan melaksanakannya dengan cara yang meminimumkan kemudaratan. Ini termasuk, sudah tentu, mencegah kemudaratan berskala besar yang boleh membawa bencana, di samping mengurangkan kemudaratan pada peringkat individu atau komuniti serta mengelakkan kesan sosial yang berpotensi menghakis kesejahteraan masyarakat. Ini bermakna kami akan memilih pendekatan yang lebih berhati-hati apabila berdepan dengan ketidakpastian, dan hanya melonggarkan sekatan apabila terdapat bukti yang lebih kukuh.
3. Kemakmuran sejagat. Kami mahukan masa depan di mana semua orang boleh memiliki kehidupan yang cemerlang.
Dengan meletakkan sistem AI yang mudah digunakan dan mempunyai banyak kuasa komputasi ke tangan semua orang, kami percaya orang ramai akan menemui cara baharu untuk menjana nilai dan meningkatkan kualiti hidup semua orang secara besar-besaran, terutama melalui penemuan sains baharu.
Bagi memastikan kemakmuran dapat direalisasikan sepenuhnya dan dinikmati secara meluas, kami percaya bahawa 1) kerajaan mungkin perlu mempertimbangkan model ekonomi baharu bagi memastikan semua orang dapat turut serta dalam penciptaan nilai yang bakal terhasil, dan 2) kita perlu membina infrastruktur AI pada skala yang sangat besar serta membangunkan teknologi baharu untuk mengurangkan kos infrastruktur AI dengan ketara.
Banyak perkara kami lakukan yang kelihatan pelik—membeli kuasa komputasi dalam jumlah besar walaupun hasil kami masih agak kecil, melaksanakan integrasi menegak untuk mengurangkan kos dan memudahkan penggunaan teknologi kami, giat membina pusat data di seluruh dunia, serta pelbagai inisiatif lain—didorong oleh kepercayaan asas kami terhadap masa depan yang membawa kemakmuran sejagat.
4. Ketahanan. AI akan memperkenalkan risiko baharu, dan kami akan bekerjasama dengan syarikat lain, ekosistem, kerajaan, dan masyarakat untuk menanganinya. Kami akan memanfaatkan sumber Yayasan kami secara meluas untuk menyokong usaha ini.
Tiada makmal AI yang boleh memastikan masa depan yang baik sendirian. Contoh yang jelas, mungkin ada model yang amat berkeupayaan yang memudahkan penciptaan patogen baharu, dan kita memerlukan pendekatan seluruh masyarakat untuk mempertahankan diri daripadanya dengan langkah balas jenis patogen-agnostik. Contoh lain, apabila keupayaan keselamatan siber model meningkat, kita perlu segera menggunakan model ini untuk membantu melindungi perisian sumber terbuka dan infrastruktur kritikal, sambil melatih model agar membantu semua orang mencipta perisian yang lebih selamat.
Ini merupakan peluasan strategi lama kami tentang pelaksanaan berulang; kami percaya masyarakat perlu menangani setiap tahap keupayaan AI yang seterusnya, memahaminya, mengintegrasikannya, dan bersama-sama mencari jalan terbaik ke hadapan. Ini tidak boleh dilakukan dalam vakum; masyarakat dan teknologi berkembang bersama, dan itu memerlukan masa.
Kami tidak bermaksud bahawa ini merupakan satu-satunya strategi keselamatan kami; kami juga perlu membangunkan sistem yang selamat serta meneruskan usaha kukuh dalam bidang penjajaran teknikal.
Kami menjangkakan bahawa pada masa-masa tertentu, kami perlu bekerjasama dengan kerajaan, agensi antarabangsa dan inisiatif AGI lain untuk memastikan cabaran serius berkaitan penjajaran, keselamatan dan impak terhadap masyarakat telah diselesaikan pada tahap yang memadai sebelum kami meneruskan usaha seterusnya.
5. Kebolehsuaian. Kami terus percaya bahawa satu-satunya cara untuk menghadapi cabaran masa depan yang sangat sukar diramal adalah dengan bersedia untuk mengemas kini pendirian kami apabila kami memperoleh lebih banyak maklumat. Kami juga mengakui bahawa OpenAI kini merupakan daya pengaruh yang jauh lebih besar di dunia berbanding beberapa tahun yang lalu, dan kami akan bersikap telus tentang bila, bagaimana dan mengapa prinsip operasi kami berubah. Sebagai contoh yang konkrit, walaupun kami cukup yakin bahawa kemakmuran sejagat akan terus menjadi keutamaan penting, kami boleh membayangkan akan ada tempoh pada masa hadapan apabila kami perlu membuat pertimbangan antara memperkasakan individu dan meningkatkan daya tahan.
Pembangunan AI telah membawa banyak kejutan, dan lebih banyak lagi masih akan datang. Seiring dengan kemajuan teknologi ini, tingkah laku baru yang muncul daripadanya akan menjadi semakin sukar untuk diramalkan. Kami menerima ketidakpastian itu dengan hati terbuka dengan memajukan keupayaan secara berhati-hati, menggunakan sistem secara berperingkat, dan belajar daripada interaksi mereka dengan dunia.
Tidak lama dahulu, kami berasa bimbang untuk menerbitkan wajaran model GPT‑2 kerana kami tidak pasti apakah kesannya terhadap masyarakat. Jelas sekali, apabila dilihat semula, kebimbangan itu ternyata tidak berasas. Namun, pengalaman tersebut membawa kepada penemuan strategi penggunaan secara berperingkat, yang merupakan antara perkara paling penting yang pernah kami pelajari.
__
Kami sedang memasuki fasa yang sangat memberikan kesan apabila teknologi terus bertambah baik. Adalah sangat wajar untuk mengkritik kami atas setiap keputusan; kami memang wajar menerima penelitian yang sangat besar memandangkan besarnya tanggungjawab dalam apa yang kami lakukan. Kami tidak akan melakukan semuanya dengan betul, tetapi kami akan belajar dengan cepat dan membetulkan haluan.
Kami komited untuk memainkan peranan kami bagi menjadikan masa depan lebih baik daripada masa lalu; kami berasa bertuah dapat memikul kerja yang begitu penting ini.
