AI memiliki potensi untuk secara signifikan meningkatkan banyak aspek masyarakat.
Teknologi ini, seperti teknologi-teknologi sebelumnya, akan memberi orang lebih banyak kemampuan dan kendali; apa yang dapat dilakukan orang dengan AI akan jauh melampaui apa yang dapat dilakukan orang dengan mesin uap atau listrik.
Kami membayangkan dunia dengan kemakmuran yang tersebar luas pada tingkat yang saat ini sulit dibayangkan, serta dunia di mana potensi, kendali, dan pemenuhan diri individu meningkat secara signifikan. Banyak hal yang selama ini hanya berani kita impikan dalam fiksi ilmiah bisa menjadi kenyataan, dan kebanyakan orang dapat menjalani hidup yang lebih bermakna daripada yang bisa mereka jalani saat ini.
Namun, hasil ini tidak terjamin. Kekuasaan di masa depan bisa dipegang oleh segelintir kecil perusahaan yang menggunakan dan mengendalikan superintelligence, atau bisa dipegang secara terdesentralisasi oleh orang-orang. Kami percaya pilihan kedua jauh lebih baik, dan tujuan kami adalah menempatkan AI yang benar-benar umum di tangan sebanyak mungkin orang. Seperti masa kini, masa depan tidak akan sepenuhnya buruk atau sepenuhnya baik, tetapi keputusan yang kita ambil sekarang dapat membantu memaksimalkan hal-hal baik.
Misi kami adalah memastikan AGI bermanfaat bagi seluruh umat manusia. Berikut adalah prinsip-prinsip yang memandu pekerjaan kami.
1. Pemerataan akses Kami akan menolak potensi teknologi ini untuk memusatkan kekuasaan di tangan segelintir orang.
Ini berarti bahwa selain memberi semua orang akses ke AI, kita perlu memastikan bahwa keputusan-keputusan penting tentang AI dibuat melalui proses demokratis dan dengan prinsip-prinsip egaliter, bukan hanya oleh lab AI.
2. Pemberdayaan. Kami percaya AI dapat memberdayakan setiap orang untuk mencapai tujuan mereka, belajar lebih banyak, menjadi lebih bahagia dan lebih terpenuhi, serta mengejar impian mereka, dan bahwa masyarakat secara keseluruhan akan mendapat manfaat dari hal ini.
Mewujudkan ini mengharuskan kita membiarkan orang mengeksplorasi potensi besar yang ada di hadapan kita, dan kita perlu membangun produk yang memungkinkan hal tersebut. Pengguna harus dapat secara andal menyelesaikan tugas-tugas yang makin bernilai dengan layanan kami.
Dunia ini beragam dan orang-orang memiliki kebutuhan yang berbeda. Kami ingin memberi pengguna kami otonomi yang mereka perlukan dan mengizinkan sebanyak mungkin hal selama masuk akal.
Meskipun kami ingin memberi pengguna kami keleluasaan yang sangat luas dalam menggunakan layanan kami dan sangat meyakini bahwa AI secara keseluruhan akan sangat bermanfaat, kami memiliki tanggung jawab untuk membangun dan menerapkannya dengan cara yang meminimalkan bahaya. Ini tentu mencakup pencegahan bahaya yang bersifat sangat parah, tetapi juga meminimalkan kerugian lokal dan menghindari potensi dampak sosial yang merusak. Ini berarti berpihak pada kehati-hatian saat menghadapi ketidakpastian, dan melonggarkan pembatasan ketika ada lebih banyak bukti.
3. Kemakmuran universal. Kami menginginkan masa depan di mana setiap orang dapat memiliki kehidupan yang luar biasa.
Dengan menempatkan sistem AI yang mudah digunakan dan memiliki daya komputasi besar ke tangan semua orang, kami percaya orang akan menemukan cara-cara baru untuk menciptakan nilai dan secara besar-besaran meningkatkan kualitas hidup bagi semua orang, terutama melalui penemuan sains baru.
Agar kemakmuran dapat terwujud sepenuhnya dan dibagikan secara luas, kami percaya bahwa 1) pemerintah mungkin perlu mempertimbangkan model ekonomi baru untuk memastikan semua orang dapat berpartisipasi dalam penciptaan nilai yang ada di hadapan kita dan 2) kita perlu membangun infrastruktur AI dalam jumlah sangat besar dan mengembangkan teknologi baru untuk menurunkan biaya infrastruktur AI secara drastis.
Banyak hal yang kami lakukan yang tampak aneh—membeli daya komputasi dalam jumlah besar saat pendapatan kami relatif kecil, melakukan integrasi vertikal untuk menurunkan biaya dan membuat teknologi kami lebih mudah digunakan, mendorong pembangunan pusat data di seluruh dunia, dan banyak lagi—didorong oleh keyakinan mendasar kami pada masa depan kemakmuran universal.
4. Ketangguhan. AI akan memunculkan risiko-risiko baru, dan kami akan bekerja sama dengan perusahaan lain, ekosistem, pemerintah, dan masyarakat untuk mengatasinya. Kami akan menggunakan secara signifikan sumber daya Foundation kami untuk mendukung pekerjaan ini.
Tidak ada satu pun lab AI yang dapat memastikan masa depan yang baik sendirian. Sebagai contoh yang jelas, mungkin ada model yang sangat cakap yang memudahkan pembuatan patogen baru, dan kita memerlukan pendekatan tingkat masyarakat untuk mempertahankan diri dari hal ini dengan langkah-langkah penanggulangan yang agnostik terhadap patogen. Contoh lainnya adalah seiring meningkatnya kapabilitas model dalam keamanan siber, kita perlu segera menggunakan model-model ini untuk membantu mengamankan perangkat lunak sumber terbuka dan infrastruktur kritis, sambil melatih model tersebut agar membantu semua orang membuat perangkat lunak yang lebih aman.
Ini merupakan perluasan dari strategi lama kami tentang penerapan iteratif; kami percaya masyarakat perlu menghadapi setiap tingkat kapabilitas AI yang terus meningkat, memahaminya, mengintegrasikannya, dan bersama-sama menentukan jalan terbaik ke depan. Hal ini tidak dapat dilakukan terpisah dari kenyataan; masyarakat dan teknologi berevolusi bersama, dan itu membutuhkan waktu.
Yang kami maksud bukanlah bahwa ini satu-satunya strategi keamanan kami; kami juga perlu membuat sistem yang aman dan terus melakukan pekerjaan hebat dalam penyelarasan teknis.
Kami memperkirakan akan ada masa-masa ketika kami perlu berkolaborasi dengan pemerintah, lembaga internasional, dan upaya AGI lainnya untuk memastikan bahwa kami telah cukup menyelesaikan masalah penyelarasan, keamanan, atau sosial yang serius sebelum melanjutkan pekerjaan kami lebih jauh.
5. Adaptabilitas. Kami tetap percaya bahwa satu-satunya cara untuk menghadapi tantangan masa depan yang sangat tidak dapat diprediksi adalah dengan siap memperbarui posisi kami seiring kami belajar lebih banyak. Kami juga mengakui bahwa OpenAI adalah kekuatan yang jauh lebih besar di dunia dibandingkan beberapa tahun lalu, dan kami akan transparan tentang kapan, bagaimana, dan mengapa prinsip-prinsip operasional kami berubah. Sebagai contoh konkret, meskipun kami cukup yakin bahwa kemakmuran universal akan tetap sangat penting, kami dapat membayangkan adanya periode di masa depan di mana kami harus mengorbankan sebagian pemberdayaan demi ketahanan yang lebih besar.
Pengembangan AI telah membawa banyak kejutan, dan lebih banyak lagi masih akan datang. Seiring kemajuan teknologi, perilaku yang akan muncul akan menjadi makin sulit diprediksi. Kami menerima ketidakpastian itu dengan memajukan kapabilitas secara hati-hati, menerapkan sistem secara iteratif, dan belajar dari interaksinya dengan dunia.
Belum lama berselang, kami merasa gugup untuk merilis bobot GPT‑2 karena kami tidak yakin apa dampaknya terhadap masyarakat. Jelas jika dilihat ke belakang, itu adalah kekhawatiran yang keliru, tetapi hal itu membuat kami menemukan strategi penerapan iteratif, yang telah menjadi salah satu hal terpenting yang kami pahami.
__
Kita sedang memasuki fase yang sangat berdampak seiring teknologi terus membaik. Sangat wajar untuk mengkritik kami atas setiap keputusan; kami pantas mendapat pengawasan yang sangat besar mengingat bobot dari apa yang kami lakukan. Kami tidak akan melakukan semuanya dengan benar, tetapi kami akan belajar dengan cepat dan mengoreksi arah.
Kami berkomitmen penuh untuk melakukan bagian kami agar masa depan lebih baik daripada masa lalu; kami merasa beruntung dapat mengerjakan hal yang begitu penting.
