Mempercepat penyelidikan: Pandangan dari dalam OpenAI

Kami percaya AGI mesti ditadbir secara demokratik agar bermanfaat kepada seluruh manusia. Ini memerlukan perbahasan awam berasaskan maklumat tentang keupayaan, risiko dan perlindungan sistem AI berkeupayaan tinggi. Orang ramai di seluruh dunia perlu memahami kemungkinan hala tuju AI perbatasan agar dapat mempengaruhi perkembangannya secara bermakna.

Ketelusan tentang risiko, insiden dan perlindungan tertentu perlu, tetapi belum memadai. Orang ramai juga perlu memahami perkembangan sistem paling berkeupayaan dan cara sistem ini memacu penyelidikan di makmal perbatasan.

Kami mahu membina penyelidik AI automatik secara selamat yang, di bawah pengawasan manusia, memajukan pembelajaran mendalam dan penjajaran melalui penambahbaikan berulang. Menurut ukuran kami, sasaran memiliki pelatih penyelidikan automatik menjelang September tahun ini, yang diumumkan⁠(dibuka dalam tetingkap baru) pada musim luruh lalu, kini tercapai. “Pelatih penyelidikan” ialah sistem yang menjalankan tugas penyelidikan jelas di bawah arahan manusia, termasuk tugas yang memerlukan beberapa hari bagi penyelidik mahir. Kami mencapai kemajuan pesat ke arah mewujudkan penyelidik AI automatik menjelang Mac 2028.

Tahun ini, kerja harian penyelidik OpenAI banyak berubah. Penyelidik menggunakan ejen pengekodan sepanjang hari, sering dalam sesi serentak. Jumlah penggunaannya meningkat pesat, mengatasi pasukan OpenAI lain. Penyelidik menyumbang kod lebih cepat dan menjalankan lebih banyak eksperimen. Cara ejen digunakan turut berubah: ejen mengendalikan tugas semakin kompleks dan lebih kerap berjaya. Penyelidikan AI ialah proses kompleks dengan pelbagai potensi kekangan, jadi kemajuan keseluruhan mungkin tidak sepantas metrik khusus ini. Namun, dapatan ini umumnya selaras dengan tanggapan ramai kakitangan kami bahawa alat agentic mempercepat penyelidikan dengan ketara. Manusia masih menetapkan keutamaan penyelidikan, menilai idea dan hasil untuk diteruskan, serta memutuskan sama ada sistem diperluas, ditangguhkan atau digunakan.

Kami percaya penyelidikan AI automatik yang bertanggungjawab akan menghasilkan model yang meningkatkan kesejahteraan manusia dan memajukan misi OpenAI. Ia boleh mengurangkan kos kecerdasan canggih agar manfaatnya dinikmati di seluruh dunia. Antara sebab kami meneruskan usaha ini ialah potensinya menyelesaikan penjajaran dan membina pertahanan terhadap AI yang semakin berkeupayaan. Penyelidik AI automatik juga boleh menjadi penyelidik keselamatan atau penjajaran automatik. Sistem lebih berkeupayaan dan sejajar boleh melindungi infrastruktur kritikal, menangkis ejen AI berbahaya dan membangunkan perlindungan baharu.

Ini alasan untuk membangunkan penyelidikan automatik yang berguna, tetapi tidak bermakna RSI pesat semestinya patut dikejar. Keputusan untuk meneruskan dan caranya mesti bergantung pada keupayaan mengekalkan kawalan manusia serta pilihan demokratik berasaskan manfaat dan risiko.

Kami belum tahu cara mencapai RSI penuh yang sejajar dengan selamat. Kami berusaha memperluas langkah penjajaran dan keselamatan seiring keupayaan. Namun, kemajuan penjajaran dan keselamatan tidak semestinya seiring, dan sistem lebih berkeupayaan mungkin lebih sukar dipantau. Usaha teliti dalam penjajaran dan keselamatan menjadi teras, bermula dengan mengukur dan mengurangkan masalah keselamatan sistem pengekodan agentic hari ini. Jika meneruskan usaha membawa risiko keselamatan yang tidak boleh diterima, kami akan bertindak sewajarnya, termasuk memperlahankan atau menghentikan pembangunan atau penggunaan sistem yang tidak dapat kami lindungi secukupnya.

Selepas insiden Hugging Face, kami melaksanakan komitmen ini⁠: menangguhkan latihan pembelajaran pengukuhan (RL) model terkini untuk penggunaan, sambil memperkukuh dan menguji persekitaran penyelidikan melalui pasukan merah serta meluaskan pemantauan. Tidak semua penyelidikan terhenti: sesetengah beban kerja disambung dengan kawalan lebih kukuh, yang lain kekal ditangguhkan. Kami menaikkan piawaian keselamatan dan penjajaran serta menyepadukan keselamatan lebih mendalam dalam kitar hayat model, dengan bukti tingkah laku sejajar yang lebih kukuh sepanjang latihan.

Hari ini, kami memperincikan sumbangan sistem agentic kepada kemajuan kami ke arah RSI sejak beberapa bulan lalu. Sistem agentic masih baharu dan pesat berubah; usaha pengukuran kami masih awal. Perkongsian hasil awal dan kaedah ini bertujuan memaklumkan orang ramai, menggalakkan pendedahan awam dan membantu membentuk piawaian pengukuran bersama.

Seperti dalam pelan tindakan dasar perbatasan⁠ kami, kami percaya syarikat kami dan syarikat lain patut diwajibkan menjejak kemajuan RSI secara terbuka. Walaupun tanpa kewajipan itu, kami merancang untuk terus telus tentang kemajuan RSI. Pendekatan ketelusan kami akan berkembang seiring teknik pengukuran dan pemahaman, sambil menjaga sekuriti dan maklumat proprietari.

Pada awal tahun, penyelidik median mengikut penggunaan ejen di OpenAI hanya menggunakan ejen pengekodan sedikit. Menjelang pertengahan Ogos, penyelidik median menggunakan ejen setiap hari, dengan inferens melebihi $600 sehari pada harga API. Pengguna persentil ke-90 dalam organisasi penyelidikan kini menggunakan token bernilai lebih $7,000 sehari.

Sebelum Jun 2026, jumlah masa operasi ejen di organisasi penyelidikan masih kurang daripada jumlah masa kerja manusia. Keadaan itu kini berubah. Berdasarkan hari kerja 8 jam, pada pertengahan Ogos organisasi penyelidikan menggunakan 3.1 hari kerja ejen bagi setiap hari kerja manusia.

Cara lain menilainya ialah melihat bilangan penyelidik dengan aliran kerja serentak tinggi, misalnya menjalankan 4 ejen atau lebih serentak. Seperti ditunjukkan di bawah, bilangannya meningkat. Angka ini merangkumi puncak harian ejen yang dimulakan pengguna secara langsung serta subejen yang terhasil daripadanya.

Sebahagian besar penyelidikan AI ialah proses intensif tenaga kerja untuk menyepadukan peningkatan kecerdasan atau prestasi ke dalam model teras kami. Kemajuan memerlukan semua langkah berjalan lancar: mereka bentuk penambahbaikan, menulis penilaian prestasi model dan infrastruktur ujian berskala, mengesan pepijat serta tingkah laku tidak selamat atau tidak sejajar semasa latihan, lalu menyepadukan idea berjaya dalam larian latihan teras. Kegagalan pada mana-mana bahagian penyelidikan boleh mengekang seluruh kitaran.

Menulis kod dan menjalankan eksperimen ialah dua aktiviti utama penyelidik, dan kami melihat bukti kedua-duanya semakin pantas.

Data ini agak mudah diukur, tetapi sukar ditafsir. Dengan kemajuan automasi, tugas yang paling sukar diautomasikan akan menyerap lebih banyak usaha penyelidik dan menjadi kekangan utama kemajuan. Sumber pengkomputeran turut mengehadkan kemajuan, dan mungkin semakin penting apabila kekangan lain berkurang.

Sepanjang 2026, eksperimen bagi setiap pelaksana aktif meningkat; Ogos 2026 mencatat rekod sejak penjejakan bermula pada Jan 2025. Ini berkorelasi dengan penggunaan Codex, tetapi sumber pengkomputeran kami juga meningkat ketara sejak 2025.

Tanggapan kualitatif dan data dalaman menunjukkan perubahan campuran tugas ejen pengekodan, dengan tugas aras lebih tinggi dan berjangka lebih panjang semakin kerap diserahkan.

Untuk memahami trend ini, kami menganalisis penggunaan terkini organisasi penyelidikan melalui taksonomi yang baru diterbitkan⁠(dibuka dalam tetingkap baru) oleh Epoch AI bagi jenis kerja dalam kitar hayat R&D AI. Berilhamkan sistem pengelasan kerja O*NET yang lama digunakan, taksonomi khusus R&D AI perbatasan ini membahagikan proses kepada enam fasa:

1. Putuskan: kerja untuk dibuat, diteruskan dan diberi peruntukan

2. Reka bentuk: idea penyelidikan dan spesifikasi kejuruteraan

3. Bina: kod dan set data

4. Jalankan: larian latihan/penilaian, perkakasan, penyajian

5. Analisis: eksperimen, model, penggunaan, kerja luar

6. Komunikasi: dapatan, maklum balas, status, keputusan

Di bawah, kami mengelaskan token ejen pengekodan mengikut taksonomi ini.

Semua kategori aktiviti penyelidikan meningkat antara Januari hingga Ogos 2026. Pada Januari, kod penyelidikan dan infrastruktur mendominasi. Kategori ini berkembang, begitu juga kategori lain, khususnya bantuan teknikal dan pemantauan larian. Perancangan aras tinggi masih merangkumi bahagian yang amat kecil daripada token output ejen.

Menurut laporan rakan sekerja, ejen pengekodan cekap menyelesaikan masalah infrastruktur penyelidikan dalaman, lalu mengatasi satu kekangan penting kemajuan. Beberapa pasukan yang menyediakan sesi bantuan eksperimen mencatat penurunan kehadiran pada 2026. Satu pasukan menghentikannya terus untuk menumpukan penambahbaikan sistem lain.

Di sini, kami memplot bilangan siaran utama harian dalam satu saluran dalaman utama tempat penyelidik mendapatkan sokongan teknikal pasukan lain. Setahu kami, penurunan aktiviti ini tidak diimbangi peralihan pertanyaan ke saluran sokongan teknikal lain yang dikendalikan manusia. Penurunan trafik ini selaras dengan perubahan lebih meluas tersebut.

Kami juga boleh mengkaji kejayaan ejen pengekodan melaksanakan tugas penyelidik. Pengelas agentic menunjukkan kadar kejayaan umumnya meningkat dari Januari hingga Julai bagi beberapa tahap kesukaran (dianggarkan melalui masa manusia menyiapkan tugas), untuk tugas yang hasil sebenar dapat disahkan. Namun, ejen masih memerlukan banyak bimbingan manusia untuk berjaya, terutama bagi tugas semakin kompleks. Dalam 6 bulan lalu, lebih separuh tugas 4–8 jam yang berjaya melibatkan sekurang-kurangnya 1 intervensi.

Kemajuan ke arah sistem yang lebih berkeupayaan untuk AGI yang selamat dan bermanfaat juga bergantung pada perlindungan yang diperlukan bagi usaha ini. Penilaian kami tentang perlindungan yang diperlukan mungkin berubah apabila kami lebih memahami risikonya.

Seperti yang telah kami jelaskan,⁠ kami baru-baru ini mengemas kini piawaian pemantauan, penjajaran dan sekuriti kami. Di sini, kami menunjukkan kesan sekatan terkini terhadap satu aspek aktiviti penyelidikan.

Pada 20 Julai, selepas mendapati ejen telah menceroboh infrastruktur penyelidikan kami, kami menghentikan sementara perkhidmatan kontena untuk latihan, kemudian memulihkannya dengan sekatan tambahan yang ketat.

Ini menyebabkan penggunaan sumber pengkomputeran latihan RL merosot mendadak sementara pasukan mengkonfigurasi semula aliran kerja agar dapat beroperasi dalam persekitaran penyelidikan yang diperkukuh sekuritinya. Plot di atas merangkumi penangguhan dua minggu pembelajaran pengukuhan pada model terkini kami yang dirancang untuk digunakan. Dalam eksperimen RL kelas Astra antara 20 Julai hingga 6 Ogos, majoriti larian (mengikut peruntukan GPU) bertujuan menguji pelaksanaan penambahbaikan keselamatan dan sekuriti.

Pada 7 Ogos, bukti awal bahawa Astra mungkin mempunyai keupayaan siber kritikal⁠ menurut Rangka Kerja Kesediaan⁠(dibuka dalam tetingkap baru) kami membawa kepada sekatan sekuriti tambahan khusus untuk model itu, yang mewajibkan Astra dijalankan dalam persekitaran penyelidikan dengan sekuriti lebih tinggi. Pada minggu berikutnya, peruntukan GPU kelas Astra turun lagi sebanyak 59.2 peratus, tetapi peruntukan kepada kelas model lain meningkat 17.2 peratus. Peningkatan itu mengimbangi kira-kira 85 peratus penurunan kelas Astra, menjadikan jumlah peruntukan bagi beban kerja RL yang dianalisis hampir tidak berubah. Corak ini selaras dengan peralihan sebahagian latihan dan eksperimen kepada model bukan Astra ketika kerja melibatkan Astra disekat. Ia juga sepadan dengan laporan anekdot bahawa penyelidik mencari kegunaan lain bagi sumber pengkomputeran yang tidak lagi boleh digunakan untuk beban kerja yang tertakluk pada kekangan baharu.

Data ini memberikan petunjuk berguna bagi perbincangan berterusan tentang latihan dan keselamatan: apabila kawalan baharu diperkenalkan, sumber pengkomputeran kekal bernilai dan fleksibel, dan secara semula jadi akan disalurkan kepada kegunaan lain dalam usaha penyelidikan. Dalam jangka panjang, perbincangan tentang rentak kemajuan AI juga perlu meliputi cara terbaik menggunakan sumber pengkomputeran yang tertakluk pada kawalan baharu atau yang dicadangkan.

Mencapai dan memahami kemajuan ke arah RSI yang sejajar penting untuk misi kami. Kami akan terus memperhalus kaedah, melaporkan pemahaman kami yang berkembang, serta mengusahakan perbahasan awam berasaskan maklumat dan tadbir urus demokratik yang bermakna bagi sistem perbatasan.

Penyelidikan AI berasaskan ejen masih baharu, dan kami masih mempelajari cara mengukurnya. Sesetengah petunjuk, seperti jumlah kod yang dijana oleh pasukan penyelidikan kami, agak mudah dikumpulkan tetapi sukar ditafsir kerana hubungannya dengan kemajuan penyelidikan tidak pasti. Metrik yang lebih langsung mengukur kemajuan penyelidikan—seperti kekerapan ejen berjaya melaksanakan tugas penyelidik—mungkin lebih berguna, tetapi rumit untuk dibangunkan dan disahkan. Kesukaran ini bertambah kerana alat dan sistem yang digunakan penyelidik berkembang pesat. Memperdalam pemahaman tentang pemecutan penyelidikan ialah bidang tumpuan penting di seluruh OpenAI.

Dalam semua analisis ini, melainkan dinyatakan sebaliknya:

• “Penyelidik” ialah istilah luas bagi mana-mana ahli organisasi penyelidikan kami, termasuk mereka yang membina infrastruktur penyelidikan, mengurus projek penyelidikan atau menyokong usaha ini dengan cara lain.

• Metrik penggunaan ejen pengekodan meliputi sebahagian besar, tetapi bukan semua penggunaan, memandangkan alat dan sistem yang digunakan penyelidik berkembang pesat.