Meningkatkan dukungan dengan setiap interaksi di OpenAI
Ini adalah bagian dari seri tulisan mengenai cara OpenAI membangun solusi yang memakai teknologi kami sendiri.
Secara historis, dukungan berarti antrean, tiket, dan throughput. Tetapi di OpenAI, itu tidaklah cukup. Kami melayani ratusan juta pengguna, menangani jutaan permintaan setiap tahun, dan melihat volume tersebut tumbuh berkali-kali lipat setiap tahun.
Banyak organisasi yang menangani skala. Tetapi hanya sedikit yang menangani skala sekaligus menangani pertumbuhan yang sangat tinggi. Hampir tidak ada yang menghadapi keduanya, sekaligus membangun teknologi yang dapat mengubah persamaan tersebut. Kombinasi keduanya secara unik mendorong kami untuk merombak dukungan dari bawah ke atas.
“Dukungan bukan sekadar menjawab tiket. Tetapi apakah seseorang benar-benar mendapatkan yang dibutuhkan dan apakah itu membawa hasil yang baik bagi dirinya.
Dukungan bukanlah tantangan volume. Dukungan adalah tantangan desain engineering dan operasional. Jadi, kami membangun sesuatu yang berbeda: model operasi yang menjadi wadah bagi setiap interaksi untuk meningkatkan interaksi berikutnya.
Tim Operasi ingin lebih dari menggunakan chatbot untuk mendeteksi pertanyaan dukungan. Visi tim Operasi: merombak dukungan sebagai model operasi AI yang terus belajar dan menjadi lebih baik.
Di pusatnya, ada tiga fondasi:
- Permukaan. Wadah interaksi sistem dukungan. Obrolan, email, dan telepon, serta yang terus tumbuh, bantuan, diintegrasikan secara langsung ke dalam produk.
- Pengetahuan. Bukan sekadar dokumen statis, tetapi panduan yang hidup dan terus ditingkatkan, yang diambil dari percakapan nyata, kebijakan, dan konteks.
- Evaluasi dan pengklasifikasi. Definisi bersama tentang kualitas yang dibangun oleh perangkat lunak dan manusia secara bersama-sama, ditambah alat untuk mengukur, meningkatkan, dan menyoroti umpan balik.
Bagian-bagian ini tidak berdiri secara terpisah. Melainkan membentuk lingkaran. Pola yang ditemukan dalam percakapan perusahaan dapat menjadi sumber untuk Pertanyaan Umum pengembang. Evaluasi yang tertulis untuk satu kasus akan memperkuat model untuk ribuan kasus lainnya. Dan karena primitif yang sama mendukung setiap permukaan, misalnya obrolan, email, suara, peningkatan dapat menyebar ke seluruh saluran secara otomatis.
Peran staf dukungan mengalami perubahan. Kami ingin mengubah fokus model, dari hanya memproses pekerjaan transaksi menjadi bagian dari keseluruhan pembangunan. Staf dukungan diberdayakan untuk berkontribusi pada arsitektur itu sendiri, baik secara langsung menghadirkan perubahan dari bawah ke atas, maupun secara tidak langsung melalui gerakan natural pekerjaan hariannya.
Staf menandai interaksi yang berpotensi menjadi kasus pengujian, mengusulkan dan mengirimkan pengklasifikasi saat melihat pola baru, sampai membuat prototipe automasi ringan untuk menutup celah alur kerja dalam hitungan hari. Pelatihan juga berubah. Pelatihan bukan hanya tentang kebijakan, tetapi juga tentang mengevaluasi interaksi, mengidentifikasi kesenjangan struktural, dan memberikan masukan untuk perbaikan.
Pendekatan baru ini bertujuan memastikan staf dukungan mampu berperan sebagai pembuat dan pemberi tanggapan.
“Agen tidak hanya menanggapi tiket. Mereka memperkaya basis pengetahuan dan kebijakan kita. Mereka punya pengetahuan yang tidak kita miliki.”
Hasilnya, organisasi dukungan tidak lagi bergantung pada throughput, tetapi pada kapasitasnya untuk berkembang. Setiap orang tidak hanya melayani pengguna tetapi juga secara aktif meningkatkan mesin yang melayani semua pengguna.
Membangun dukungan dengan cara ini mampu diraih karena kami dibangun di atas stack OpenAI.
- SDK agen menyediakan jejak di tingkat langkah dan observabilitas secara default. Kami dapat mengulang eksekusi, menginspeksi panggilan alat, dan merunut akar penyebab secara instan.
- API respons membantu pengklasifikasi dalam aspek nada, kebenaran, dan ketaatan terhadap kebijakan.
- API Realtime memungkinkan dukungan suara.
- Dasbor Evaluasi OpenAI membuat kualitas dapat diukur dan mudah untuk divisualisasikan seiring waktu.
Karena primitif platform langsung siap digunakan, kami berhasil menghemat waktu ketika menyatukan sistem dan punya lebih banyak waktu untuk berfokus pada pekerjaan yang penting, yaitu menentukan seperti apa tampilan yang baik, mengukurnya, dan meningkatkannya.
Kami memulai dengan penjawab pertanyaan umum yang berjalan dengan baik. Dengan SDK Agen, kami mampu mengembangkan tindakan dinamis untuk berbagai pekerjaan dengan cepat, seperti pengembalian dana, faktur, pencarian insiden. Seiring model terus berkembang dengan jendela konteks yang lebih besar, Riset Mendalam, serta kapabilitas agentik, kami dapat segera mengadopsi kemajuan tersebut.
Evaluasi mengubah percakapan sehari-hari menjadi pengujian produksi. Proses ini membuktikan arti “luar biasa”, yaitu tidak hanya menyelesaikan masalah, tetapi juga melakukannya dengan sopan, jelas, dan konsisten. Staf memainkan peran langsung di sini, menandai contoh yang kuat dan lemah yang menjadi evaluasi, dan evaluasi berjalan secara berkelanjutan dalam produksi untuk mengarahkan perilaku model.
“Saat menemui masalah, biasanya Anda hanya ingin mendapatkan bantuan secepat mungkin. Dengan menggunakan alat AI, kami dapat memperoleh respons tersebut jauh lebih cepat—dan sama pentingnya, kami tahu kapan model harus tidak memberikan jawaban,” ujar Jay Patel, Software Engineer, Support Automation.
Pembelajaran tidak berhenti di resolusi. Pola dijadikan masukan untuk pengetahuan, automasi, dan desain produk. Sistem berkembang pesat: jawaban yang lebih cepat bagi pengguna, lingkaran masukan yang lebih ketat bagi pembuat, dan standar kualitas yang konsisten lebih tinggi di setiap permukaan.
Dan bukan hanya AI yang belajar. Organisasi juga belajar bersamanya. Para spesialis melihat titik lemah model, membuat pengklasifikasi baru, dan menyumbangkan kumpulan data untuk penyempurnaan. Dasbor observabilitas menjadikan kualitas terukur, serta menunjukkan bagaimana kinerja meningkat seiring waktu.
Perubahan paling menonjol bukanlah pada alat, tetapi orang-orang dan cara organisasi mengukur keberhasilan. Spesialis dukungan diakui bukan hanya karena mengatasi masalah, tetapi karena menyempurnakan pengetahuan, meningkatkan model, dan memperluas sistem itu sendiri. Para pemimpin mencari rekan tim yang baru: seseorang yang memadukan empati frontline dengan insting desain, memadukan keahlian dukungan dengan rasa penasaran untuk meningkatkan sistem.
“Kami mulai melihat perpaduan antara keahlian keterampilan yang mendalam dan keahlian teknik yang mendalam. Seperti itulah cara departemen berjalan di masa mendatang.”
Dan visi kami adalah dukungan tidak lagi menjadi destinasi yang Anda tuju. Dukungan akan menjadi tindakan, yang diintegrasikan pada setiap permukaan produk. Pengguna tidak lagi “membuka tiket”. Pengguna langsung mendapatkan yang diinginkan, di mana pun lokasinya.
Yang awalnya adalah respons untuk meningkatkan skala, sekarang telah menjadi cetak biru mengenai bagaimana orang dan AI bekerja bersama-sama: kolaboratif, adaptif, dan terus berkembang.
