OpenAI'da her etkileşimde destek hizmetlerini iyileştiriyoruz

Bu makale, OpenAI’ın nasıl kendi teknolojisini kullanarak kendi çözümlerini geliştirdiği hakkındaki yazı dizimizin bir parçasıdır.

Destek hizmetleri geçmişte kuyruklar, sorun kayıtları ve yoğun işlem hacmi anlamına geliyordu. Ancak OpenAI için bu yeterli değildi. Yüz milyonlarca kullanıcıya hizmet veriyoruz, her yıl milyonlarca talebi karşılıyoruz ve bu hacmin her yıl katlanarak arttığını görüyoruz.

Pek çok kuruluş ölçekle ilgilenir. Bunların çok azı ölçekle ve hiper büyümeyle ilgilenir. Ancak neredeyse hiçbiri, üstelik denklemi değiştirebilecek teknolojinin kendisini de geliştirirken, her ikisiyle de karşı karşıya kalmaz. Bizi eşsiz bir konuma taşıyan bu kombinasyon, destek hizmetlerini en temelden yeniden düşünmemizi sağladı.

Destek hizmetlerinde karşılaşılan zorluk, iş hacminden ibaret değil. Asıl zorluk, mühendislikte ve operasyonel tasarımda karşımıza çıkıyor. Bu yüzden farklı bir yol izleyerek, her etkileşimin bir sonrakini iyileştirdiği bir işletim modeli geliştirdik.

Operasyon ekibi, destek sorularını yönlendirmek için bir sohbet robotu kullanmanın ötesine geçmek istiyordu. Ekip, sahip olduğu vizyonla destek hizmetleri sürekli öğrenen ve gelişen bir yapay zeka işletim modeli olarak yeniden şekillendirmeyi amaçlıyordu.

Bu modelin merkezinde üç yapı taşı bulunuyor:

• Yüzeydeki alanlar. Destek sistemlerinin etkileşimde bulunduğu alanlar. Sohbet, e-posta ve telefon. Ayrıca giderek artan bir şekilde, doğrudan ürünün içine yerleştirilmiş yardım sayfaları.
• Bilgiler. Sadece statik belgeler değil, gerçek konuşmalardan, politikalardan ve bağlamdan alınan, yaşayan ve sürekli gelişen kılavuzlar.
• Değerlendirmeler ve sınıflandırıcılar. Yazılım ve insanların birlikte uyum içinde çalışarak oluşturduğu ortak kalite tanımları, ayrıca geri bildirimi ölçmeye, iyileştirmeye ve vurgulamaya yönelik araçlar.

Bu parçalar birbirinden izole bir şekilde ele alınmıyor. Bir döngü oluşturuyorlar. Kurumsal bir konuşmada fark edilen bir kalıp, bir geliştiricinin SSS sayfasına bilgi sağlayabilir. Bir vaka için yazılan değerlendirme, binlerce vaka için modeli güçlendirir. Ayrıca aynı primitif unsurlar sohbet, e-posta, sesli mesaj gibi her alanı etkilediği için, iyileştirmeler kanallar arasında otomatik olarak ölçeklenir.

Destek temsilcilerinin rollü değişiyor. Modeli öncelikli olarak işlemsel çalışmaların işlenmesine odaklanmaktan çıkarıp, genel yapının bir parçası hâline getirmeyi amaçlıyoruz. Temsilciler, hem doğrudan, aşağıdan yukarıya doğru yapılan değişikliklerin uygulanması yoluyla hem de dolaylı olarak günlük işlerinin doğal akışıyla, mimariye bire bir katkıda bulunma yetkisine sahipler.

Test örnekleri hâline gelmesi gereken etkileşimleri bildirir; yeni modeller gördüklerinde sınıflandırıcılar önerir ve gönderir ve hatta iş akışı boşluklarını birkaç gün içinde kapatmak için hafif otomasyonların prototiplerini oluştururlar. Eğitimde de değişiklikler yaşanıyor. Sadece politikalar değil, etkileşimleri değerlendirmek, yapısal boşlukları belirlemek ve iyileştirmeleri geri bildirmek de önem kazanıyor.

Bu yeni yaklaşım, destek temsilcilerinin müdahale edenler kadar geliştirici de olmasını sağlamayı amaçlıyor.

Sonuçta, işlem hacminden ziyade gelişme kapasitesiyle tanımlanan bir destek organizasyonu ortaya çıkıyor. Her insan yalnızca kullanıcılara hizmet etmekle kalmıyor, aynı zamanda tüm kullanıcılara hizmet eden mekanizmayı da aktif olarak geliştiriyor.

Destek hizmetlerini bu şekilde geliştirebilmemiz, ancak OpenAI’ın sistemlerinden güç almamız sayesinde mümkün oluyor.

• Agents SDK bize varsayılan olarak adım düzeyinde izler ve gözlemlenebilirlik sağlıyor. Yürütmeleri tekrar oynatabiliyor, araç çağrılarını inceleyebiliyor ve kök nedenleri anında ayıklayabiliyoruz.
• Responses API ton, doğruluk ve politikalara uygunluk için sınıflandırıcıları destekliyor.
• Realtime API ise sesli desteği mümkün kılıyor.
• OpenAI'nin Değerlendirmeler kontrol paneli, kaliteyi ölçülebilir hâle getiriyor ve zaman içinde görselleştirmeyi kolaylaştırıyor.

Platformun primitif öğeleri hazır olarak geldiğinden, sistemleri bir araya getirmek için daha az zaman harcıyoruz ve iyi görünümün ne olduğunu tanımlamak, ölçmek ve iyileştirmek gibi daha önemli olan işlere odaklanıyoruz.

İşe iyi çalışan basit bir soru-cevap yanıtlayıcısıyla başladık. Agents SDK sayesinde iadeler, faturalar, olay aramaları gibi işlemler için hızla dinamik eylemlere geçtik. Modeller daha geniş bağlam pencereleri, Derin Araştırma ve daha güçlü ajan tabanlı yeteneklerle gelişmeye devam ederken, bu gelişmeleri anında kullanmaya başlayabiliyoruz.

Değerlendirmeler, günlük konuşmaları üretim testlerine dönüştürüyor. Örneğin "harika"nın ne anlama geldiğini kodlayarak, bunun sadece sorunu çözmekle kalmayıp, bunu kibarca, açıkça ve tutarlı bir şekilde yapmak gerektiğini öğreniyorlar. Temsilciler burada doğrudan rol oynuyor. İşaretledikleri güçlü ve zayıf örnekler değerlendirmelere dönüşüyor ve bu değerlendirmeler, model davranışını yönlendirmek için üretimde sürekli olarak yürütülüyor.

"Genellikle bir sorununuz olduğunda, mümkün olan en kısa sürede yardım almak istersiniz. "Yapay zeka araçlarımızı kullanarak bu yanıtları çok daha hızlı alabiliyoruz ve bir o kadar önemli şekilde, modelin ne zaman yanıt vermemesi gerektiğini biliyoruz." Jay Patel, Destek Otomasyonu Yazılım Mühendisi.

Sorun çözüldüğünde öğrenme sona ermiyor. Kalıplar bilgi bankasına, otomasyona ve ürün tasarımına geri bildirim sağlıyor. Sistem; kullanıcılar için daha hızlı yanıtları, geliştiriciler için daha sıkı geri bildirim döngülerini ve her yüzeyde kalite için sürekli olarak daha yüksek bir çıtayı bir araya getiriyor.

Üstelik burada öğrenen sadece yapay zeka değil. Kuruluş da onunla birlikte öğreniyor. Uzmanlar modellerin hangi noktalarda yetersiz kaldığını görüyor, yeni sınıflandırıcılar oluşturuyor ve ince ayar için veri kümelerine katkıda bulunuyor. Gözlemlenebilirlik kontrol panelleri kaliteyi ölçülebilir hâle getirerek, performansın zaman içinde nasıl iyileştiğini gösteriyor.

En derin değişim kullanılan araçlarda değil, insanlarda ve kuruluşun başarıyı ölçme biçiminde yaşanıyor. Destek uzmanları yalnızca sorunları çözmeleriyle değil, aynı zamanda bilgiyi geliştirmeleriyle, modelleri iyileştirmeleriyle ve sistemin kendisini genişletmeleriyle de tanınırlar. Liderler yeni bir tür ekip arkadaşı arıyor: Ön saflardaki empatiyi tasarım içgüdüleriyle birleştiren, destek becerisini merakla birleştirerek sistemi iyileştiren birini bulmak istiyorlar.

Bizim vizyonumuz da, destek hizmetlerinin artık başvurduğunuz bir yer olmaktan çıkması yönünde. Ürünün her yüzeyinin içine işlemiş bir eylem hâline gelmesini amaçlıyoruz. Kullanıcılar artık “sorun kaydı oluşturmasın.” İhtiyaçları olanı, bulundukları yerde alabilsinler.

Ölçeklendirmeye bir yanıt olarak başlayan bu girişim, insanların ve yapay zekanın birlikte nasıl çalışabileceğine dair bir yol haritasına dönüştü: iş birliğine dayalı, uyumlu ve sürekli gelişen bir çalışma modeli ortaya çıktı.