Ana içeriğe atla
OpenAI

4 Nisan 2024

Ürün

İnce ayar API'sinde sunduğumuz iyileştirmeler ve özel modeller oluşturma programımızdaki gelişmeler

Geliştiricilerin ince ayar konusunda daha fazla kontrole sahip olmalarına yardımcı olacak yeni özellikler ekliyoruz ve OpenAI ile özel modeller oluşturmanın yeni yollarını sunuyoruz.

İç içe geçen turuncu, sarı ve bir tutam mor tonlarında, yazlık bir buket izlenimi veren soyut bir çiçek görseli.
Yükleniyor...

8 Mayıs 2026 güncellemesi: OpenAI, ince ayar platformunu kademeli olarak sonlandırıyor. Platform artık yeni kullanıcıların erişimine açık değil, ancak ince ayar platformunun mevcut kullanıcıları önümüzdeki aylarda eğitim işleri oluşturabilecek. İnce ayarı yapılmış tüm modeller, temel modelleri kullanımdan kaldırılıncaya(yeni bir pencerede açılır) kadar çıkarım için kullanılabilir olmaya devam edecek. Tam zaman çizelgesine buradan(yeni bir pencerede açılır) ulaşabilirsiniz.


Geliştiricilerin gecikmeyi azaltmak, doğruluğu artırmak ve maliyetleri düşürmek için model performansını iyileştirmede kullanabileceği çeşitli teknikler(yeni bir pencerede açılır) vardır. Bilgiyle desteklenmiş metin üretimi (Retrieval-augmented generation, RAG) ile model bilgisini genişletmekten ince ayar ile model davranışını özelleştirmeye veya belirli bir alana özgü yeni bilgilerle özel olarak eğitilmiş bir model oluşturmaya kadar, müşterilerimizin yapay zeka uygulamalarını destekleyen farklı çözümler geliştirdik. Bugün ise geliştiricilere API üzerinden ince ayar süreci üzerinde daha fazla kontrol sağlayan yeni özellikleri kullanıma sunuyor ve özel modeller geliştirmek için yapay zeka uzmanlarımız ve araştırmacılarımızla birlikte çalışmanın yeni yollarını tanıtıyoruz.

Yeni ince ayar API’sinin özellikleri

Ağustos 2023'te GPT‑3.5 için self servis ince ayar API'sini(yeni bir pencerede açılır) kullanıma sunduk. O tarihten bu yana binlerce kuruluş, API’mizi kullanarak yüz binlerce model eğitti. İnce ayarlar, modellerin içeriği derinlemesine anlamasına ve belirli bir görev için modelin mevcut bilgisini ve yeteneklerini artırmasına yardımcı olabilir. İnce ayar API’miz ayrıca maliyeti ve gecikme süresini azaltırken daha yüksek kaliteli sonuçlar elde etmek için tek bir istemde yer alabilecek örnek miktarından daha fazlasını destekler. İnce ayarın yaygın olarak kullanıldığı durumlar arasında bir modeli belirli bir programlama dilinde daha iyi kod üretecek, metni belirli bir biçimde özetleyecek veya kullanıcı davranışına göre kişiselleştirilmiş içerik oluşturacak şekilde eğitmek gösterilebilir.

Örneğin, küresel bir iş eşleştirme ve işe alım platformu olan Indeed(yeni bir pencerede açılır), işe alım sürecini basitleştirmek istedi. Bunun için Indeed, iş arayanlara kişiselleştirilmiş öneriler gönderen, onların beceri, deneyim ve tercihlerine göre uygun olan işleri öne çıkaran bir özellik sundu. GPT‑3.5 Turbo'da daha nitelikli ve daha doğru açıklamalar üretecek şekilde ince ayarlar yaptılar. Sonuç olarak Indeed, istemdeki token sayısını %80 oranında azaltarak maliyeti ve gecikme süresini düşürmeyi başardı. Bu sayede iş arayanlara gönderdikleri mesaj sayısı ayda bir milyondan azken yaklaşık 20 milyona çıktı.

Bugün geliştiricilerin ince ayar işleri üzerinde daha da fazla kontrol sahibi olmalarını sağlayacak şu yeni özellikleri(yeni bir pencerede açılır) sunuyoruz:

  • Epoch Tabanlı Kontrol Noktası Oluşturma: Her bir eğitim döngüsü sırasında otomatik olarak tam bir ince ayar yapılmış model kontrol noktası üretebilir. Bu sayede özellikle aşırı uyum durumlarında daha sonra yeniden eğitme ihtiyacını azaltmış olursunuz
  • Karşılaştırmalı Playground: Modellerin kalitesini ve performansını yan yana karşılaştırmak için tasarlanan bu yeni Playground kullanıcı arayüzü, birden fazla modelin çıktılarının insanlar tarafından değerlendirilmesine veya anlık görüntülerde tek bir isteme göre ince ayar yapılmasına olanak tanır
  • Üçüncü Taraf Entegrasyonu: Geliştiricilerin ayrıntılı ince ayar verilerini, veri yığınlarının geri kalanıyla paylaşmasına olanak sağlamak için üçüncü taraf platformlarıyla entegrasyon desteği (bu hafta Weights and Biases(yeni bir pencerede açılır) ile başlıyor)
  • Kapsamlı Doğrulama Ölçütleri: Kayıp ve doğruluk gibi ölçütleri, örneklenmiş bir toplu veri seti yerine doğrulama veri setinin tamamı üzerinde hesaplama yeteneği sunularak, model kalitesi hakkında daha iyi bir içgörü elde edilir
  • Hiperparametre Yapılandırması: Mevcut hiperparametreleri (sadece API veya SDK aracılığıyla yapılandırmak yerine) Kontrol Paneli(yeni bir pencerede açılır)’nden yapılandırma yeteneği
  • İnce Ayar Kontrol Panelinde Yapılan İyileştirmeler: Hiperparametreleri yapılandırma, daha ayrıntılı eğitim ölçütlerini görüntüleme ve önceki yapılandırmalardan işleri yeniden çalıştırma gibi yetenekleri kapsar
Playground'da yeni bir ince ayar modeli oluşturmanın gösterimi.

Özel Model Oluşturma Programımızı Genişletiyoruz

Destekli İnce Ayar

Geçtiğimiz Kasım ayındaki DevDay'de, OpenAI araştırmacılarından oluşan özel bir grup ortaklığıyla, belirli bir alan için modelleri eğitmek ve optimize etmek üzere tasarlanmış Özel Model Oluşturma programını duyurduk. O tarihten bu yana, onlarca müşteriyle görüşerek özel model ihtiyaçlarını değerlendirdik ve performansı daha da artırmak amacıyla programımızı geliştirdik.

Bugün Özel Model programı kapsamındaki destekli ince ayar hizmetimizi resmen duyuruyoruz. Destekli ince ayar, ek hiperparametreler ve daha genel anlamda daha az parametreyle yapılan verimli ince ayarlara (PEFT) yönelik çeşitli yöntemler gibi ince ayar API'sini aşan tekniklerden yararlanmak için teknik ekiplerimizle yürüttüğümüz, iş birliğine dayalı bir çalışmadır. Bu hizmet, özellikle kullanım durumları veya görevleri için model performansını en üst düzeye çıkarmak amacıyla verimli eğitim veri süreçleri, değerlendirme sistemleri ve özelleştirilmiş parametreler ve yöntemler kurma konusunda desteğe ihtiyaç duyan kuruluşlar için oldukça faydalıdır.

Örneğin, Güney Kore'de 30 milyondan fazla aboneye hizmet veren bir telekomünikasyon operatörü olan SK Telecom(yeni bir pencerede açılır), öncelikle müşteri hizmetlerine odaklanarak telekomünikasyon alanında uzmanlaşmak için bir model özelleştirmek istedi. Telekomünikasyonla ilgili Korece görüşmelerde performanslarını artırmak için OpenAI ile birlikte çalışarak GPT‑4'te ince ayarlar yaptılar. SKT ve OpenAI, birkaç hafta içinde telekom müşteri hizmetleri görevlerinde anlamlı performans artışları elde etti: GPT‑4’e kıyasla bu ince ayar yapılmış modelde görüşme özetleme kalitesinde %35 artış, niyet tanıma doğruluğunda %33 artış kaydedildi ve 5 üzerinden 3,6 olan müşteri memnuniyeti skoru 4,5'e yükseldi.

Özel Olarak Eğitilmiş Model

Bazı durumlarda kuruluşların işlerini, sektörlerini veya alanlarını anlayan, amaca özel olarak oluşturulmuş bir modeli sıfırdan eğitmeleri gerekir. Tamamen özel olarak eğitilmiş modeller, yeni geliştirilen eğitim ortası ve eğitim sonrası tekniklerini kullanarak model eğitimi sürecinin temel adımlarını değiştirir ve böylece belirli bir alanda edindiği yeni bilgileri özümser. Tamamen özel olarak eğitilmiş bir modelle başarı elde eden kuruluşlar, genellikle çok büyük miktarda tescilli veriye sahiptir. Modele yeni bilgiler veya son derece özel kullanım durumlarına yönelik karmaşık, benzersiz davranışlar öğretmek için kullanmak isteyecekleri milyonlarca örnek veya milyarlarca token ellerinin altındadır.

Örneğin, avukatlara yönelik yapay zeka tabanlı bir hukuk aracı olan Harvey(yeni bir pencerede açılır), dava hukuku için özel olarak eğitilmiş bir büyük dil modeli oluşturmak amacıyla OpenAI ile ortaklık kurdu. Temel modeller akıl yürütme açısından güçlü olsa da hukuk davası geçmişi ve hukuki çalışmalar için gerekli diğer bilgiler konusunda kapsamlı bilgiye sahip değillerdi. İstem mühendisliğini, RAG'ı ve ince ayarları test ettikten sonra Harvey, modelin ihtiyaç duyduğu, 10 milyar token değerinde veriye eşdeğer olan bağlam derinliğini eklemek ekibimizle birlikte için çalıştı. Ekibimiz, alana özgü eğitim ortası süreçlerden, eğitim sonrası süreçlerin özelleştirilmesine ve uzman avukat geri bildirimlerinin dâhil edilmesine kadar, model eğitim sürecinin her adımında değişiklikler yaptı. Ortaya çıkan model, olgulara dayanan yanıtlar açısından %83'lük bir artış sağladı ve avukatlar özelleştirilmiş modelin çıktılarını GPT‑4'e göre %97 oranında daha fazla tercih etti.

GPT-4 ve GPT-4 özel modelinin karşılaştırması. Ortaya çıkan model, olgulara dayanan yanıtlar açısından %83'lük bir artış sağladı ve avukatlar özelleştirilmiş modelin çıktılarını GPT-4'e göre %97 oranında daha fazla tercih etti.

Model özelleştirme alanında bundan sonra neler olacak?

Gelecekte kuruluşların büyük çoğunluğunun kendi sektörleri, işleri veya kullanım durumlarına göre kişiselleştirilmiş, özelleştirilmiş modeller geliştireceğine inanıyoruz. Özel bir model oluşturmak için çok çeşitli tekniklerin mevcut olduğu göz önüne alınarak, her ölçekteki kuruluş, yapay zeka uygulamaları sonucunda daha anlamlı, belirli etkiler elde etmek için özelleştirilmiş modeller geliştirebilir. Önemli olan, kullanım durumunun kapsamını net bir şekilde belirlemek, değerlendirme sistemleri tasarlamak ve uygulamak, doğru teknikleri seçmek ve modelin ideal performansa ulaşması için zaman içinde geliştirmeler yapmaya hazır olmaktır.

OpenAI ile çoğu kuruluş, self-servis ince ayar API'si sayesinde çok kısa sürede anlamlı sonuçlar görebilir. Özel Model programlarımız, modellerinde daha derinlemesine ince ayarlar yapmaya veya modele yeni, kendi alanlarına özgü bilgiler aşılamaya ihtiyaç duyan kuruluşlara yardımcı olabilir.

Modellerimizde ince ayarlar yapmaya başlamak için ince ayar API’si(yeni bir pencerede açılır) belgelerimize göz atın.