LegalOn, hız kesmeden Codex maliyetini yarıya indirdi

LegalOn Technologies, hukuk çalışmalarını ve diğer temel iş süreçlerini destekleyen profesyonel yapay zekâ çözümlerini dünya çapında sunuyor. Alan uzmanlığını yapay zekâyla birleştirerek insanların karmaşık değerlendirmelere ve kararlara odaklanmasını sağlıyor. Amacı, iş kararlarının kalitesini ve hızını artıran, yapay zekâ odaklı bir yönetim anlayışı oluşturmak.

Bu yaklaşım, ürünlerin ötesine geçerek kurumun kendisini de yapay zekâ temelli bir yapıya dönüştürmeyi kapsıyor. Şirket, Codex’i geliştirme sürecine entegre etti ve günlük çalışmalar aracılığıyla kullanımını kurum geneline yaydı.

Kullanım yerleştikçe yeni bir zorluk ortaya çıktı: maliyet kontrolü. Yüksek performanslı modellerin sınırsız kullanımı harcamaları artırabilirken herkese uygulanan kısıtlamalar, yapay zekânın sağladığı verimlilik kazanımlarını zayıflatabilirdi.

Peki geliştirmeyi yavaşlatmadan maliyetleri nasıl düşürebilirdi? LegalOn Technologies, görevin karmaşıklığına ve geliştirme aşamasına göre GPT‑6 (Astra, Luna) ve GPT‑6.1 Sol arasından seçim yaparak ve bütçeleri her iş kolunun büyüme aşamasına uyarlayarak bu sorunu ele aldı. Şirket, geliştirme hızını korurken maliyetleri yarıya indirdi.

Şirket başlangıçta geliştiricilere ana modeli GPT‑5.5’i Hızlı mod ile sınırsız kullanma imkânı sundu. Geliştiriciler modelin kullanımını tasarım, kodlama ve günlük işlere yaydı; denemeler yaparak insanlarla yapay zekâ arasında en uygun iş bölümünü öğrendi.

Ancak yüksek performanslı modelleri sınırsız kullanmaya devam etmek, kaçınılmaz olarak yıllık bütçenin aşılmasına yol açacaktı. Şirketin Yapay Zekâ Destekli Geliştirme Mükemmeliyet Merkezi (AID CoE), model seçimi için yönergeler hazırlamaya başladı. AID CoE modelleri test edip izlerken yöneticiler de merkezin bulgularını ekipleriyle paylaştı. Böylece her mühendis, her görev için en uygun modeli bağımsız olarak seçebildi.

Yeni yönergelerle şirket, her görevde en yetenekli modeli kullanmak yerine işe uygun modeli seçmeye başladı. Ekipler hafif bir modelle başlayıp görevin karmaşıklığı arttıkça daha yetenekli modellere geçti.

Şirket, yönetişimi desteklemek için yönetici ayarları üzerinden sistem kontrolleri de uyguladı; departmanlara ve kişilere aylık kullanım sınırları getirdi. AID CoE, kullanımı izliyor ve iş ihtiyaçlarına göre sınırları düzenliyor.

Bu kontroller altında yapılan kurum içi testler, seçim ölçütlerinin netleşmesini sağladı. En hafif model GPT‑6 Luna, gereksinimleri net olan kodlama işlerini üstleniyor; GPT‑6.1 Sol standart tasarım, veri analizi ve belge hazırlama işlerini destekliyor; en yetenekli model GPT‑6 Astra ise mimari tasarım dâhil ileri düzey değerlendirme gerektiren işlerde kullanılıyor. Göreve uygun model seçimi, zamanla ekipler arasında ortak bir uygulamaya dönüştü.

Şirket, model seçiminin yanı sıra Hızlı mod kullanımını varsayılan olarak kısıtlamaya başladı ve yalnızca ihtiyaç hâlinde bireysel taleplere izin verdi. Bu değişiklik geliştirme hızıyla ilgili endişe yaratsa da ekipler, görevleri paralel yürütmek gibi yöntemlerle performansı korudu ve sorunsuz bir geçiş yaptı.

Şirket ayrıca departman, grup ve kişi düzeyinde yapay zekâ harcamaları için bütçe üst sınırları getirdi. Yerleşik LegalOn iş kolundan maliyet verimliliğini yaklaşık %20’ye kadar artırması istendi. Faaliyete yeni başlayan iş kollarına ise yapay zekâ kullanımını teşvik etmek için geniş bütçeler ayrıldı.

LegalOn Technologies Kıdemli Mühendislik Müdürü Yuta Tokitake, yeni iş kollarında maliyet verimliliğinden çok işlerin hızına öncelik verildiğini açıklıyor. Amaç, yapay zekâyı kapsamlı biçimde kullanarak üretimi artırmak ve nihayetinde işin büyümesini sağlamaktı.

Model seçimi, özellik kısıtlamaları ve her iş koluna özel bütçeler birlikte uygulandığında tahmini günlük maliyetler yaklaşık %65 düştü. Bu yaklaşım, genel bütçeyi kontrol altında tutarken kaynakların şirketin büyütmek istediği iş kollarına yönlendirilmesini sağladı.

Model optimizasyonu ve stratejik kaynak dağılımı şu sonuçları sağladı:

• Her görevde en yetenekli modeli kullanmak yerine görevin karmaşıklığına ve geliştirme aşamasına göre GPT‑6 Astra, GPT‑6.1 Sol veya GPT‑6 Luna seçilmeye başlandı.

• Hızlı mod varsayılan olarak kısıtlandıktan sonra, görevleri paralel yürütmek gibi ekip uygulamaları sayesinde geliştirme performansı korundu.

• Bütçe üst sınırları sayesinde olgunlaşmış iş kollarında yaklaşık %20 verimlilik artışı sağlanırken yeni iş kollarına aktif yatırım yapıldı.

• GPT‑6 ve 6.1 modelleri arasından seçim yapılarak GPT‑5.5’e kıyasla tahmini günlük maliyetler %65 azaltıldı.

Şirket, model optimizasyonuyla geliştirme hızından veya kalitesinden ödün vermeden maliyetleri düşürdü. Ekipler, yapay zekânın geliştirmeden kullanıma sunmaya kadar geçen süreyi giderek kısalttığını da gözlemliyor.

Ancak şirket daha ilerisini düşünüyor. Geliştirmenin hızlanması tek başına yapay zekâ yatırımını başarılı kılar mı? Daha hızlı geliştirme ile müşteriye sağlanan değer arasındaki ilişki henüz net değildi. Tokitake, “Yapay zekânın sistem geliştirme ve güncelleme süreçlerini hızlandırabildiği artık neredeyse herkesçe kabul ediliyor,” diyor. “Asıl anlamak istediğimiz, daha hızlı geliştirmenin müşteriler için gerçekten değere dönüşüp dönüşmediği.”

Bu soru, şirketi kendi ölçütünü geliştirmeye yöneltti. Böylece yapay zekâ yatırımını değerlendirmede temel alınan geliştirme hızı ve kullanım hacminin yerini müşteriye sağlanan değer aldı.

Tokitake şöyle açıklıyor: “Yapay zekâ kullanırken tek tek görevlerin maliyetini takip edebiliyoruz. Ancak bir işin tamamının, yani bir özelliği kullanıma sunmanın toplam maliyeti çoğu zaman belirsiz kalıyor. Bu yüzden ölçümü, her bir özelliğin kullanıma sunulmasını tek bir birim olarak ele alacak şekilde tasarladık. Bu özelliğin müşteriye sağladığı değeri, özellik için yapılan gerçek yapay zekâ harcamalarıyla ilişkilendirerek yatırım getirisini doğru ve görünür kılmayı hedefliyoruz.”

Şirket şu anda bu ölçütü hesaplayacak veri işleme altyapısını kuruyor. Tamamlandığında, müşteriye sağlanan değer açısından gerçek yatırım getirisini görünür kılacak. LegalOn Technologies, yapay zekâ maliyetlerini yönetmenin ötesine geçerek teknoloji yatırımıyla iş değeri arasında doğrudan bağ kurmaya yöneliyor.

Bir sonraki hedef, mühendislerin bireysel yapay zekâ birikimini kurum genelinde bir yetkinliğe dönüştürmek. Şirket, ilk adım olarak uygulama deneyimlerini toplamak ve paylaşmak için bir bilgi tabanı oluşturmayı planlıyor. Tasarım, kodlama ve inceleme için en iyi model kombinasyonları gibi bilgileri kayıt altına alacak; bireysel başarıları hızla şirket genelinde en iyi uygulamalara dönüştürecek.

Ekiplerin uygulama deneyimlerinden doğan bu değişimler, kurumun yapısını ve işe alımı da şekillendiriyor. Yapay zekânın sağladığı verimlilik artışı, şirketi hem insanlarla yapay zekâ arasındaki iş bölümünü hem de iş gücü planlarını temelden yeniden düşünmeye yöneltiyor. Yatırım stratejisi ve kurumsal yapısı değişirken şirket, işe alımda yapay zekâ becerilerine ağırlık vermeye başladı bile.

Yapay zekâ kullanımını kalıcı bir rekabet avantajına dönüştürmek, yönetişim ile ekiplerin hareket özgürlüğü arasındaki dengeyi sürekli iyileştirmeyi gerektiriyor. AID CoE ve güvenlik ekibi, performans, maliyet ve riski farklı açılardan optimize etmek için birlikte çalışıyor; kurum genelinde denemeler yapmayı destekleyen esnek bir çerçeve oluşturuyor.