Bilgisayar Kullanan Ajan

Web’de gezinerek senin için görevleri yerine getirebilen ajanımız Operator⁠(yeni bir pencerede açılır)’ın bir araştırma ön izlemesini bugün kullanıma açtık. Operator’ın temelinde Bilgisayar Kullanan Ajan (CUA) yer alıyor. Bu model, GPT‑4o’nun görü kabiliyetlerini takviyeli öğrenmeyle geliştirilmiş akıl yürütme ile bir araya getiriyor. CUA ekranda görülen düğmeler, menüler ve metin kutuları gibi grafik kullanıcı arayüzleri (GUI) ile etkileşime girmek üzere eğitildi. Bu sayede işletim sistemi veya web tabanlı API’lere ihtiyaç duymadan dijital görevleri yerine getirebilecek esnekliğe kavuşuyor. 

CUA çok modlu anlama ve akıl yürütmenin kesiştiği noktada yürütülen uzun yıllara dayalı temel araştırmaların bir ürünü. Gelişmiş GUI algısını yapılandırılmış problem çözme yeteneğiyle birleştirerek görevleri çok aşamalı planlara ayırabiliyor ve zorluklarla karşılaştığında adapte olarak kendini düzeltebiliyor. Bu kabiliyet yapay zekanın gelişiminde yeni bir aşamayı temsil ediyor: Modellerin de insanların günlük olarak kullandığı araçları kullanmasına olanak tanıyarak çok çeşitli yeni uygulamaların önünü açıyor.

CUA henüz gelişiminin erken aşamalarında ve bazı sınırlamaları var, ancak tamamen bilgisayar kullanılan görevlerde OSWorld testinde %38,1, web tabanlı görevlerde WebArena testinde %58,1 ve WebVoyager testinde %87 başarı oranlarına ulaşarak endüstrinin en yüksek benchmark değerlerini elde etti. Bu sonuçlar CUA’nın tek bir genel eylem alanı vasıtasıyla farklı ortamlarda hareket etme ve çalışma kabiliyetini ön plana çıkarıyor. 

CUA’yı geliştirme sürecinde, dijital ortama erişimi olan bir ajanın yol açabileceği sorunlarla başa çıkmak için güvenliği en önemli öncelik olarak belirledik ve bunu Operator Sistem Kartımızda ayrıntılı olarak açıkladık. Yinelemeli kullanıma sokma stratejimize uygun olarak, CUA’yı ilk etapta ABD’deki Pro⁠(yeni bir pencerede açılır) planı abonelerinin kullanımına sunulmak üzere operator.chatgpt.com⁠(yeni bir pencerede açılır) adresinde Operator’ın bir araştırma ön izlemesi olarak sunuyoruz. Dijital ajanların kullanımının yoğunlaştığı bir geleceğe hazırlanırken, gerçek dünyadan topladığımız geri bildirimler sayesinde hem güvenlik önlemlerimizi iyileştirecek hem de sürekli olarak kendimizi geliştirebileceğiz.

CUA ekranda olup biteni kavramak için ham piksel verilerini işler ve eylemleri yerine getirmek için sanal bir fare ve klavye kullanır. Çok adımlı görevleri yönetebilir, hatalarla başa çıkabilir ve beklenmedik değişikliklere ayak uydurabilir. Bu da CUA’nın özel API’lere ihtiyaç duymadan form doldurma ve web sitelerinde gezinme gibi görevleri yerine getirerek çok çeşitli dijital ortamlarda etkinlik göstermesini sağlar.

CUA bir kullanıcı talimatı aldığında algılamayı, akıl yürütmeyi ve eyleme geçmeyi birleştiren yinelemeli bir döngüde hareket eder.

• Algılama: Bilgisayarın o andaki durumunu görsel olarak yansıtan ekran görüntüleri modelin işlem bağlamına dahil edilir. 
• Akıl Yürütme: CUA mevcut ve daha önceki ekran görüntülerini ve eylemleri dikkate alarak düşünce zinciri yöntemiyle sıradaki adımlar boyunca akıl yürütür. Bu iç monolog modelin kendi gözlemlerini değerlendirmesine, ara adımları takip etmesine ve dinamik bir şekilde adapte olmasına olanak tanıyarak görev başarı oranını yükseltir.
• Eyleme Geçme: CUA görevin tamamlandığına veya kullanıcı girdisi gerektiğine karar verene kadar tıklama, kaydırma veya yazma gibi eylemleri gerçekleştirir. CUA çoğu adımı otomatik olarak tamamlarken oturum açma bilgileri girme veya CAPTCHA formlarını yanıtlama gibi hassas eylemler için kullanıcı onayı talep eder.

Ekran, fare ve klavyenin evrensel arayüzünden yararlanan CUA, hem bilgisayar hem de tarayıcı kullanımı benchmark testlerinde aldığı sonuçlarla yeni bir çığır açıyor.

Aşağıdaki görselleştirmelerde, CUA’nın çeşitli standartlaştırılmış OSWorld görevlerini nasıl yerine getirdiği gösteriliyor.

CUA doğrudan tarayıcıda eylemler yapabilen ilk ajanlarımızdan biri olduğu için, ele alınması gereken yeni riskleri ve zorlukları da beraberinde getiriyor. Operator’ı kullanıma sunmaya hazırlanırken kapsamlı güvenlik testleri yaptık ve yanlış kullanım, model hataları ve yeni nesil riskler olmak üzere üç ana risk kategorisinde çeşitli önlemler uyguladık. Güvenlik konusunda katmanlı bir yaklaşım benimsemenin önemli olduğuna inanıyoruz. Bu nedenle, CUA modelinin kendisinin ve Operator sisteminin kullanıma sokulması ve sonrasındaki süreç için çeşitli güvenlik önlemleri uyguladık. Birbirlerinin üzerine eklenen güvenlik önlemleri uygulamayı ve her bir önlem katmanının riski aşamalı olarak azaltmasını amaçlıyoruz.

İlk risk kategorisi kötüye kullanım. Öncelikle kullanıcılar için Kullanım Politikalarımıza uymayı zorunlu kıldık. Buna ek olarak, GPT‑4o için yaptığımız güvenlik çalışmalarından yola çıkarak Operator’ın kötüye kullanılmasından kaynaklanan zarar riskini azaltmak için aşağıdaki önlemleri tasarladık:

• Retler: CUA modeli zararlı olabilecek pek çok görevi ve yasa dışı veya denetime tabi etkinlikleri reddedecek şekilde eğitildi.
• Engelleme Listesi: Operator kumar siteleri ve yetişkinlere yönelik eğlence siteleri ile uyuşturucu veya silah satışı yapan siteler gibi baştan engellediğimiz birçok web sitesine erişemez.
• Moderasyon: Kullanıcı etkileşimleri gerçek zamanlı olarak otomatik güvenlik denetleyicileri tarafından denetleniyor. Bu denetleyiciler Kullanım Politikalarına uyulmasını sağlamak için tasarlandı ve yasaklanmış etkinlikler için uyarılar verebiliyor veya bu etkinlikleri engelleyebiliyor. 
• Çevrimdışı tespit: Ayrıca, çocuk güvenliği ve kişileri aldatmaya yönelik faaliyetler gibi öncelikli politika alanlarında yasaklanmış kullanımları tespit etmek için otomatik algılama ve insan eliyle gözden geçirme süreçleri geliştirdik. Bu sayede, Kullanım Politikalarımızı etkin bir şekilde uygulayabiliyoruz.

İkinci risk kategorisi CUA modelinin yanlışlıkla kullanıcının istemediği bir eylemde bulunması sonucunda kullanıcının veya başkalarının zarar görebildiği model hatalarıdır. Olası hataların ciddiyeti bir e-postadaki yazım yanlışından yanlış bir ürün satın almaya veya önemli bir belgeyi kalıcı olarak silmeye kadar çeşitlilik gösterebilir. Olası zararı en aza indirmek için aşağıdaki önlemleri geliştirdik:

• Kullanıcı onayları: CUA modeli bir sipariş vermek veya bir e-posta göndermek gibi gerçek dünyada etkileri olabilecek görevleri tamamlamadan önce kullanıcı onayı isteyecek şekilde eğitildi. Bu sayede, modelin yapacağı bir işlem kesinleşmeden önce kullanıcı tarafından tekrar gözden geçirilebilir.
• Görev sınırlamaları: CUA modeli bankacılık işlemleri ve hassas kararlar alınmasını gerektiren görevler gibi bazı yüksek riskli görevlere yardımcı olmayı şimdilik reddedecek.
• İzleme modu: E-posta gibi özellikle hassas web sitelerinde modelin yapabileceği olası hataların kullanıcılar tarafından doğrudan tespit edilip giderebilmesi için Operator aktif kullanıcı denetimi gerektirir.

Özellikle önemli bir model hatası kategorisi, CUA modelinin istenmeyen eylemlerde bulunmasına yol açanweb sitelerine yönelik kötü niyetli saldırılardır. Bunların arasında istem enjeksiyonlarını, jailbreak’leri ve kimlik avı denemelerini sayabiliriz. Model hatalarına karşı alınan yukarıdaki önlemlerin yanı sıra, bu risklere karşı koruma sağlamak için birkaç ek savunma katmanı geliştirdik.

• Dikkatli gezinme: CUA modeli web sitelerindeki istem enjeksiyonlarını tanımak ve yok saymak üzere tasarlandı. Erken aşamalarda yapılan bir dahili kırmızı takım testinde tek bir vaka dışında tüm denemeleri tanıdı.
• İzleme: Operator’da, ekranı izlemesi ve şüpheli içerik tespit ettiğinde yürütmeyi duraklatması için ek bir model uygulamaya alındı.
• Tespit süreci: Şüpheli erişim kalıplarını tanımak için hem otomatik tespit hem de insan eliyle gözden geçirme süreçleri uyguluyoruz. Bu sayede, bu kalıplar işaretlenip birkaç saat içinde çabucak izlemeye alınabiliyor.

Son olarak, otonom çoğalma ve biyolojik risk taşıyan araçlar içeren laboratuvar senaryoları da dahil olacak şekilde, Hazırlıklılık Çerçevemizde⁠(yeni bir pencerede açılır) açıklanan yeni nesil risklere karşı CUA modelini değerlendirdik. Bu değerlendirmelerde, GPT‑4o’ya ilave olarak bir risk artışı görülmedi.

Değerlendirmeleri ve güvenlik önlemlerini daha ayrıntılı olarak incelemek isteyen kullanıcılarımız, güvenlik yaklaşımımızı ve süregelen iyileştirmelerimizi şeffaf bir şekilde sunan ve sürekli güncellenen Operator Sistem Kartını gözden geçirebilir.

Operator’ın yeteneklerinin çoğu yeni olduğundan, ortaya çıkan riskler ve bunları önlemek için uyguladığımız yaklaşımlar da yeni.  En yüksek düzeyde performans gösteren, çeşitlilik sergileyen ve birbirlerini tamamlayan önlemler almayı amaçlamış olsak da, daha fazla bilgi edindikçe bu risklerin ve bunlara karşı geliştirdiğimiz yaklaşımın zamanla değişeceğini öngörüyoruz. Araştırma ön izleme dönemini kullanıcı geri bildirimleri toplama, güvenlik önlemlerimizi iyileştirme ve ajanlarımızın güvenliğini artırma fırsatı olarak değerlendiriyoruz.

CUA çok modlu modeller, akıl yürütme ve güvenlik alanlarında yıllarca süren araştırmaların sonuçlarına dayanıyor. o-model serisiyle derin akıl yürütme alanında, GPT‑4o ile görü yetenekleri alanında ve ayrıca takviyeli öğrenme ve yönerge hiyerarşisi aracılığıyla dayanıklılığı artırmaya yönelik yeni tekniklerde önemli ilerleme sağladık. Keşfetmeyi planladığımız bir sonraki zorluk alanı, ajanların hareket alanlarının genişletilmesi. Evrensel arayüzün getirdiği esneklik, insanlar için tasarlanmış yazılım araçlarını kullanabilen ajanlara olanak tanıyarak bu zorluğun ele alınmasını sağlıyor. Ajanların kullanımını kolaylaştıracak şekilde özelleştirilmiş API’ler kullanmanın ötesine geçen CUA, her bilgisayar ortamına uyum sağlayabiliyor ve böylece çoğu yapay zeka modelinin şu anda ulaşamadığı özel veya az bilinen dijital kullanım durumları için gerçek anlamda çözümler sunabiliyor.

Geliştiricilerin CUA kullanarak kendi bilgisayar kullanan ajanlarını geliştirebilmeleri için, CUA’ya aynı zamanda API⁠(yeni bir pencerede açılır) üzerinden de erişim sağlamaya çalışıyoruz. CUA’yı yineleyerek geliştirmeye devam ettikçe, topluluğun keşfedeceği farklı kullanım senaryolarını da görmeyi umuyoruz. Bu ilk ön izlemeden toplayacağımız gerçek dünya geri bildirimlerini kullanarak, yapay zekanın faydalarını herkese yayma misyonumuzu güvenle ilerletmek adına CUA’nın yeteneklerini ve güvenlik önlemlerini sürekli olarak geliştirmeyi hedefliyoruz.