Dot’lar, işleri sürekli olarak üstlenen, her zaman çalışan ajanlardır. Böylece önem verdiğiniz şeylere daha fazla zaman ve dikkat ayırabilirsiniz. Her dot’un kendi bilgisayarı vardır ve bağlamayı seçtiğiniz uygulamalar arasında çalışır. Dot’lara hedefler verir ve kendi başlarına neler yapabileceklerini belirlersiniz. Adımları tamamlayabilir, değişen koşullara uyum sağlayabilir ve konuşmalar arasında da ilerlemeye devam edebilirler. Gelişmekte olan bir haberi takip edip bülten taslağı hazırlayabilir veya yeni bilgiler geldikçe bir projeyi güncellemenize yardımcı olabilirler. Sonuçları incelemeniz için size sunar, sizin değerlendirmenizi gerektiren kararlarda size başvururlar.
Dot’lara bu sorumluluğu vermek, onlara daha fazla bilginizi ve işinizi emanet etmek demektir. Her dot’un nelere erişebildiğini, bu erişimi nasıl kullandığını ve ne zaman sizi sürece dahil etmesi gerektiğini bilmelisiniz. Bu sorular önemlidir, çünkü bir ajanın hataları konuşmanın ötesinde sonuçlar doğurabilir: Bir isteği yanlış anlaması, yanlış dosyayı değiştirmesine veya gizli tutmak istediğiniz bilgileri paylaşmasına yol açabilir.
Bu çalışmanın her aşaması için korumalar geliştiriyoruz. Önce, niyetinizi anlaması ve güvenlik kurallarına uyması için eğittiğimiz GPT‑6 Astra ile başlıyoruz. Ardından dot’ların kullandığı bilgilere, çalıştıkları ortamlara ve gerçekleştirmeyi planladıkları eylemlere yönelik güvenlik önlemleri ekliyoruz. Korumalı bir bulut çalışma alanı hataların etkisini sınırlamaya, güvenli oturum açma akışları hassas kimlik bilgilerini korumaya, ayrı eylem kontrolleri ise talimatlarınızın veya güvenlik gerekliliklerinin dışına çıkan adımları yakalamaya yardımcı olur. Neleri bağlayacağınızı seçer, tercihlerinizi belirler ve çalışma ilerledikçe süreci takip eder veya yönünü değiştirirsiniz.
Dot’lar yine de hata yapabilir. Gerçek kullanımdan öğrendiklerimizle bu korumaları geliştirmeye devam edeceğiz. Burada, dot’lara emanet ettiğiniz işler hakkında bilinçli kararlar verebilmeniz için güvenlik önlemlerinin birlikte nasıl çalıştığını, neleri kontrol edebildiğinizi ve bu önlemlerin hangi noktalarda hâlâ sınırlı kaldığını açıklıyoruz.
Dot’lar, en yetenekli ve insan amaçlarıyla en uyumlu modelimiz GPT‑6 Astra ile çalışır. Astra, hedefinizi anlama, isteğinizin kapsamı içinde kalma ve yanıtların yapması gerekeni değiştirebileceği durumlarda konuya odaklı sorular sorma konusunda çok başarılıdır. Bu yetenekler, dot’ların amacınızı gözden kaçırmadan görevleri zaman içinde takip etmesine yardımcı olur.
Astra’yı, biyoloji veya siber güvenlik alanındaki kötüye kullanım da dahil olmak üzere zararlı istekleri reddetmesi için eğittik. Dot’ların değişen talimatları, belirsiz istekleri ve onları verdiğiniz izinlerin dışına çıkarmaya yönelik girişimleri nasıl ele aldığını test ediyoruz. İnsanlar tarafından yürütülen ve otomatikleştirilmiş red teaming çalışmaları, zayıf noktaları bulmamıza, modeli ve onu çevreleyen sistemleri geliştirmemize ve bu değişiklikleri yeniden test etmemize yardımcı oluyor.
Bu model düzeyindeki güvenlik önlemlerini, ChatGPT’nin güvenlik korumaları ve sizin adınıza çalışmaya devam edebilen ajanlara yönelik ek önlemlerle destekliyoruz.
ChatGPT’nin yerleşik korumaları, içeriğinizin hem saklanırken hem de sizin, OpenAI’ın ve hizmet sağlayıcılarımızın arasında aktarılırken şifrelenmesini ve saklanan bilgileri korumaya yardımcı olan erişim denetimlerini içerir. Hesap güvenliği sistemlerimiz ayrıca OpenAI hesabınızın şüpheli kullanımını tespit etmeye çalışır ve bir oturumun ele geçirilmiş olabileceği durumlarda yeniden oturum açmanızı isteyebilir.
Ajanların, işlerini yaparken karşılaştıkları bilgilere karşı da korunması gerekir. Bir web sayfası, e-posta veya belge, ajanları başka bir yöne sevk etmeye ya da özel bilgileri paylaşmalarını sağlamaya çalışan kötü amaçlı talimatlar içerebilir. Bu sorun prompt enjeksiyonu olarak adlandırılır. Bu içeriklerin istenmeyen bir eyleme dönüşmesini önlemeye yardımcı olmak için model düzeyindeki güvenlik önlemlerini araç kısıtlamaları, eylem öncesi kontroller ve izleme ile birleştiriyoruz.
Dot’ları eylemleri planlarken ve gerçekleştirirken de izliyor; talimatlarınızın dışına çıkmak veya güvenlik önlemlerini aşmaya çalışmak gibi potansiyel olarak zararlı davranışları tespit etmeye çalışıyoruz. Güvenlik izleme sistemi, bir dot’un devam eden çalışmasında bir sorun tespit ederse çalışmayı duraklatabilir ve incelemeniz için size bir uyarı gösterebilir. Bu yerleşik izleme sistemi, dot’ların erişebileceklerini ve yapabileceklerini sınırlayan korumaların yanı sıra, görev ilerledikçe olası sorunların tespit edilmesine yardımcı olur.
Her dot’un web’de gezinebileceği, bilgileri analiz edebileceği, dosya oluşturabileceği ve araçları çalıştırabileceği kendi bulut bilgisayarı vardır. Dot’lar, siz aktif olarak ilgilenmediğinizde bile bu çalışma alanlarında ilerlemeye devam edebilir.
Dot’ların hangi hesapları kullanabileceğini siz seçersiniz. Bunun için ChatGPT’ye verdiğiniz izinler kapsamında uygulamaları bağlayabilir veya bir dot’un tarayıcısında bir web sitesine giriş yapabilirsiniz. Desteklendiği durumlarda güvenli oturum açmayı kullanabilirsiniz. Dot’ların size daha fazla şekilde yardımcı olabilmesi için kişisel bilgisayarınızı bağlamayı da seçebilirsiniz. Örneğin, masaüstünüzde kayıtlı bir elektronik tabloyu analiz edebilir veya cihazınızda yüklü kodlama araçlarını kullanabilirler.
Her dot’un korumalı çalışma alanındaki yalıtılmış ortam, dot’un erişebileceği kod ve araçları kısıtlayarak zararlı kodların veya hatalı bir komutun etkisini sınırlamaya yardımcı olur. Ayrıca kullanıcıların bulut ortamlarını birbirinden yalıtıyor ve altyapıdaki Linux işletim sistemi ile Chrome tarayıcısının bakımını yapıyoruz.
Dot’lar, çalışmalarını koordine eden ve temel güvenlik önlemlerini uygulayan sistemlerden ayrı ortamlarda kod çalıştırır. Bu ortamlarda dosya oluşturabilir ve araçları çalıştırabilirler. Ancak bu erişimi, güvenlik sistemlerini değiştirmek veya zorunlu kontrolleri kapatmak için kullanamazlar. Bu ayrım, bir dot hata yapsa bile güvenlik önlemlerinin devrede kalmasına yardımcı olur.
Aşağıda açıklanan eylem kuralları, dot’ların sahip oldukları erişimle neler yapabileceğini belirler.
Her dot’un buluttaki çalışma alanı, bilgisayarını ve kullanabileceği araçları bir araya getirir. Hangi uygulamaları bağlayacağınızı ve kişisel bilgisayarınızı bağlayıp bağlamayacağınızı siz seçersiniz. Otomatik inceleme, incelenmesi gereken eylemleri gerçekleştirilmeden önce kontrol eder. Bir adımı engellerse nedenini dot’a bildirir; böylece dot, bundan sonra ne yapacağına karar verebilir.
Güvenli oturum açma, parolalar konuşmaya dahil edilmeden dot’ların hesaplarda çalışmasını sağlar. Desteklenen oturum açma işlemlerinde, siz güvenli giriş formunu doldururken model duraklatılır. Form, kimlik bilgilerinizi doğrudan tarayıcı ortamına iletir ve bunları modelin bağlamına dahil etmeden gönderir. Ardından dot, oturum açılmış hesapta çalışmaya devam eder. Parolanın konuşmanın dışında tutulması, bir yanıtta görünmesi veya yanlışlıkla paylaşılması riskini azaltır.
Desteklenen kayıtlı parola akışları, bu ayrımı özel bir şifreli kimlik bilgisi hizmeti aracılığıyla korur. Hizmet, oturum açmak için gereken parolayı modele iletmeden sağlar. Böylece dot’lar, yetkilendirdiğiniz hesaplarda çalışırken parolalar modelin bağlamının dışında kalır. Bu korumalar, güvenli oturum açma ve kayıtlı parola akışlarına özgüdür. Okunabilir bir mesaja veya belgeye ayrıca eklenen gizli bir bilgi, model tarafından yine de görülebilir.
Dot’ların hangi uygulamaları kullanabileceğini, ChatGPT, ChatGPT Çalışma ve Codex arasında paylaşılan mevcut ChatGPT bağlantılarınız ve izinleriniz üzerinden yönetirsiniz. Ayarlar’ın Eklentiler bölümünde bağlı hesapları inceleyebilir ve dot’ların bundan sonra nelere erişebileceğini değiştirebilirsiniz. Bir uygulamanın bağlantısını kesmek, o bağlantı üzerinden yeni bilgi paylaşımını durdurur. Ancak bir dot’un daha önce öğrendiği bilgiler, kendi bağlamında kalır. Bu izinler uygulamalarınıza erişimi düzenler; zorunlu güvenlik gerekliliklerini geçersiz kılmaz.
Dot’ların yerel dosyalar veya araçlarla çalışmasını istiyorsanız bilgisayarınızı bağlamayı da seçebilirsiniz. Bu bağlantı da yerel yalıtılmış ortamın sınırlarına ve geçerli eylem kontrollerine tabi olmaya devam eder. Bilgisayarınızın mikrofonunu veya kamerasını kullanmak için ayrıca cihaz izinleri gerekir. Bu izinleri ChatGPT’ye verip vermemeyi siz seçersiniz.
Masaüstü uygulamasındaki Etkinlik Görünümü, devam eden çalışmaları takip etmenizi ve yönlendirmenizi sağlar. Devam eden ve devredilen görevleri ve bunların durumlarını gösterir. Bağlam ekleyebilir, bir yanlış anlamayı düzeltebilir, yön değiştirebilir veya bir dot’tan durmasını isteyebilirsiniz.
Dot’lar, sundukları yardımı daha faydalı hâle getirmek için zaman içinde bağlam oluşturur. İşi başka ajanlara devrettiklerinde, bu ajanlara görev için gereken bilgileri tutmaları ve gereksiz hassas ayrıntıları saklamaktan kaçınmaları talimatı verilir. Her dot’un, istediğiniz zaman sıfırlayabileceğiniz kendi bağlamı vardır.
ChatGPT Business, Enterprise ve Edu çalışma alanlarında, verilerinizi varsayılan olarak modellerimizi eğitmek için kullanmayız. Bireysel ChatGPT planlarında, dot’larınızla yaptığınız konuşmaların ve yürüttükleri çalışmaların modellerimizi geliştirmek için kullanılıp kullanılmayacağını “Modeli herkes için geliştir” ayarınız üzerinden kontrol edersiniz. Model eğitimi etkinleştirildiğinde, kişisel tanımlayıcıları kaldırmaya yönelik çalışmalarımızın ardından dot’ların gerçekleştirdiği eylemler ve kurduğunuz otomasyonlar da bu kapsama dahil olabilir. Verilerinizin nasıl kullanıldığı hakkında daha fazla bilgiyi yardım merkezimizdeki bu makalede(yeni bir pencerede açılır) bulabilirsiniz.
Dot’lar, yapmalarını istediğiniz işlerin yanı sıra yardımcı olabilecekleri başka yollar bulmak için arka planda araştırma görevleri başlatabilir. Örneğin, seyahat planlarınızdaki bir değişikliği fark edebilirler. Buna proaktif araştırma diyoruz.
Bu görevler her dot’un bulut ortamında yürütülür. Erişimine izin verilen bağlı kaynaklardan bilgi toplamak için salt okunur araçlar kullanır, ardından ilgili dot için özel notlar kaydederler. Bu sınırları kod düzeyinde uygularız: Araştırma görevleri doğrudan başka kişilere mesaj gönderemez, bağlı uygulamalardaki içerikleri değiştiremez veya bir tarayıcıyı ya da masaüstünü kontrol edemez. Dot’lar, nasıl yardımcı olacaklarına karar vermek için bulguları kullanabilir. Ancak sonrasında gerçekleştirilen tüm eylemler, olağan kurallara ve kontrollere uymalıdır.
Proaktif araştırma, her dot’un bulut ortamında bir arka plan görevi olarak yürütülür. Erişimine izin verilen bağlı kaynakları okur ve dot’a özel notlar iletir. Dot da nasıl yardımcı olacağına karar verir. Sonrasında gerçekleştirilen tüm eylemler, olağan kurallara ve kontrollere tabidir.
Modellerimizi bu arka plan araştırmalarının konuşma dizileri veya ürettikleri notlar üzerinde doğrudan eğitmeyiz. Ancak bir dot, arka plan araştırma görevinden notlar alabilir veya araştırma konuşmalarının bazı bölümlerini okuyabilir. Bu şekilde eğitim kapsamına alınabilecek bir konuşmaya veya göreve dahil edilen bilgiler, ayarlarınıza bağlı olarak model eğitiminde kullanılabilir. Örneğin bir arka plan araştırma görevi, yaklaşan bir Avrupa seyahati için birkaç destinasyon hakkında bilgi toplayabilir. Bu araştırma konuşması ve notları, eğitim için doğrudan kullanılmaz. Daha sonra dot’unuzdan Lizbon’a bir seyahat planlamanıza yardımcı olmasını istediğinizde, arka plan araştırma görevindeki Lizbon’la ilgili bir notu okuyabilir. Bu not, seyahat planlama konuşmanızın bağlamının bir parçası olur ve bundan sonra ayarlarınıza bağlı olarak eğitim için kullanılabilir. Arka plan araştırmasının geri kalanı ise eğitim kapsamına alınabilecek bir konuşmaya veya göreve dahil edilmedikçe eğitim için kullanılmaz.
Dot’lar, zararı önlemek ve önemli sonuçlar doğurabilecek kararları size bırakmak için tasarlanmış yerleşik koruyucu sınırlara uyar. Güvenlik kuralları, biyoloji veya siber güvenlik alanındaki kötüye kullanım da dahil olmak üzere zararlı istekleri reddetmelerini gerektirir. Yardımcı olabilecekleri görevlerde, eylem kuralları ne zaman ilerleyebileceklerini, ne zaman onay istemeleri gerektiğini ve ne zaman bir adımı size devretmeleri gerektiğini belirler.
Dot’lar bu sınırlar içinde, erişim iznine sahip oldukları bilgileri okuyabilir, analiz edebilir ve konuşmalarınızda taslaklar hazırlayabilir. Mesaj göndermek veya dosya paylaşmak için, hem bilgiyi hem de alıcı türünü kapsayan bir yetkilendirme istemeleri öğretilir. Veriler ne kadar hassassa alıcıların o kadar açık şekilde belirtilmesi gerekir. Örneğin sağlık verileri için kullanıcının her zaman alıcının adını belirtmesi gerekir (“tıbbi geçmişimi Dr. Thompson ile paylaş”). E-posta adresi veya telefon numarası gibi daha az hassas kişisel veriler için varsayılan olarak kullanıcının alıcı kategorilerini belirtmesi gerekir (“herhangi bir hava yolu şirketi”). Kullanıcı, Özel Kural oluşturarak daha az hassas kişisel verilerle ilgili kuralları daha da genişletebilir (“herhangi bir çevrimiçi formla paylaş”). Bu özellik hakkında daha fazla bilgi için sonraki bölüme bakın. Bu yetkilendirme, göreve ilişkin talimatlarınızla sınırlı kalır; göreve daha sonra devam edilmesi veya işin devredilmesi yetkinin kapsamını genişletmez.
Dot’lar, bir satıcının web sitesine daha önce kaydettiğiniz kartlarla alışveriş yapabilir. Bu alışverişler için onayınız gerekir.
Verileri kalıcı olarak silmek, tanınmayan bir kaynaktan yazılım yüklemek veya çalıştırmak ya da güvenlik açısından hassas yeni erişim izinleri vermek gibi bazı eylemler için her seferinde onayınız gerekir. Bu gereklilikler, geri alınması zor olabilecek veya birine yeni erişim sağlayabilecek değişiklikleri incelemenize fırsat verir.
Parola değiştirmek veya finansal hesaplar arasında para transferi yapmak gibi diğer hassas adımlarda dot’lar, ilgili görevin geri kalanında yardımcı olabilir ancak hassas adımları size devretmek zorundadır.
Özel Kurallar, bu yerleşik korumaların sınırları içinde dot’ların size nasıl yardımcı olacağını şekillendirmenizi sağlar. Örneğin, onlara asla e-posta göndermemelerini söyleyebilirsiniz. Göreve özel yönlendirmeler de verebilirsiniz. Örneğin, bir dot’tan kişisel nedeninizi paylaşmadan bir iş arkadaşınıza dışarıda olduğunuzu söylemesini isteyebilirsiniz. Bu talimatlar, dot işi devrettiğinde veya arka planda çalıştığında da geçerliliğini korur.
Dot’lar, Özel Kurallar yazmanıza yardımcı olabilir ancak bunları değiştirmek için onayınıza ihtiyaç duyar. Bu tercihler, yerleşik koruyucu sınırlar içinde geçerlidir; zorunlu onayları, size devredilmesi gereken adımları veya temel güvenlik gerekliliklerini ortadan kaldıramaz.
Dot’lar e-posta göndermek veya dosyaları değiştirmek gibi eylemleri gerçekleştirmeden önce, Otomatik inceleme adlı ayrı bir güvenlik sistemi planlanan adımların talimatlarınıza, Özel Kurallara ve güvenlik gerekliliklerine uygunluğunu kontrol eder. Bir e-postada, yanlış adresi veya paylaşmak istemediğiniz bilgileri tespit etmeye yardımcı olmak için alıcıyı ve mesajı kontrol eder.
Otomatik inceleme bir adıma izin verirse, adımı öneren dot uygun bilgisayarı veya uygulama aracını kullanarak bu adımı gerçekleştirir, ardından sonucu kullanarak görevinize devam eder. Daha önce verdiğiniz onay eylemi kapsıyorsa ve kurallar yeni bir onay gerektirmiyorsa mevcut onayınıza dayanarak ilerleyebilir.
Otomatik inceleme bir adımı engellerse eylemin gerçekleştirilmesini önler ve nedenini dot’a bildirir. Engeli kaldırabilecekse dot sizden ek bilgi veya onay isteyebilir, ardından adımı yeniden incelemeye sunabilir. Engelin nedenine bağlı olarak bunun yerine izin verilen bir alternatifi deneyebilir, hassas bir adımı size devredebilir veya durabilir. Onayınız, temel güvenlik gerekliliklerini geçersiz kılamaz.
Otomatik incelemeyi zorunlu kılan denetimleri, dot’ların değiştirebildiği ortamların dışında tutarız. Böylece zorunlu bir kontrolü değiştiremez veya kapatamazlar. Sıradan salt okunur adımlar da uygulama izinlerine, araç kısıtlamalarına ve diğer güvenlik önlemlerine uyar ancak bu ek incelemeye ihtiyaç duymaz.
Otomatik inceleme bir eyleme izin verdiğinde dot, eylemi gerçekleştirir ve sonucu alır. Bir eylemi engellediğinde ise nedenini dot’a bildirir. Dot da size sormaya, izin verilen bir alternatifi denemeye, adımı size devretmeye veya durmaya karar verir.
Süregelen işleri dot’lara emanet etmek, talimatlarınıza nasıl uyacaklarını ve beklenmedik bir durum olduğunda nasıl karşılık vereceklerini bilmeyi gerektirir. Astra, niyetinizi anlamalarına yardımcı olurken verileri, çalışma alanları, kimlik bilgileri ve eylemleri etrafındaki korumalar, hatalardan veya kötü amaçlı içeriklerden kaynaklanan zararı sınırlamaya yardımcı olur. Bu güvenlik önlemleri birlikte, dot’lara faydalı işler yapabilecekleri alanı sağlarken bir hatanın istenmeyen bir eyleme veya bilgi ifşasına dönüşme olasılığını azaltır.
Dot’ların nelere bağlanabileceğini ve nasıl yardımcı olacağını siz seçersiniz. İlerlemelerini takip edebilir veya ihtiyaçlarınız değiştikçe yönlerini değiştirebilirsiniz. Onaylar ve size devredilen adımlar, önemli kararların sizin elinizde kalmasını sağlar. Dot’lar yine de hata yapabilir. Bu nedenle gerçek kullanımdan öğrendiklerimizle korumalarını test etmeye ve geliştirmeye devam edeceğiz. Amacımız, işe tercihleriniz yön verirken ve önemli kararlar sizin elinizde kalırken, işleri dot’lara bırakıp geri döndüğünüzde anlamlı bir ilerlemeyle karşılaşmanızı kolaylaştırmak.
Güvenlik önlemlerimiz, güvenlik değerlendirmelerimiz ve devam eden sınırlamalar hakkında daha fazla ayrıntı için sistem kartını(yeni bir pencerede açılır) okuyun.
ChatGPT’nin güvenlik temelleri için OpenAI’da güvenlik ve gizlilik sayfasına bakın. Web güvenliği korumalarından birine daha yakından bakmak için Bir yapay zekâ ajanı bağlantıya tıkladığında verilerinizi güvende tutmak yazısına bakın.