Başta web’i ve bağlı uygulamaları içerenler olmak üzere yapay zeka sistemleri daha karmaşık görevler üstlendikçe güvenlik riskleri de değişim geçiriyor.
Ortaya çıkan risklerden biri ise özellikle önemli hale gelmiş durumda: komutlara kötü amaçlı müdahale. Bu saldırılarda üçüncü bir taraf, konuşma tabanlı bir yapay zeka sistemini kötü amaçlı talimatları izlemeye veya hassas bilgileri ifşa etmeye yönlendirmeye çalışır.
Bugün kullanıcılar ve kuruluşlar için komutlara kötü amaçlı müdahale saldırılarını azaltmaya yardımcı olacak, riski daha net bir şekilde görme imkanı ve daha güçlü kontroller sağlayan iki yeni koruma sunuyoruz:
- ChatGPT’de yüksek risk altındaki kullanıcılara yönelik gelişmiş ve isteğe bağlı bir güvenlik ayarı olan Kilitleme Modu
- ChatGPT, ChatGPT Atlas ve Codex’te, ek risk oluşturabilecek bazı yeteneklerle ilgili “Yüksek Risk” etiketleri
Bu eklemeler model, ürün ve sistem düzeylerindeki mevcut korumaları temel alarak daha da geliştirir. Bunlar arasında sandboxing, URL tabanlı veri sızdırmaya karşı korumalar, izleme ve yaptırım gibi korumaların yanı sıra rol tabanlı erişim ve denetim günlükleri gibi kurumsal kontroller yer alır.
Kilitleme Modu, gelişmiş tehditlere karşı daha fazla korumaya ihtiyaç duyan üst düzey yöneticiler veya önde gelen kuruluşlardaki güvenlik ekipleri gibi güvenlik konusunda son derece hassas küçük bir kullanıcı grubu için isteğe bağlı, gelişmiş bir güvenlik ayarıdır. Çoğu kullanıcı için bu ayar gerekli değildir. Kilitleme Modu, komutlara kötü amaçlı müdahale temelli veri sızdırma riskini azaltmak için ChatGPT’nin dış sistemlerle etkileşimini sıkı bir şekilde sınırlar.
Kilitleme Modu, ChatGPT’de bir saldırganın komutlara kötü amaçlı müdahale gibi saldırılar yoluyla kullanıcıların konuşmalarından veya bağlı uygulamalardan hassas verileri sızdırmak için kullanabileceği belirli araçları ve yetenekleri deterministik olarak devre dışı bırakır.
Örneğin, Kilitleme Modu’nda web’de gezinme önbelleğe alınmış içeriklerle sınırlı olduğu için hiçbir canlı ağ isteği OpenAI’ın kontrollü ağının dışına çıkmaz. Bu kısıtlama, hassas verilerin tarayıcı kullanımı aracılığıyla bir saldırgana sızdırılmasını önlemek amacıyla tasarlanmıştır. Veri güvenliğine ilişkin güçlü deterministik güvenceler sağlayamadığımız durumlarda bazı özellikler tamamen devre dışı bırakılır.
Kilitleme Modu, ChatGPT’nin belirli dış sistemlerle nasıl etkileşime gireceğini sıkı bir şekilde kısıtlayarak verilerin istemeden üçüncü taraflarla paylaşılmasını önlemeye yardımcı olan yeni bir deterministik ayardır.
ChatGPT iş planları halihazırda zaten kurumsal düzeyde veri güvenliği sunmaktadır. Kilitleme Modu, bu korumaları daha da güçlendirir ve ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare ve ChatGPT for Teachers için de sunulur. Yöneticiler, Çalışma Alanı Ayarları(yeni bir pencerede açılır) bölümünden yeni bir rol(yeni bir pencerede açılır) oluşturarak bu modu etkinleştirebilir. Kilitleme Modu etkinleştirildiğinde, mevcut yönetici ayarlarının üzerine ek kısıtlamalar eklenir.
Kilitleme Modu hakkında daha fazla bilgi için Yardım Merkezi(yeni bir pencerede açılır)’ni ziyaret edin.
Bazı kritik iş akışları uygulamalara bağlı olduğu için Çalışma Alanı Yöneticileri bu iş akışlarında daha detaylı kontrollere sahip olur. Kilitleme Modu’nda kullanıcıların tam olarak hangi uygulamaları ve bu uygulamalardaki hangi belirli eylemleri kullanılabileceğini seçebilirler. Kilitleme Modu’na ek olarak ve ondan ayrı bir biçimde Compliance API Günlükleri Platformu(yeni bir pencerede açılır) da uygulama kullanımı, paylaşılan veriler ve bağlı kaynaklar hakkında ayrıntılı görünürlük sağlayarak yöneticilerin denetimi korumasına yardımcı olur.
Kilitleme Modu’nu önümüzdeki aylarda tüketicilere sunmayı planlıyoruz.
Yapay zeka ürünleri, uygulamalarınıza ve web’e bağlı olduklarında daha faydalı olabilir ve biz de bağlı verilerin güvenliğini sağlamak için büyük yatırımlar yaptık. Aynı zamanda ağla ilgili bazı yetenekler, sektörün güvenlik ve koruma önlemlerinin henüz tam olarak ele almadığı yeni riskler ortaya çıkarıyor. Bazı kullanıcılar bu riskleri üstlenmekten çekinmeyebilir ve kullanıcıların, özellikle de özel verileriyle çalışırken bu yetenekleri kullanıp kullanmayacaklarına ve nasıl kullanacaklarına karar verebilmelerinin önemli olduğuna inanıyoruz.
Bugüne kadar, ek risk oluşturabilecek özellikler için ürün içi rehberlik sağlama yaklaşımını benimsedik. Bunu daha net ve daha tutarlı hale getirmek için mevcut yeteneklerden oluşan kısa bir listeyi etiketleme biçimimizi standart hale getiriyoruz. Bu özellikler artık ChatGPT, ChatGPT Atlas ve Codex genelinde tutarlı bir “Yüksek Risk” etiketi kullanacak, böylece kullanıcılar bu özelliklerle nerede karşılaşırlarsa karşılaşsınlar aynı yönlendirmeyi alacaklar.
Örneğin kodlama asistanımız Codex’te geliştiriciler web üzerinde belge aramak gibi eylemler gerçekleştirebilmesi için Codex’e ağa erişim izni verebilir. İlgili ayarlar ekranında “Yüksek Risk” etiketinin yanı sıra nelerin değiştiği, hangi risklerin ortaya çıkabileceği ve bu erişimin ne zaman uygun olduğu hakkında net bir açıklama bulunur.
Kullanıcıların Codex’in ağ erişimini yapılandırabileceği Codex ayarları ekranının ekran görüntüsü.
Özellikle yeni, gelişmekte olan veya büyüyen risklere ilişkin güvenlik ve koruma önlemlerimizi güçlendirmek için yatırım yapmaya devam ediyoruz. Bu özelliklere ilişkin koruma önlemlerini güçlendirdikçe, güvenlik konusunda kaydettiğimiz ilerlemelerin genel kullanım için bu riskleri yeterince azalttığını belirlediğimizde “Yüksek Risk” etiketini kaldıracağız. Ayrıca riskleri kullanıcılara en iyi şekilde bildirebilmek için hangi özelliklerin bu etiketi taşıyacağı konusunda güncelleme yapmayı sürdüreceğiz.
Yazar
Okumaya devam et
