Güvenli kurumsal yapay zeka nasıl kurulur?

Güvenli kurumsal yapay zeka nedir?

Güvenli kurumsal yapay zeka, yapay zekanın şirket genelinde kurumun kendi politikaları doğrultusunda yönetilerek kullanılmasıdır. Her istek, önceden belirlenmiş sınırlar içinde işlenir: modelin hangi bilgilere erişebileceğini kullanıcının yetkileri, hangi verilerin kurum dışına çıkabileceğini ise veri politikaları belirler. Her çalıştırma kayda alınır.

Bireysel yapay zeka araçlarından temel farkı, kurumun sahip olduğu kontroldür. Kişisel bir sohbet hesabı, bir çalışanın hangi belgeleri okumaya yetkili olduğunu, hangi müşteri verilerinin KVKK kapsamında olduğunu veya hukuk ekibinizin hangi model sağlayıcılarını onayladığını bilmez. Kurumsal bir kurulumda ise ilk prompt gönderilmeden önce bu konuların netleştirilmiş olması gerekir.

Yapay zeka güvenliği, geleneksel yazılım güvenliğinden neden farklıdır?

Geleneksel güvenlik kontrollerinin çoğu hâlâ geçerlidir: kimlik doğrulama, en az yetki, şifreleme ve kayıt tutma. Ancak yapay zeka sistemleri, geleneksel uygulamalarda daha az karşılaşılan dört ek risk taşır.

• Modeller güvenilmeyen içerikleri okur. Bir belge, e-posta veya web sayfası, modeli yönlendirmeye çalışan talimatlar içerebilir. Buna prompt enjeksiyonu denir.
• Veriler üçüncü taraflara aktarılır. Kendi modellerinizi çalıştırmıyorsanız promptlar ve getirilen bağlam, harici bir model sağlayıcısına gönderilir.
• Çıktılar her zaman aynı değildir. Aynı soru farklı yanıtlar üretebilir. Bu nedenle testlerin yanı sıra değerlendirme ve kayıt tutma da gerekir.
• Ajanlar işlem yapar. Yapay zeka araç çağırabildiğinde, kayıtları güncelleyebildiğinde veya mesaj gönderebildiğinde bir hata, yanlış bir yanıtın ötesinde sonuçlar doğurabilir.

Hangi kurulum modelini seçmelisiniz?

Kurumsal bir yapay zeka platformunu çalıştırmanın dört yaygın yolu vardır. Hiçbiri tek başına güvenliği garanti etmez. Her biri kontrol düzeyi, devreye alma hızı ve operasyonel yük arasında farklı bir denge sunar.

Yalıtım arttıkça üstlendiğiniz sorumluluklar da artar: güncellemeler, izleme, kapasite yönetimi ve olay müdahalesi. Çoğu kurum için asıl risk, sunucuların konumundan çok erişim ve veri politikalarının tutarlı biçimde uygulanıp uygulanmadığıdır. Bu nedenle aşağıdaki adımlar, hangi modeli seçerseniz seçin önemlidir.

Güvenli yapay zekaya geçiş için yedi adım

1. Verilerinizi ve kullanım senaryolarınızı sınıflandırın

İşe araç seçimiyle değil, yapay zekanın hangi verilere erişeceğini belirleyerek başlayın. Verilerinizi kamuya açık, kurum içi, gizli, kişisel veya düzenlemeye tabi gibi sınıflara ayırın. Ardından planlanan her kullanım senaryosunu, ihtiyaç duyduğu veri sınıflarıyla eşleştirin. Pazarlama metni hazırlayan bir asistan ile İK dosyalarını okuyan bir ajan aynı kurallarla çalışmamalıdır.

2. Verilerin saklandığı yer ile işlendiği yeri ayrı değerlendirin

Veri yerelliğinin birbiriyle kolayca karıştırılan iki boyutu vardır. İlki çalışma alanı verilerinin, dosyaların ve kayıtların nerede saklandığıdır. İkincisi ise modelin bir isteği nerede işlediğidir. Her veri sınıfı için bu iki konuda ayrı ayrı karar verin. Bazı veriler onaylı tüm modellere gönderilebilirken bazıları yalnızca belirli bir bölgedeki modellere gönderilmeli, bazıları ise hiçbir modele aktarılmamalıdır.

Sessizce alternatif bir rotaya geçilmesine izin vermeyin. Bir isteğin belirli bir bölgede işlenmesi gerekiyorsa ve o rota kullanılamıyorsa işlem durdurulmalı ve bunun nedeni kullanıcıya gösterilmelidir. İstek, sessizce başka bir sağlayıcıya yönlendirilmemelidir.

3. Erişim kontrollerini model çalışmadan önce uygulayın

Bir yapay zeka çalışma alanının en önemli güvenlik özelliği, kullanıcının görmeye yetkili olmadığı bilgilerin modele hiç aktarılmamasıdır. Modelden kısıtlı içeriği “görmezden gelmesini” istemek bir güvenlik kontrolü değildir. Erişim yetkileri, bilgi getirilmeden önce sistem tarafından değerlendirilmelidir. Böylece kullanıcının yetkisi dışında kalan belgeler modelin bağlamına hiç girmez. Platformu, tek oturum açma (SSO) ve çok faktörlü kimlik doğrulama kullanarak kimlik sağlayıcınıza bağlayın. Her rol için en az yetki ilkesini uygulayın.

4. Modelin gördüğü tüm içeriklere DLP ve maskeleme kontrolleri uygulayın

Veri kaybı önleme (DLP) kontrolleri, yalnızca kullanıcının yazdığı metinlerle sınırlı kalmamalıdır. Getirilen belgeler, entegrasyon sonuçları ve ajan girdileri de hassas veriler içerebilir. Kurum politikasına göre içerik olduğu gibi kullanılabilir, hassas alanları maskelenerek işlenebilir, yalnızca belirli bir model rotasına gönderilebilir veya tamamen engellenebilir.

5. Prompt enjeksiyonunu her zaman mevcut bir risk olarak değerlendirin

Modelin okuduğu her içeriğin, onu yönlendirmeye çalışan talimatlar içerebileceğini varsayın. Getirilen içerikleri talimat olarak değil, veri olarak işaretleyin. Modele kimlik doğrulama bilgilerini asla vermeyin. Her araç çağrısını sunucu tarafında, kullanıcının gerçek yetkilerine göre yeniden denetleyin. Bir işlemi öneren model, o işlemi yetkilendiren taraf olmamalıdır.

6. Yüksek etkili işlemleri insan onayına bağlayın

Okuma ve özetleme işlemleri genellikle daha düşük risk taşır. Kayıtları değiştirmek, kurum dışına mesaj göndermek veya kurumsal kararlara dayanak oluşturacak sonuçlar üretmek ise daha yüksek risklidir. Bu işlemler için insan onayını zorunlu kılın. Yapay zekanın bir işlemi önerdiği adım ile işlemin uygulandığı adımı birbirinden ayırın.

7. Her isteği kaydedin ve kullanımı yaygınlaştırmadan önce test edin

Her isteği kimin başlattığını, hangi modelin ve rotanın kullanıldığını, hangi politikaların uygulandığını ve işlemin sonucunu kaydedin. Kayıtları da içeriklerle aynı erişim ve maskeleme kurallarına tabi tutun. Sistemi geniş kullanıma açmadan önce saldırı senaryolarını test edin, model rotasının kullanılamaması gibi hata durumlarını simüle edin ve bu durumlarda sistemin nasıl davranacağını belirleyin.

Güvenli yapay zeka kurulumu için kontrol listesi

• Veri sınıfları tanımlandı ve kullanım senaryolarıyla eşleştirildi.
• Kurulum modeli seçildi; avantajları ve dezavantajları belgelendi.
• Her veri sınıfı için saklama ve model tarafından işlenme konumları belirlendi.
• Tüm kullanıcılar için SSO ve çok faktörlü kimlik doğrulama zorunlu kılındı.
• Erişim yetkileri prompt üzerinden değil, bilgi getirilmeden önce sistem tarafından denetleniyor.
• DLP kontrolleri; promptları, belgeleri, entegrasyon sonuçlarını ve ajan girdilerini kapsıyor.
• Model sağlayıcılarının koşulları, verilerin eğitim amaçlı kullanımı da dahil olmak üzere her rota için ayrı ayrı incelendi.
• Prompt enjeksiyonuna karşı kontroller ve sunucu tarafında araç yetkilendirmesi uygulandı.
• Veri değiştiren veya kurum dışına veri aktaran işlemler insan onayına bağlandı.
• İşlem kayıtları eksiksiz tutuluyor, erişim kontrolleriyle korunuyor ve kurum politikasına uygun biçimde saklanıyor.

Feza güvenli kuruluma nasıl yaklaşır?

Feza, model çalışmadan önce kararları kurumun vermesi gerektiği fikri üzerine kuruludur. Feza’da her isteğin erişim kapsamı, model çalışmadan önce kullanıcının yetkilerine göre belirlenir. Bu kapsam hem veritabanında hem de sunucu tarafındaki araç yetkilendirmesinde uygulanır. DLP ve prompt maskeleme kontrolleri; kullanıcı girdilerini, getirilen belgeleri, entegrasyon sonuçlarını ve ajan bağlamlarını kapsar.

Feza, çalışma alanı verilerini Türkiye’de tutacak şekilde kuruluyor. Model çıkarımı, yani modelin isteği işlemesi, kurum politikasına göre tamamen Türkiye’de kalan bir rota üzerinden veya kurumun onayladığı bir Avrupa Birliği rotasında gerçekleşebilir. Türkiye’de işlenmesi gereken bir istek, sessizce başka bir bölgeye yönlendirilmez. Feza, müşteri içeriklerini kendi modellerini eğitmek için kullanmaz. Güvenlik yaklaşımının ayrıntılarını ve henüz sahip olunduğu iddia edilmeyen sertifikalara ilişkin bilgileri Feza güvenlik sayfasında okuyabilirsiniz.