Kısaca
Yapay zeka ajanı yönetişimi, bir ajanın hangi bilgilere erişebileceğini, hangi işlemleri yapabileceğini ve çalışmalarının nasıl incelenip kaydedileceğini belirleyen kontroller bütünüdür.
Temel kontroller arasında her ajan için ayrı bir kimlik, en az yetki ilkesi, erişimi sınırlandırılmış bağlantılar, yayımlama öncesi inceleme, her araç çağrısında yetki denetimi, yüksek etkili işlemler için insan onayı ve eksiksiz işlem kayıtları yer alır.
Kurumsal yapay zeka ajanı nedir?
Kurumsal yapay zeka ajanı, belirli bir iş için yapılandırılmış, adımları planlayabilen, kurumsal bilgileri kullanabilen ve bir görevi tamamlamak için araç çağırabilen bir yapay zeka sistemidir. Bir sohbet botu yanıt vermekle yetinirken ajan görevi ilerletir: ilgili belgeleri getirir, rapor taslağı hazırlar, bir kaydı günceller veya sürecin bir sonraki adımını başlatır.
Yanıt vermekten işlem yapmaya geçiş, ajanların neden yönetişime ihtiyaç duyduğunu açıklar. CRM sisteminize, dosya depolama alanınıza ve e-postanıza erişen bir ajan, bir çalışan kadar geniş yetkilere sahip olabilir. Ancak bu yetkileri kullanırken bir çalışanın muhakemesine güvenebileceğiniz gibi ona güvenemezsiniz.
Yapay zeka ajanları neden yönetişime ihtiyaç duyar?
Ajanların kullanımı belirli kurallar olmadan yaygınlaştığında, birçok kurumda benzer sorunlar ortaya çıkar:
- Gereğinden fazla yetkiye sahip ajanlar. Bir yöneticinin oluşturduğu ajan, yöneticinin erişim yetkilerini fark edilmeden devralır. Böylece ajanı kullanan herkes aynı bilgilere erişebilir.
- İncelenmemiş değişiklikler. Talimatlarda veya bir veri kaynağında yapılan küçük bir değişiklik çıktıları etkiler. Ancak kimse bu değişikliğin ne zaman ve neden yapıldığını açıklayamaz.
- Ekip sınırlarını aşan veri erişimi. Ortak bir bağlantının kullanılması nedeniyle İK dosyaları bir satış asistanının erişimine açılır.
- Eksik işlem kayıtları. Bir denetçi veya müşteri, bir sonucun nasıl üretildiğini sorduğunda izlenen adımlar açıklanamaz.
- Gölge ajanlar. Ekipler, onaylı platformların dışında şirket verilerini kullanan kendi betiklerini ve otomasyonlarını oluşturur.
Yönetişim, ajanların benimsenmesini kolaylaştırır. Açık kurallar ve denetlenebilir süreçler sayesinde güvenlik, hukuk ve uyum ekipleri kullanıma onay verebilir.
Yapay zeka ajanı yönetişimi için yedi kontrol
1. Her ajana ayrı bir kimlik ve sorumlu bir kişi atayın
Ajanlar ve arka planda çalışan işler, kendileri için tanımlanmış bir servis kimliğiyle çalışmalıdır. Her birinin sorumluluğunu üstlenen bir kişi de belirlenmelidir. Ajanlar, onları oluşturan kişinin daha geniş erişim yetkilerini otomatik olarak devralmamalıdır. Bir sorun ortaya çıktığında ilk sorunun yanıtı açık olmalıdır: Bu ajandan kim sorumlu?
2. Erişimi en az yetki ilkesiyle sınırlayın
Erişim yetkilerini kurum, ekip, proje ve nesne düzeyinde tanımlayın. Kurallar çakıştığında en kısıtlayıcı olanı uygulayın. Ekipler, kurum politikasının izin verdiği erişimi daraltabilmeli ancak genişletememelidir. Bir kullanıcının erişim yetkisi kaldırıldığında ajan, bir sonraki istekten itibaren o kullanıcı adına ilgili bilgilere erişmemelidir.
3. Her bağlantının ve bilgi kaynağının erişim kapsamını belirleyin
Bir sistemi platforma bağlamak, onu herkesin erişimine açmak anlamına gelmez. Her entegrasyon ve bilgi tabanı için hangi kullanıcıların, ekiplerin, projelerin ve servis kimliklerinin erişebileceği belirlenmelidir. Mümkün olduğunda, bir kullanıcı adına çalışan ajan yalnızca o kullanıcının kaynak sistemde görmeye yetkili olduğu bilgilere erişmelidir.
4. Geliştirme ve yayımlama süreçlerini ayırın
Ajan talimatlarını ve otomasyonları kod gibi yönetin. Sürüm geçmişini tutun, önceki sürümlere dönmeyi mümkün kılın ve bir taslağı son kullanıcıların kullanımına açmadan önce inceleyin. Canlı ortamda bir ajan, yalnızca yayımlanmış ve kullanımı onaylanmış otomasyon sürümlerini çalıştırmalıdır. Otomasyonu düzenleyememeli, bağlantılarını değiştirememeli veya zorunlu onay adımlarını atlayamamalıdır.
5. Her araç çağrısında yetkileri yeniden denetleyin ve yüksek etkili işlemleri onaya bağlayın
Modelin bir aracı çağırmayı seçmesi, o aracı kullanmaya yetkili olduğu anlamına gelmez. Her araç çağrısını sunucu tarafında; işlemi başlatan kullanıcının, servis kimliğinin, ilgili nesnenin ve yapılacak işlemin yetkilerine göre denetleyin. Verileri değiştiren, bilgileri kurum dışına gönderen veya kurumsal kararlara dayanak oluşturacak sonuçlar üreten işlemler için açık insan onayı isteyin.
6. Ajanların görev durumunu doğru bildirmesini sağlayın
Yönetişim kurallarına uygun çalışan bir ajan, planını gösterir, tamamlanan adımları bildirir ve devam edemediğinde nerede durduğunu açıkça belirtir. Yarım kalan bir görevi tamamlanmış gibi sunmamalıdır. Bu, yalnızca kullanım kolaylığıyla ilgili bir ayrıntı değil, aynı zamanda bir kontrol mekanizmasıdır. İnsanlar ancak hangi adımların gerçekleştiğini görebildiklerinde süreci inceleyebilir.
7. Her çalıştırmayı kaydedin, değerlendirin ve izleyin
Ajanı kimin çalıştırdığını, hangi bilgileri getirdiğini, hangi modeli ve rotayı kullandığını, hangi politikaların uygulandığını ve ne ürettiğini kaydedin. Bu kayıtları, işlenen verilerle aynı erişim kurallarına tabi tutun. Çıktıları düzenli olarak doğruluğu bilinen referans yanıtlarla karşılaştırın. Veriler ve modeller zamanla değiştiği için çıktı kalitesi de değişebilir.
Yapay zeka ajanı yönetişiminden kim sorumlu olmalı?
Ajan yönetişimi, rollerin açıkça tanımlandığı ortak bir sorumluluk olarak yürütüldüğünde en iyi sonucu verir.
| Rol | Sorumluluk |
|---|---|
| Yapay zeka lideri | Ajan programı, standartlar ve inceleme süreci |
| İş birimi sahibi | Her ajanın amacı, talimatları ve sonuçları |
| BT ve güvenlik | Kimlik, erişim, bağlantılar, DLP ve işlem kayıtları |
| Hukuk ve uyum | Veri sınıfları, onay kuralları ve denetim gereksinimleri |
Yönetişim neden bağlama ihtiyaç duyar?
Yetkiler, bir ajanın ne yapabileceğini belirler. Bağlam ise işi ne kadar iyi yapabileceğini etkiler. Süreçlerinizin nasıl işlediğini, verilerin nerede bulunduğunu veya iyi bir sonucun nasıl olması gerektiğini bilmeyen bir ajan, erişim sınırları doğru tanımlanmış olsa bile hatalı sonuçları kendinden emin biçimde sunabilir.
Etkili ajan programları, yönetişimi operasyonel bağlamla birleştirir. İşin gerçekte nasıl yürütüldüğünü açıklayan politikalar, kayıtlar ve kararlar bu bağlamı oluşturur. Bu yaklaşımı Meet the Context Model çalışmamızda ele alıyoruz.
Feza yapay zeka ajanlarını nasıl yönetir?
Feza’da ajanlar, kendilerine tanımlanan servis kimlikleriyle çalışır ve yalnızca kurumun izin verdiği bilgi ve araçlara erişir. Her araç çağrısında yetkiler sunucu tarafında yeniden denetlenir. Verileri değiştiren veya harici sistemlere erişen işlemler için insan onayı zorunlu kılınabilir.
Ajanlar, yalnızca ilgili görev için kullanımı onaylanmış ve yayımlanmış otomasyon sürümlerini çalıştırabilir. Otomasyonu düzenleyemez, yeni sürüm yayımlayamaz veya zorunlu onay adımlarını atlayamaz. Bir ajan görevi tamamlayamadığında, hangi adımların tamamlandığını ve nerede durduğunu gösterir.
Bu yaklaşımın pratikte nasıl uygulandığını Feza Ajanları ve Feza güvenlik sayfalarında görebilirsiniz.
Sık sorulan sorular
Yapay zeka ajanı yönetişimi; bir ajanın neye erişebileceğini, hangi işlemleri yapabileceğini, değişikliklerini kimin onaylayacağını ve çalışmasının nasıl kaydedilip inceleneceğini belirleyen politika ve teknik kontrollerdir.
Model yönetişimi bir modelin nasıl eğitildiğine, değerlendirildiğine ve seçildiğine odaklanır. Ajan yönetişimi ise kurulmuş bir sistemin verileriniz ve araçlarınızla ne yapmasına izin verildiğine odaklanır: kimlik, erişim, işlemler, onaylar ve kayıt.
Hayır. Ajanlar, bilinçli olarak sınırlandırılmış kendi kapsamına sahip bir servis kimliğiyle çalışmalıdır. Bir yöneticinin erişimini devralmak, aşırı yetkili ajanların en yaygın nedenlerinden biridir.
Bir işlem veri değiştirdiğinde, bilgiyi kurum dışına gönderdiğinde veya kurumun dayandığı bir sonuç ürettiğinde. Okuma ve taslak hazırlama genellikle onay gerektirmeden çalışabilir.