AI agents with generative orchestration should have custom instructions

Bunun Önemi

Üretken düzenleme özelliğine sahip AI aracıları, kullanıcı taleplerini geniş kapsamlı yorumlayabilir ve bu da kuruluşunuzun belirlediği kapsam veya güvenlik sınırlarından sapma potansiyeli taşır. Özel talimatlar olmadan bu aracılar hassas bilgileri açığa çıkarabilir, yetkisiz işlemler gerçekleştirebilir veya prompt enjeksiyon girişimlerini reddetmeyi başaramayabilir. Yerinde net yönergeler bulunması, kötüye kullanımı önler ve otomatik iş akışları üzerinde kontrol sağlar.

Aether365 Ne Kontrol Eder

Aether365, üretken düzenleme kullanan her bir Copilot Studio aracısının özel talimatlarla yapılandırılıp yapılandırılmadığını doğrular. Bu kontrol, Aether365 gösterge panelinizde microsoft-365 hizmet kontrolleri altında AE.1121 kuralı olarak görünür.

Nasıl Düzeltilir

1. Copilot Studio'da oturum açın ve aracı listesine gidin.
2. İşaretlenen her bir aracıyı seçerek yapılandırmasını açın.
3. Özel talimatlar bölümünü bulun ve aracının amacını, sınırlarını ve davranış kısıtlamalarını tanımlayın.
4. En azından aracının neler yapmasına izin verildiğini, hangi konuların yasak olduğunu ve talimatlarını geçersiz kılma girişimleriyle nasıl başa çıkması gerektiğini ekleyin.
5. Değişiklikleri kaydedin ve gerekirse aracıyı yeniden yayımlayın.

Uyumluluk

Bu kontrol doğrudan belirli bir uyumluluk çerçevesine uymaz ancak AI yönetişimi için genel güvenlik en iyi uygulamalarıyla uyumludur. Uygulanabilir belirli bir çerçeve veya referans bulunmamaktadır.

İlgili Kaynaklar

Create and edit custom instructions

Microsoft references

• Authoring instructions
• Security top 10