AI agents should not send email with AI-controlled inputs

Bu Neden Önemli

AI ajanları, yapay zeka tarafından oluşturulan veya kullanıcı girdisinden etkilenen içerikle sınırsız e-posta gönderme yeteneğine sahip olmamalıdır. Uygun kontroller olmadan, bir ajan yetkisiz e-postalar göndermek üzere manipüle edilebilir, bu da hassas verilerin sızdırılmasına veya kimlik avı kampanyalarının başlatılmasına yol açabilir. BT yöneticileri, e-posta gönderme yeteneklerinin kötüye kullanımı önlemek için sıkı bir şekilde yönetilmesini sağlamalıdır.

Aether365 Ne Kontrol Eder

Bu kontrol, Microsoft 365 kiracınızda yapılandırılmış tüm Copilot Studio ajanlarını, alıcı, konu veya gövde alanının AI tarafından oluşturulan içerik tarafından dinamik olarak kontrol edildiği e-posta gönderme araçları için tarar. Bu bulguyu Aether365 panosunda microsoft-365 checks bölümü altında göreceksiniz.

Nasıl Düzeltilir

1. Ortamınızdaki her Copilot Studio ajanını inceleyin ve e-posta gönderme araçlarına sahip olanları belirleyin.
2. Meşru bir iş ihtiyacı olmadan e-posta gönderen ajanlar için, e-posta gönderme aracını ajanın yapılandırmasından tamamen kaldırın.
3. E-posta yetenekleri gerektiren ajanlar için, kullanıcılardan veya AI tarafından oluşturulan içerikten dinamik girdiye izin vermek yerine alıcıları sabit, önceden tanımlanmış bir listeyle sınırlayın.
4. Power Platform admin center'da, e-posta göndermeye yetkili olmaması gereken ajanlar için Outlook bağlayıcısını engellemek üzere Data Loss Prevention (DLP) politikaları yapılandırın.
5. Değişiklik yaptıktan sonra yalnızca onaylanmış ajanların e-posta gönderme yeteneklerinin etkin olduğunu doğrulayın.

Uyumluluk

• Diğer (iç güvenlik taban çizgisi)

İlgili Kaynaklar

• Ajanlar için veri politikaları yapılandırma

Microsoft references

• Admin data loss prevention
• Security top 10