AI agents with generative orchestration should have custom instructions
Pourquoi c'est important
Les agents d'IA dotés d'orchestration générative peuvent interpréter largement les demandes des utilisateurs, risquant ainsi de s'écarter du périmètre prévu ou des limites de sécurité de votre organisation. Sans instructions personnalisées, ces agents pourraient exposer des informations sensibles, effectuer des actions non autorisées ou ne pas rejeter les tentatives d'injection rapide. Veiller à ce que des directives claires soient en place permet d'éviter les mauvais usages et de maintenir la maîtrise des workflows automatisés.
Ce que vérifie Aether365
Aether365 vérifie si chaque agent Copilot Studio utilisant l'orchestration générative dispose d'instructions personnalisées configurées. Cette vérification apparaît dans votre tableau de bord Aether365 sous les contrôles de service microsoft-365 sous la règle AE.1121.
Comment résoudre le problème
- Connectez-vous à Copilot Studio et accédez à la liste des agents.
- Sélectionnez chaque agent signalé pour ouvrir sa configuration.
- Localisez la section des instructions personnalisées et définissez la finalité de l'agent, ses limites et ses contraintes comportementales.
- Au minimum, indiquez ce que l'agent est autorisé à faire, les sujets interdits et la manière dont il doit gérer les tentatives de contournement de ses instructions.
- Enregistrez les modifications et republiez l'agent si nécessaire.
Conformité
Cette vérification n'est pas directement liée à un cadre de conformité spécifique, mais elle s'aligne sur les bonnes pratiques générales de sécurité pour la gouvernance de l'IA. Aucun cadre ou référence spécifique n'est applicable.
Ressources connexes
Create and edit custom instructions