AI agents with generative orchestration should have custom instructions
Por Que Esto es Importante
Los agentes de IA con orquestación generativa pueden interpretar las solicitudes de los usuarios de manera amplia, lo que podría desviarse del alcance previsto o de los límites de seguridad de su organización. Sin instrucciones personalizadas, estos agentes podrían exponer información confidencial, realizar acciones no autorizadas o no rechazar intentos de inyección de indicaciones. Garantizar que existan pautas claras previene el uso indebido y mantiene el control sobre los flujos de trabajo automatizados.
Lo Que Verifica Aether365
Aether365 verifica si cada agente de Copilot Studio que utiliza orquestación generativa tiene instrucciones personalizadas configuradas. Esta verificación aparece en el panel de Aether365 bajo las comprobaciones de servicio de microsoft-365 como la regla AE.1121.
Cómo Solucionarlo
- Inicie sesión en Copilot Studio y navegue hasta la lista de agentes.
- Seleccione cada agente marcado para abrir su configuración.
- Localice la sección de instrucciones personalizadas y defina el propósito, los límites y las restricciones de comportamiento del agente.
- Como mínimo, incluya qué se le permite hacer al agente, qué temas están prohibidos y cómo debe manejar los intentos de anular sus instrucciones.
- Guarde los cambios y vuelva a publicar el agente si es necesario.
Cumplimiento Normativo
Esta verificación no se asigna directamente a un marco de cumplimiento normativo específico, pero se alinea con las prácticas recomendadas generales de seguridad para la gobernanza de la IA. No se aplican marcos ni referencias específicos.
Recursos Relacionados
Cree y edite instrucciones personalizadas