AI agents should not send email with AI-controlled inputs
Por Que Esto Importa
Los agentes de IA no deberían tener capacidad sin restricciones para enviar correos electrónicos con contenido generado por IA o influenciado por la entrada del usuario. Sin controles adecuados, un agente podría ser manipulado para enviar correos no autorizados, potencialmente extrayendo datos sensibles o lanzando campañas de phishing. Los administradores de TI deben asegurarse de que las capacidades de envío de correos estén estrictamente reguladas para prevenir abusos.
Que Verifica Aether365
Esta verificación analiza todos los agentes de Copilot Studio configurados en su inquilino de Microsoft 365 en busca de herramientas de envío de correos donde el destinatario, el asunto o el cuerpo del mensaje estén controlados dinámicamente por contenido generado por IA. Verá este hallazgo en el panel de Aether365 bajo la sección de verificaciones de microsoft-365.
Como Solucionarlo
- Revise cada agente de Copilot Studio en su entorno e identifique aquellos con herramientas de envío de correos.
- Para los agentes que no tienen una necesidad comercial legítima de enviar correos, elimine la herramienta de envío de correos por completo de la configuración del agente.
- Para los agentes que requieren capacidades de correo, restrinja los destinatarios a una lista fija y predefinida en lugar de permitir entrada dinámica de usuarios o contenido generado por IA.
- Configure políticas de Data Loss Prevention (DLP) en el Power Platform Admin Center para bloquear el conector de Outlook para agentes que no deberían estar autorizados a enviar correos.
- Valide que solo los agentes aprobados tengan habilitadas las capacidades de envío de correos después de realizar los cambios.
Cumplimiento
- Otro (línea base de seguridad interna)