AI agents should not send email with AI-controlled inputs
Por Que Isso é Importante
Agentes de IA não devem ter capacidade irrestrita de enviar e-mails com conteúdo gerado por IA ou influenciado por entrada do usuário. Sem controles adequados, um agente pode ser manipulado para enviar e-mails não autorizados, potencialmente exfiltrando dados confidenciais ou lançando campanhas de phishing. Administradores de TI devem garantir que as capacidades de envio de e-mail sejam rigorosamente governadas para evitar abusos.
O Que o Aether365 Verifica
Esta verificação examina todos os agentes do Copilot Studio configurados em seu locatário do Microsoft 365 em busca de ferramentas de envio de e-mail onde os campos de destinatário, assunto ou corpo são controlados dinamicamente por conteúdo gerado por IA. Você verá esse resultado no painel do Aether365 na seção de verificações microsoft-365.
Como Corrigir
- Revise cada agente do Copilot Studio em seu ambiente e identifique aqueles que possuem ferramentas de envio de e-mail.
- Para agentes que não têm uma necessidade legítima de negócio para enviar e-mail, remova completamente a ferramenta de envio de e-mail da configuração do agente.
- Para agentes que exigem capacidades de e-mail, restrinja os destinatários a uma lista fixa predefinida em vez de permitir entrada dinâmica de usuários ou conteúdo gerado por IA.
- Configure políticas de Data Loss Prevention (DLP) no Power Platform Admin Center para bloquear o conector do Outlook para agentes que não devem ser autorizados a enviar e-mail.
- Valide que apenas agentes aprovados tenham capacidades de envio de e-mail habilitadas após fazer alterações.
Conformidade
- Outro (linha de base de segurança interna)