AI agents should not send email with AI-controlled inputs
Por Que Isso é Importante
Agentes de IA não devem ter capacidade irrestrita de enviar e-mails com conteúdo gerado por IA ou influenciado por entrada do usuário. Sem controles adequados, um agente pode ser manipulado para enviar e-mails não autorizados, potencialmente exfiltrando dados confidenciais ou lançando campanhas de phishing. Administradores de TI devem garantir que as capacidades de envio de e-mail sejam rigorosamente governadas para evitar abusos.
O Que o Aether365 Verifica
Esta verificação examina todos os agentes do Copilot Studio configurados em seu locatário do Microsoft 365 em busca de ferramentas de envio de e-mail onde os campos de destinatário, assunto ou corpo são controlados dinamicamente por conteúdo gerado por IA. Você verá esse resultado no painel do Aether365 na seção de verificações microsoft-365.