AI agents should not send email with AI-controlled inputs
Proč na tom záleží
Agenti AI by neměli mít neomezenou možnost odesílat e-maily s obsahem generovaným umělou inteligencí nebo ovlivněným vstupem od uživatele. Bez odpovídajících kontrol by mohl být agent zneužit k odesílání neautorizovaných e-mailů, což by mohlo vést k exfiltraci citlivých dat nebo spouštění phishingových kampaní. Správci IT musí zajistit, aby možnosti odesílání e-mailů byly důsledně řízeny, aby se zabránilo jejich zneužití.
Co Aether365 kontroluje
Tato kontrola prohledává všechny agenty Copilot Studio nakonfigurované ve vašem tenantovi Microsoft 365 na nástroje pro odesílání e-mailů, kde je příjemce, předmět nebo tělo dynamicky řízeno obsahem generovaným AI. Tento nález uvidíte v přehledu Aether365 v sekci kontrol microsoft-365.