AI agents should not send email with AI-controlled inputs
Prečo je to dôležité
Agenti umelej inteligencie by nemali mať neobmedzenú schopnosť odosielať e-maily s obsahom generovaným AI alebo ovplyvneným vstupom od používateľa. Bez riadnych kontrol by mohol byť agent zmanipulovaný na odosielanie neoprávnených e-mailov, čo by mohlo viesť k exfiltrácii citlivých údajov alebo spusteniu phishingových kampaní. IT administrátori musia zabezpečiť, aby boli možnosti odosielania e-mailov prísne riadené, aby sa predišlo zneužitiu.
Čo kontroluje Aether365
Táto kontrola prehľadáva všetkých agentov Copilot Studio nakonfigurovaných vo vašom Microsoft 365 tenantovi na nástroje na odosielanie e-mailov, kde je príjemca, predmet alebo telo dynamicky riadené obsahom generovaným AI. Tento nález uvidíte v dashboarde Aether365 v sekcii kontrol microsoft-365.
Ako to opraviť
- Prezrite si každého agenta Copilot Studio vo vašom prostredí a identifikujte tých, ktorí majú nástroje na odosielanie e-mailov.
- Pre agentov, ktorí nemajú legitímnu obchodnú potrebu odosielať e-maily, odstráňte nástroj na odosielanie e-mailov úplne z konfigurácie agenta.
- Pre agentov, ktorí vyžadujú možnosti e-mailu, obmedzte príjemcov na pevne stanovený, vopred definovaný zoznam namiesto povolenia dynamického vstupu od používateľov alebo obsahu generovaného AI.
- Nakonfigurujte politiky DLP (Data Loss Prevention) v Power Platform Admin Center tak, aby blokovali Outlook konektor pre agentov, ktorí by nemali byť oprávnení odosielať e-maily.
- Po vykonaní zmien overte, že iba schválení agenti majú povolené možnosti odosielania e-mailov.
Kompatibilita
- Iné (interná bezpečnostná základná línia)