AI agents should not send email with AI-controlled inputs
Hvorfor dette er vigtigt
AI-agenter bør ikke have ubegrænset adgang til at sende e-mails med indhold genereret af AI eller påvirket af brugerinput. Uden ordentlige kontroller kan en agent manipuleres til at sende uautoriserede e-mails, hvilket potentielt kan føre til eksfiltrering af følsomme data eller iværksættelse af phishing-kampagner. IT-administratorer skal sikre, at e-mail-sendeevner er strengt styret for at forhindre misbrug.
Hvad Aether365 kontrollerer
Denne kontrol scanner alle Copilot Studio-agenter, der er konfigureret i din Microsoft 365-lejer, for e-mail-sendeværktøjer, hvor modtager-, emne- eller brødtekstfeltet dynamisk styres af AI-genereret indhold. Du vil se dette resultat i Aether365-dashboardet under sektionen microsoft-365-checks.
Sådan rettes
- Gennemgå hver Copilot Studio-agent i dit miljø, og identificer dem med e-mail-sendeværktøjer.
- For agenter, der ikke har et legitimt forretningsbehov for at sende e-mail, skal du fjerne e-mail-sendeværktøjet helt fra agentens konfiguration.
- For agenter, der kræver e-mail-funktionalitet, skal du begrænse modtagere til en fast, foruddefineret liste i stedet for at tillade dynamisk input fra brugere eller AI-genereret indhold.
- Konfigurer Data Loss Prevention (DLP)-politikker i Power Platform Admin Center for at blokere Outlook-forbindelsen for agenter, der ikke bør være autoriseret til at sende e-mail.
- Valider, at kun godkendte agenter har e-mail-sendeevner aktiveret efter ændringerne.
Compliance
- Andet (intern sikkerhedsbaseline)