AI agents should not send email with AI-controlled inputs
Waarom Dit Belangrijk Is
AI-agents mogen niet onbeperkt e-mails kunnen versturen met door AI gegenereerde of door gebruikersinvoer beïnvloede inhoud. Zonder adequate controles kan een agent worden gemanipuleerd om ongeautoriseerde e-mails te versturen, waarmee mogelijk gevoelige gegevens worden geëxfiltreerd of phishingcampagnes worden gestart. IT-beheerders moeten ervoor zorgen dat e-mailmogelijkheden strikt worden beheerd om misbruik te voorkomen.
Wat Aether365 Controleert
Deze controle scant alle Copilot Studio agents die in uw Microsoft 365-tenant zijn geconfigureerd op e-mailhulpmiddelen waarbij de ontvanger, het onderwerp of de inhoud dynamisch wordt bepaald door AI-gegenereerde inhoud. U ziet deze bevinding in het Aether365-dashboard onder het gedeelte microsoft-365 checks.
Hoe Op Te Lossen
- Doorloop elke Copilot Studio agent in uw omgeving en identificeer welke e-mailhulpmiddelen gebruiken.
- Verwijder voor agents die geen legitieme zakelijke reden hebben om e-mail te versturen het e-mailhulpmiddel volledig uit de configuratie van de agent.
- Beperk voor agents die e-mailmogelijkheden nodig hebben de ontvangers tot een vaste, vooraf gedefinieerde lijst in plaats van dynamische invoer van gebruikers of AI-gegenereerde inhoud toe te staan.
- Configureer Data Loss Prevention (DLP)-beleid in de Power Platform Admin Center om de Outlook-connector te blokkeren voor agents die niet gemachtigd mogen zijn om e-mail te versturen.
- Valideer dat alleen goedgekeurde agents na het aanbrengen van wijzigingen e-mailmogelijkheden hebben ingeschakeld.
Naleving
- Overig (interne beveiligingsbasislijn)