AI agents should not send email with AI-controlled inputs
De ce este important
Agenții AI nu ar trebui să aibă capacitatea nelimitată de a trimite e-mailuri cu conținut generat de AI sau influențat de contribuția utilizatorului. Fără controale adecvate, un agent poate fi manipulat pentru a trimite e-mailuri neautorizate, putând astfel exfiltra date sensibile sau lansa campanii de tip phishing. Administratorii IT trebuie să se asigure că capacitățile de trimitere a e-mailurilor sunt strict guvernate pentru a preveni abuzurile.
Ce verifică Aether365
Această verificare scanează toți agenții Copilot Studio configurați în entitatea dvs. Microsoft 365 pentru unelte de trimitere e-mailuri în care câmpurile destinatar, subiect sau corp sunt controlate dinamic de conținut generat de AI. Veți găsi această constatare în tabloul de bord Aether365, sub secțiunea microsoft-365 checks.
Cum să remediați
- Examinați fiecare agent Copilot Studio din mediul dvs. și identificați-i pe cei care au unelte de trimitere e-mailuri.
- Pentru agenții care nu au o necesitate legitimă de afaceri de a trimite e-mailuri, eliminați complet unealta de trimitere e-mailuri din configurația acestora.
- Pentru agenții care necesită capacități de e-mail, restricționați destinatarii la o listă fixă, predefinită, în loc să permiteți contribuția dinamică din partea utilizatorilor sau conținut generat de AI.
- Configurați politici de prevenire a pierderii datelor (Data Loss Prevention - DLP) în Power Platform Admin Center pentru a bloca conectorul Outlook pentru agenții care nu ar trebui autorizați să trimită e-mailuri.
- Validați că doar agenții aprobați au activată capacitatea de trimitere a e-mailurilor după efectuarea modificărilor.
Conformitate
- Altele (linie de bază de securitate internă)