AI agents should not send email with AI-controlled inputs
De ce este important
Agenții AI nu ar trebui să aibă capacitatea nelimitată de a trimite e-mailuri cu conținut generat de AI sau influențat de contribuția utilizatorului. Fără controale adecvate, un agent poate fi manipulat pentru a trimite e-mailuri neautorizate, putând astfel exfiltra date sensibile sau lansa campanii de tip phishing. Administratorii IT trebuie să se asigure că capacitățile de trimitere a e-mailurilor sunt strict guvernate pentru a preveni abuzurile.
Ce verifică Aether365
Această verificare scanează toți agenții Copilot Studio configurați în entitatea dvs. Microsoft 365 pentru unelte de trimitere e-mailuri în care câmpurile destinatar, subiect sau corp sunt controlate dinamic de conținut generat de AI. Veți găsi această constatare în tabloul de bord Aether365, sub secțiunea microsoft-365 checks.