AI agents should not send email with AI-controlled inputs
Zakaj je to pomembno
Agenti umetne inteligence ne smejo imeti neomejene možnosti pošiljanja e-pošte z vsebino, ustvarjeno s strani umetne inteligence ali pod vplivom uporabniških vnosov. Brez ustreznih kontrol bi lahko agenta zlorabili za pošiljanje nepooblaščenih e-poštnih sporočil, kar bi lahko povzročilo odtekanje občutljivih podatkov ali izvajanje lažnih napadov. Skrbniki IT morajo zagotoviti, da so zmožnosti pošiljanja e-pošte strogo urejene, da se prepreči zloraba.
Kaj preverja Aether365
To preverjanje skenira vse agente Copilot Studio, konfigurirane v vašem najemniku Microsoft 365, za orodja za pošiljanje e-pošte, kjer so polja prejemnika, zadeve ali telesa dinamično nadzorovana s strani vsebine, ustvarjene z umetno inteligenco. To ugotovitev boste videli v nadzorni plošči Aether365 v razdelku preverjanj microsoft-365.