AI agents should not send email with AI-controlled inputs
Zakaj je to pomembno
Agenti umetne inteligence ne smejo imeti neomejene možnosti pošiljanja e-pošte z vsebino, ustvarjeno s strani umetne inteligence ali pod vplivom uporabniških vnosov. Brez ustreznih kontrol bi lahko agenta zlorabili za pošiljanje nepooblaščenih e-poštnih sporočil, kar bi lahko povzročilo odtekanje občutljivih podatkov ali izvajanje lažnih napadov. Skrbniki IT morajo zagotoviti, da so zmožnosti pošiljanja e-pošte strogo urejene, da se prepreči zloraba.
Kaj preverja Aether365
To preverjanje skenira vse agente Copilot Studio, konfigurirane v vašem najemniku Microsoft 365, za orodja za pošiljanje e-pošte, kjer so polja prejemnika, zadeve ali telesa dinamično nadzorovana s strani vsebine, ustvarjene z umetno inteligenco. To ugotovitev boste videli v nadzorni plošči Aether365 v razdelku preverjanj microsoft-365.
Kako odpraviti težavo
- Preglejte vsakega agenta Copilot Studio v vašem okolju in identificirajte tiste z orodji za pošiljanje e-pošte.
- Za agente, ki nimajo legitimne poslovne potrebe po pošiljanju e-pošte, popolnoma odstranite orodje za pošiljanje e-pošte iz konfiguracije agenta.
- Za agente, ki zahtevajo zmožnosti e-pošte, omejite prejemnike na fiksni, vnaprej določeni seznam, namesto da dovolite dinamični vnos uporabnikov ali vsebine, ustvarjene z umetno inteligenco.
- Konfigurirajte pravilnike za preprečevanje izgube podatkov (DLP) v skrbniškem središču Power Platform Admin Center, da blokirate povezovalnik Outlook za agente, ki ne bi smeli biti pooblaščeni za pošiljanje e-pošte.
- Po spremembah preverite, da imajo samo odobreni agenti omogočene zmožnosti pošiljanja e-pošte.
Skladnost
- Drugo (notranja varnostna osnova)