AI agents should not send email with AI-controlled inputs
Kodėl tai svarbu
Dirbtinio intelekto agentai neturėtų turėti neribotos galimybės siųsti el. laiškus su AI sugeneruotu ar vartotojo įvestimi paremtu turiniu. Be tinkamų kontrolės priemonių agentas gali būti manipuliuojamas siųsti neleistinus el. laiškus, potencialiai išnaudojant jautrius duomenis ar vykdant sukčiavimo kampanijas. IT administratoriai turi užtikrinti, kad el. pašto siuntimo galimybės būtų griežtai valdomos siekiant išvengti piktnaudžiavimo.
Ką tikrina Aether365
Šis patikrinimas nuskaito visus jūsų Microsoft 365 nuomotoje sukonfigūruotus Copilot Studio agentus, ieškodamas el. pašto siuntimo įrankių, kuriuose gavėjo, temos ar turinio lauką dinamiškai valdo AI sukurtas turinys. Šį radinį pamatysite Aether365 valdymo skydelyje po skilties microsoft-365 patikros.