AI agents should not send email with AI-controlled inputs
Kodėl tai svarbu
Dirbtinio intelekto agentai neturėtų turėti neribotos galimybės siųsti el. laiškus su AI sugeneruotu ar vartotojo įvestimi paremtu turiniu. Be tinkamų kontrolės priemonių agentas gali būti manipuliuojamas siųsti neleistinus el. laiškus, potencialiai išnaudojant jautrius duomenis ar vykdant sukčiavimo kampanijas. IT administratoriai turi užtikrinti, kad el. pašto siuntimo galimybės būtų griežtai valdomos siekiant išvengti piktnaudžiavimo.
Ką tikrina Aether365
Šis patikrinimas nuskaito visus jūsų Microsoft 365 nuomotoje sukonfigūruotus Copilot Studio agentus, ieškodamas el. pašto siuntimo įrankių, kuriuose gavėjo, temos ar turinio lauką dinamiškai valdo AI sukurtas turinys. Šį radinį pamatysite Aether365 valdymo skydelyje po skilties microsoft-365 patikros.
Kaip ištaisyti
- Peržiūrėkite kiekvieną Copilot Studio agentą savo aplinkoje ir nustatykite tuos, kurie turi el. pašto siuntimo įrankius.
- Agentams, neturintiems teisėto verslo poreikio siųsti el. laiškus, visiškai pašalinkite el. pašto siuntimo įrankį iš agento konfigūracijos.
- Agentams, kuriems reikalingos el. pašto galimybės, apribokite gavėjus iki fiksuoto iš anksto nustatyto sąrašo, o ne leiskite dinaminį įvestį iš vartotojų ar AI sukurto turinio.
- Sukonfigūruokite duomenų apsaugos nuo nutekėjimo (DLP) strategijas Power Platform Admin Center, kad blokuotumėte Outlook jungtį agentams, kurie neturėtų būti įgalioti siųsti el. laiškus.
- Po pakeitimų patvirtinkite, kad tik patvirtinti agentai turi įgalintas el. pašto siuntimo galimybes.
Atitiktis
- Kita (vidinis saugumo lygio atskaitos taškas)