AI agents should not send email with AI-controlled inputs
Miks see on oluline
AI agentidel ei tohiks olla piiramatut õigust saata e-kirju, mille sisu on loodud AI poolt või mõjutatud kasutaja sisendist. Ilma nõuetekohaste piiranguteta võidakse agenti manipuleerida saatma volitamata e-kirju, mis võib viia tundlike andmete lekkimiseni või rämpspostikampaaniate korraldamiseni. IT-administraatorid peavad tagama, et e-kirjade saatmise võimalused on rangelt reguleeritud, et vältida väärkasutust.
Mida Aether365 kontrollib
See kontroll skannib kõiki teie Microsoft 365 rentnikus konfigureeritud Copilot Studio agente, otsides e-kirjade saatmise tööriistu, kus saaja, teema või kirja sisu väli on dünaamiliselt juhitud AI loodud sisu poolt. Te näete seda tulemust Aether365 töölaual jaotises microsoft-365 kontrollid.
Kuidas parandada
- Vaadake üle iga Copilot Studio agent oma keskkonnas ja tuvastage need, millel on e-kirjade saatmise tööriistad.
- Agentide puhul, kellel ei ole õigustatud ärivajadust e-kirju saata, eemaldage e-kirjade saatmise tööriist täielikult agendi konfiguratsioonist.
- Agentide puhul, kes vajavad e-kirjade saatmise võimalust, kitsendage saajad fikseeritud eelnevalt määratletud loendiga, selle asemel et lubada dünaamilist sisestust kasutajatelt või AI loodud sisult.
- Konfigureerige andmekao vältimise (DLP) reeglid Power Platform Admin Center'is, et blokeerida Outlooki konnektor agentidele, kellel ei tohiks olla volitust e-kirju saata.
- Pärast muudatuste tegemist kontrollige, et ainult kinnitatud agentidel on e-kirjade saatmise võimalused lubatud.
Vastavus
- Muu (sisemine turvalisuse baastase)