AI agents should not send email with AI-controlled inputs
Miksi tällä on merkitystä
Keinoälyagenttien ei tulisi pystyä rajoituksetta lähettämään sähköposteja, joiden sisältö on tekoälyn tuottamaa tai käyttäjän syötteen vaikuttamaa. Ilman asianmukaisia hallintakeinoja agenttia voidaan manipuloida lähettämään luvattomia sähköposteja, mikä voi johtaa arkaluonteisten tietojen luvattomaan siirtoon tai tietojenkalasteluhyökkäyksiin. IT-järjestelmänvalvojien on varmistettava, että sähköpostin lähetysominaisuuksia hallitaan tiukasti väärinkäytön estämiseksi.
Mitä Aether365 tarkistaa
Tämä tarkistus skannaa kaikki Microsoft 365 -vuokraajassasi määritetyt Copilot Studio -agentit ja tunnistaa sähköpostin lähetystyökalut, joissa vastaanottaja-, aihe- tai sisältökenttää ohjataan dynaamisesti tekoälyn tuottaman sisällön perusteella. Näet tämän havainnon Aether365-hallintapaneelissa microsoft-365-tarkistusosion alla.