AI agents should not send email with AI-controlled inputs

Miksi tällä on merkitystä

Keinoälyagenttien ei tulisi pystyä rajoituksetta lähettämään sähköposteja, joiden sisältö on tekoälyn tuottamaa tai käyttäjän syötteen vaikuttamaa. Ilman asianmukaisia hallintakeinoja agenttia voidaan manipuloida lähettämään luvattomia sähköposteja, mikä voi johtaa arkaluonteisten tietojen luvattomaan siirtoon tai tietojenkalasteluhyökkäyksiin. IT-järjestelmänvalvojien on varmistettava, että sähköpostin lähetysominaisuuksia hallitaan tiukasti väärinkäytön estämiseksi.

Mitä Aether365 tarkistaa

Tämä tarkistus skannaa kaikki Microsoft 365 -vuokraajassasi määritetyt Copilot Studio -agentit ja tunnistaa sähköpostin lähetystyökalut, joissa vastaanottaja-, aihe- tai sisältökenttää ohjataan dynaamisesti tekoälyn tuottaman sisällön perusteella. Näet tämän havainnon Aether365-hallintapaneelissa microsoft-365-tarkistusosion alla.

Korjausohjeet

1. Tarkista jokainen Copilot Studio -agentti ympäristössäsi ja tunnista ne, joilla on sähköpostin lähetystyökaluja.
2. Poista sähköpostin lähetystyökalu kokonaan agentin määrityksistä niiltä agenteilta, joilla ei ole liiketoiminnallista tarvetta lähettää sähköpostia.
3. Rajoita sellaisten agenttien osalta, jotka tarvitsevat sähköpostiominaisuuksia, vastaanottajat kiinteään, ennalta määritettyyn luetteloon sen sijaan, että sallisit dynaamisen syötteen käyttäjiltä tai tekoälyn tuottamasta sisällöstä.
4. Määritä tietojen häviämisen estämisen (Data Loss Prevention, DLP) käytännöt Power Platform Admin Centerissä estämään Outlook-yhdistimen käyttö niiltä agenteilta, joilla ei pitäisi olla oikeutta lähettää sähköpostia.
5. Varmista muutosten jälkeen, että vain hyväksytyillä agenteilla on sähköpostin lähetysominaisuudet käytössä.

Vaatimustenmukaisuus

• Muu (sisäinen tietoturvan perustaso)

Aiheeseen liittyvät resurssit

• Määritä tietokäytäntöjä agenteille

Microsoft references

• Admin data loss prevention
• Security top 10