AI agents should not send email with AI-controlled inputs

Perché è Importante

Gli agenti AI non dovrebbero avere la possibilità illimitata di inviare email con contenuti generati dall'AI o influenzati dall'input dell'utente. Senza controlli adeguati, un agente potrebbe essere manipolato per inviare email non autorizzate, potenzialmente esfiltrando dati sensibili o avviando campagne di phishing. Gli amministratori IT devono garantire che le capacità di invio email siano rigorosamente controllate per prevenire abusi.

Cosa Controlla Aether365

Questo controllo esamina tutti gli agenti Copilot Studio configurati nel tenant Microsoft 365 alla ricerca di strumenti di invio email in cui il destinatario, l'oggetto o il corpo del messaggio sono controllati dinamicamente da contenuti generati dall'AI. Questo risultato apparirà nel dashboard di Aether365 nella sezione dei controlli microsoft-365.

Come Risolvere

1. Esaminare ogni agente Copilot Studio nell'ambiente e identificare quelli dotati di strumenti di invio email.
2. Per gli agenti che non hanno una necessità aziendale legittima di inviare email, rimuovere completamente lo strumento di invio email dalla configurazione dell'agente.
3. Per gli agenti che richiedono funzionalità di posta elettronica, limitare i destinatari a un elenco predefinito fisso anziché consentire input dinamico da parte degli utenti o contenuti generati dall'AI.
4. Configurare i criteri di Data Loss Prevention (DLP) nel Power Platform Admin Center per bloccare il connettore Outlook per gli agenti che non dovrebbero essere autorizzati a inviare email.
5. Verificare che solo gli agenti approvati abbiano le capacità di invio email abilitate dopo aver apportato le modifiche.

Conformità

• Altro (baseline di sicurezza interna)

Risorse Correlate

• Configurare i criteri dati per gli agenti

Microsoft references

• Admin data loss prevention
• Security top 10