AI agents should not send email with AI-controlled inputs
Чому це важливо
Агенти на основі штучного інтелекту не повинні мати необмежену здатність надсилати електронні листи з вмістом, створеним AI або під впливом введених користувачем даних. Без належного контролю агент може бути використаний для надсилання несанкціонованих листів, що потенційно призведе до витоку конфіденційних даних або запуску фішингових кампаній. ІТ-адміністратори повинні забезпечити жорстке регулювання можливостей надсилання електронних листів для запобігання зловживанням.
Що перевіряє Aether365
Ця перевірка сканує всі агенти Copilot Studio, налаштовані у вашому Microsoft 365 tenant, на наявність інструментів для надсилання електронних листів, де поле одержувача, теми або вмісту динамічно контролюється вмістом, згенерованим AI. Ви побачите цей висновок на панелі моніторингу Aether365 у розділі перевірок microsoft-365.