AI agents should not send email with AI-controlled inputs
Warum dies wichtig ist
KI-Agenten sollten keine uneingeschränkte Möglichkeit haben, E-Mails mit KI-generierten oder durch Benutzereingaben beeinflussten Inhalten zu versenden. Ohne angemessene Kontrollen könnte ein Agent manipuliert werden, um unbefugte E-Mails zu versenden, wodurch möglicherweise vertrauliche Daten exfiltriert oder Phishing-Kampagnen gestartet werden könnten. IT-Administratoren müssen sicherstellen, dass die E-Mail-Versandfähigkeiten streng kontrolliert werden, um Missbrauch zu verhindern.
Was Aether365 prüft
Diese Prüfung durchsucht alle in Ihrem Microsoft 365-Mandanten konfigurierten Copilot Studio-Agenten nach E-Mail-Versandtools, bei denen das Empfänger-, Betreff- oder Textfeld dynamisch durch KI-generierte Inhalte gesteuert wird. Sie finden dieses Ergebnis im Aether365-Dashboard unter dem Bereich microsoft-365-Prüfungen.
So beheben Sie das Problem
- Überprüfen Sie jeden Copilot Studio-Agenten in Ihrer Umgebung und identifizieren Sie diejenigen mit E-Mail-Versandtools.
- Entfernen Sie bei Agenten ohne legitimen geschäftlichen Bedarf zum Versenden von E-Mails das E-Mail-Versandtool vollständig aus der Konfiguration des Agenten.
- Beschränken Sie bei Agenten, die E-Mail-Funktionen benötigen, die Empfänger auf eine feste, vordefinierte Liste, anstatt dynamische Eingaben von Benutzern oder KI-generierte Inhalte zuzulassen.
- Konfigurieren Sie Data Loss Prevention (DLP)-Richtlinien im Power Platform Admin Center, um den Outlook-Connector für Agenten zu blockieren, die nicht zum Versenden von E-Mails autorisiert werden sollten.
- Überprüfen Sie nach der Änderung, ob nur genehmigte Agenten über aktivierte E-Mail-Versandfunktionen verfügen.
Compliance
- Sonstige (interne Sicherheitsrichtlinie)