AI agents should not send email with AI-controlled inputs
Dlaczego to jest ważne
Agenci AI nie powinni mieć nieograniczonej możliwości wysyłania wiadomości e-mail z treścią generowaną przez AI lub pod wpływem danych wprowadzonych przez użytkownika. Bez odpowiednich zabezpieczeń agent może zostać zmanipulowany w celu wysyłania nieautoryzowanych wiadomości, potencjalnie wyciekających poufne dane lub uruchamiających kampanie phishingowe. Administratorzy IT muszą zapewnić, że możliwości wysyłania wiadomości są ściśle kontrolowane, aby zapobiec nadużyciom.
Co sprawdza Aether365
To sprawdzenie skanuje wszystkich agentów Copilot Studio skonfigurowanych w Twojej dzierżawie Microsoft 365 pod kątem narzędzi do wysyłania wiadomości e-mail, w których pole odbiorcy, tematu lub treści jest dynamicznie kontrolowane przez treści generowane przez AI. Wynik tego sprawdzenia zobaczysz w panelu Aether365 w sekcji Microsoft 365 checks.
Jak naprawić
- Przejrzyj każdego agenta Copilot Studio w swoim środowisku i zidentyfikuj tych, którzy mają narzędzia do wysyłania wiadomości e-mail.
- Dla agentów, którzy nie mają uzasadnionego biznesowego potrzeby wysyłania wiadomości, usuń narzędzie do wysyłania e-mail w całości z konfiguracji agenta.
- Dla agentów, którzy wymagają możliwości wysyłania wiadomości, ogranicz odbiorców do stałej, predefiniowanej listy zamiast zezwalać na dynamiczne dane wejściowe od użytkowników lub treści generowane przez AI.
- Skonfiguruj zasady Data Loss Prevention (DLP) w Power Platform Admin Center, aby zablokować łącznik Outlook dla agentów, którzy nie powinni być upoważnieni do wysyłania wiadomości e-mail.
- Po wprowadzeniu zmian sprawdź, czy tylko zatwierdzeni agenci mają włączone możliwości wysyłania wiadomości e-mail.
Zgodność
- Inne (wewnętrzna linia bazowa zabezpieczeń)