AI agents should not send email with AI-controlled inputs
Dlaczego to jest ważne
Agenci AI nie powinni mieć nieograniczonej możliwości wysyłania wiadomości e-mail z treścią generowaną przez AI lub pod wpływem danych wprowadzonych przez użytkownika. Bez odpowiednich zabezpieczeń agent może zostać zmanipulowany w celu wysyłania nieautoryzowanych wiadomości, potencjalnie wyciekających poufne dane lub uruchamiających kampanie phishingowe. Administratorzy IT muszą zapewnić, że możliwości wysyłania wiadomości są ściśle kontrolowane, aby zapobiec nadużyciom.
Co sprawdza Aether365
To sprawdzenie skanuje wszystkich agentów Copilot Studio skonfigurowanych w Twojej dzierżawie Microsoft 365 pod kątem narzędzi do wysyłania wiadomości e-mail, w których pole odbiorcy, tematu lub treści jest dynamicznie kontrolowane przez treści generowane przez AI. Wynik tego sprawdzenia zobaczysz w panelu Aether365 w sekcji Microsoft 365 checks.