AI agents with generative orchestration should have custom instructions

Dlaczego to jest ważne

Agenci AI z generatywną orkiestracją mogą szeroko interpretować zapytania użytkowników, potencjalnie wykraczając poza zamierzony zakres lub granice bezpieczeństwa organizacji. Bez niestandardowych instrukcji agenci ci mogą ujawnić wrażliwe informacje, wykonywać nieautoryzowane czynności lub nie odrzucać prób iniekcji promptów. Zapewnienie jasnych wytycznych zapobiega nadużyciom i pozwala zachować kontrolę nad zautomatyzowanymi przepływami pracy.

Co sprawdza Aether365

Aether365 weryfikuje, czy każdy agent Copilot Studio korzystający z generatywnej orkiestracji ma skonfigurowane niestandardowe instrukcje. To sprawdzenie pojawia się w panelu Aether365 w ramach kontroli usługi microsoft-365 jako reguła AE.1121.

Jak naprawić

1. Zaloguj się do Copilot Studio i przejdź do listy agentów.
2. Wybierz każdego oznaczonego agenta, aby otworzyć jego konfigurację.
3. Znajdź sekcję niestandardowych instrukcji i zdefiniuj cel agenta, jego granice oraz ograniczenia behawioralne.
4. W minimalnym zakresie określ, co agent może robić, które tematy są wykluczone oraz jak powinien obsługiwać próby nadpisania swoich instrukcji.
5. Zapisz zmiany i opublikuj ponownie agenta, jeśli to konieczne.

Zgodność

To sprawdzenie nie jest bezpośrednio powiązane z konkretnymi ramami zgodności, ale jest zgodne z ogólnymi najlepszymi praktykami bezpieczeństwa w zakresie zarządzania AI. Nie mają zastosowania żadne konkretne ramy ani odniesienia.

Powiązane zasoby

Create and edit custom instructions

Microsoft references

• Authoring instructions
• Security top 10