AI agents with generative orchestration should have custom instructions
Proč na tom záleží
Agenti AI s generativní orchestrací dokážou interpretovat požadavky uživatelů volně, což může vést k odchylkám od zamýšleného rozsahu nebo bezpečnostních hranic vaší organizace. Bez vlastních pokynů by tito agenti mohli odhalovat citlivé informace, provádět neoprávněné akce nebo nedokázat odmítnout pokusy o prompt injection. Zajištění jasného vedení zabraňuje zneužití a udržuje kontrolu nad automatizovanými pracovními postupy.
Co Aether365 kontroluje
Aether365 ověřuje, zda má každý agent aplikace Copilot Studio využívající generativní orchestraci nakonfigurovány vlastní pokyny. Tato kontrola se ve vašem dashboardu Aether365 zobrazuje v rámci kontrol služby microsoft-365 jako pravidlo AE.1121.
Jak to opravit
- Přihlaste se do Copilot Studio a přejděte do seznamu agentů.
- Vyberte každého označeného agenta a otevřete jeho konfiguraci.
- Vyhledejte sekci vlastních pokynů a definujte účel agenta, jeho hranice a omezení chování.
- Minimálně uveďte, co smí agent dělat, která témata jsou zakázána a jak by měl nakládat s pokusy o přepsání jeho pokynů.
- Uložte změny a v případě potřeby agenta znovu publikujte.
Soulad
Tato kontrola není přímo mapována na konkrétní rámec souladu, ale je v souladu s obecnými bezpečnostními osvědčenými postupy pro správu AI. Nejsou použitelné žádné konkrétní rámce ani reference.
Související zdroje
Vytváření a úprava vlastních pokynů