AI agents with generative orchestration should have custom instructions
Hvorfor dette er vigtigt
AI-agenter med generativ orkestrering kan fortolke brugeranmodninger bredt, hvilket potentielt kan afvige fra din organisations tilsigtede omfang eller sikkerhedsgrænser. Uden brugerdefinerede instruktioner kan disse agenter udsætte følsomme oplysninger, udføre uautoriserede handlinger eller undlade at afvise prompt injection-forsøg. At sikre tydelig vejledning på plads forhindrer misbrug og opretholder kontrol over automatiserede arbejdsprocesser.
Hvad Aether365 kontrollerer
Aether365 verificerer, om hver Copilot Studio-agent, der bruger generativ orkestrering, har konfigureret brugerdefinerede instruktioner. Denne kontrol vises i dit Aether365-dashboard under microsoft-365-servicekontrollerne som regel AE.1121.
Sådan udbedres
- Log ind på Copilot Studio, og naviger til listen over agenter.
- Vælg hver markeret agent for at åbne dens konfiguration.
- Find sektionen med brugerdefinerede instruktioner, og definer agentens formål, grænser og adfærdsmæssige begrænsninger.
- Inkluder som minimum, hvad agenten har tilladelse til at gøre, hvilke emner der er forbudte, og hvordan den skal håndtere forsøg på at tilsidesætte dens instruktioner.
- Gem ændringerne, og genudgiv agenten om nødvendigt.
Overholdelse
Denne kontrol kortlægges ikke direkte til en specifik overholdelsesramme, men den er i overensstemmelse med generelle sikkerhedsbedste praksisser for AI-styring. Ingen specifikke rammer eller referencer er anvendelige.
Relaterede ressourcer
Opret og rediger brugerdefinerede instruktioner