AI agents with generative orchestration should have custom instructions
Hvorfor Dette Er Viktig
AI-agenter med generativ orkestrering kan tolke brukerforespørsler bredt, noe som potensielt kan avvike fra organisasjonens tiltenkte omfang eller sikkerhetsgrenser. Uten egendefinerte instruksjoner kan disse agentene eksponere sensitiv informasjon, utføre uautoriserte handlinger, eller unnlate å avvise prompt injection-forsøk. Å sikre at klare retningslinjer er på plass, forhindrer misbruk og opprettholder kontroll over automatiserte arbeidsflyter.
Hva Aether365 Sjekker
Aether365 verifiserer om hver Copilot Studio-agent som bruker generativ orkestrering har egendefinerte instruksjoner konfigurert. Denne sjekken vises i Aether365-dashbordet under microsoft-365-tjenestesjekkene som regel AE.1121.
Slik Fikser Du Det
- Logg inn i Copilot Studio og naviger til listen over agenter.
- Velg hver flagget agent for å åpne konfigurasjonen.
- Finn delen for egendefinerte instruksjoner og definer agentens formål, grenser og atferdsbegrensninger.
- Inkluder som et minimum hva agenten har lov til å gjøre, hvilke emner som er utenfor rekkevidde, og hvordan den skal håndtere forsøk på å overstyre instruksjonene.
- Lagre endringene og publiser agenten på nytt om nødvendig.
Samsvar
Denne sjekken kartlegger ikke direkte til et spesifikt samsvarsrammeverk, men den er i tråd med generelle sikkerhetsbeste praksiser for AI-styring. Ingen spesifikke rammeverk eller referanser er relevante.
Relaterte Ressurser
Opprett og rediger egendefinerte instruksjoner