AI agents with generative orchestration should have custom instructions
Kodėl tai svarbu
Dirbtinio intelekto agentai, naudojantys generatyvinę orkestravimo funkciją, gali plačiai interpretuoti vartotojų užklausas, galimai nukrypdami nuo jūsų organizacijos numatytos apimties ar saugumo ribų. Be tinkintų instrukcijų šie agentai gali atskleisti neskelbtiną informaciją, atlikti neleistinus veiksmus arba nesugebėti atmesti prompt injection bandymų. Aiškių nurodymų užtikrinimas apsaugo nuo piktnaudžiavimo ir leidžia išlaikyti automatizuotų darbo eigų kontrolę.
Ką tikrina „Aether365“
„Aether365" patikrina, ar kiekvienas „Copilot Studio" agentas, naudojantis generatyvinę orkestravimo funkciją, turi sukonfigūruotas tinkintas instrukcijas. Šis patikrinimas rodomas jūsų „Aether365" ataskaitų suvestinėje, po microsoft-365 paslaugų patikrinimais, kaip taisyklė AE.1121.
Kaip ištaisyti
- Prisijunkite prie „Copilot Studio" ir pereikite į agentų sąrašą.
- Pasirinkite kiekvieną pažymėtą agentą, kad atidarytumėte jo konfigūraciją.
- Raskite tinkintų instrukcijų skyrių ir apibrėžkite agento paskirtį, ribas ir elgesio apribojimus.
- Mažiausiai nurodykite, ką agentui leidžiama daryti, kurios temos neleistinos ir kaip jis turėtų elgtis bandant pakeisti jo instrukcijas.
- Išsaugokite pakeitimus ir, jei reikia, iš naujo paskelbkite agentą.
Atitiktis
Šis patikrinimas tiesiogiai neatitinka jokios konkrečios atitikties sistemos, tačiau dera su bendromis saugos geriausiomis praktikomis, skirtomis dirbtinio intelekto valdymui. Jokių konkrečių sistemų ar nuorodų netaikoma.
Susiję ištekliai
Create and edit custom instructions