AI agents with generative orchestration should have custom instructions
De ce este important
Agenții AI cu orchestrare generativă pot interpreta în mod larg solicitările utilizatorilor, putând devia de la scopul intenționat sau de la limitele de securitate ale organizației dumneavoastră. Fără instrucțiuni personalizate, acești agenți ar putea expune informații sensibile, efectua acțiuni neautorizate sau nu ar reuși să respingă tentativele de tip "prompt injection". Asigurarea unor instrucțiuni clare previne utilizarea abuzivă și menține controlul asupra fluxurilor de lucru automatizate.
Ce verifică Aether365
Aether365 verifică dacă fiecare agent Copilot Studio care utilizează orchestrare generativă are configurate instrucțiuni personalizate. Această verificare apare în tabloul de bord Aether365, la secțiunea microsoft-365, sub regula AE.1121.
Cum se remediază
- Conectați-vă la Copilot Studio și navigați la lista de agenți.
- Selectați fiecare agent marcat pentru a deschide configurația acestuia.
- Localizați secțiunea de instrucțiuni personalizate și definiți scopul, limitele și constrângerile comportamentale ale agentului.
- Cel puțin, includeți ce are voie să facă agentul, ce subiecte sunt interzise și cum ar trebui să gestioneze tentativele de a-i suprascrie instrucțiunile.
- Salvați modificările și republicați agentul, dacă este necesar.
Conformitate
Această verificare nu se aliniază direct la un cadru de conformitate specific, dar corespunde practicilor generale de securitate recomandate pentru guvernanța AI. Nu sunt aplicabile cadre sau referințe specifice.
Resurse conexe
Create and edit custom instructions