AI agents with generative orchestration should have custom instructions

Miks See Oluline On

AI agendid generatiivse orkestreerimisega võivad kasutajate päringuid laialt tõlgendada, mis võib hälbida teie organisatsiooni kavandatud ulatusest või turvapiiridest. Ilma kohandatud juhisteta võivad need agendid paljastada tundlikku teavet, sooritada volitamata toiminguid või jätta prompt injection-katsed tagasi lükkamata. Selgete juhiste olemasolu tagamine hoiab ära väärkasutuse ja säilitab kontrolli automatiseeritud töövoogude üle.

Mida Aether365 Kontrollib

Aether365 kontrollib, kas igal Copilot Studio agendil, mis kasutab generatiivset orkestreerimist, on konfigureeritud kohandatud juhised. See kontroll kuvatakse teie Aether365 armatuurlaual microsoft-365 teenuste kontrollide all reeglina AE.1121.

Kuidas Parandada

1. Logige sisse Copilot Studiosse ja minge agentide loendisse.
2. Valige iga märgitud agent, et avada selle konfiguratsioon.
3. Leidke kohandatud juhiste jaotis ning määratlege agendi eesmärk, piirid ja käitumispiirangud.
4. Lisage vähemalt teave selle kohta, mida agent tohib teha, millised teemad on keelatud ning kuidas peaks käituma katsete korral selle juhiseid üle kirjutada.
5. Salvestage muudatused ja avaldage agent uuesti, kui vaja.

Vastavus

See kontroll ei ole otseselt seotud ühegi konkreetse vastavusraamistikuga, kuid ühtib üldiste turbe parimate tavadega AI haldamisel. Ühtegi konkreetset raamistikku või viidet ei kohaldata.

Seotud Ressursid

Looge ja muutke kohandatud juhiseid

Microsoft references

• Authoring instructions
• Security top 10