AI agents with generative orchestration should have custom instructions
Zakaj je to pomembno
Agenti umetne inteligence z generativno orkestracijo lahko široko interpretirajo uporabniške zahteve in s tem potencialno odstopajo od predvidenega obsega ali varnostnih meja vaše organizacije. Brez prilagojenih navodil lahko ti agenti razkrijejo občutljive informacije, izvedejo nepooblaščena dejanja ali ne uspejo zavrniti poskusov vbrizgavanja pozivov. Zagotavljanje jasnih smernic preprečuje zlorabe in ohranja nadzor nad avtomatiziranimi poteki dela.
Kaj preverja Aether365
Aether365 preveri, ali ima vsak agent Copilot Studio, ki uporablja generativno orkestracijo, konfigurirana prilagojena navodila. To preverjanje je prikazano na nadzorni plošči Aether365 pod preverjanji storitve microsoft-365 kot pravilo AE.1121.
Kako odpraviti
- Prijavite se v Copilot Studio in pojdite na seznam agentov.
- Izberite vsakega označenega agenta, da odprete njegovo konfiguracijo.
- Poiščite razdelek s prilagojenimi navodili in določite namen, meje in vedenjske omejitve agenta.
- Vsaj vključite, kaj agent sme početi, katere teme so prepovedane in kako naj obravnava poskuse spreminjanja njegovih navodil.
- Shranite spremembe in po potrebi ponovno objavite agenta.
Skladnost s predpisi
To preverjanje se ne nanaša neposredno na določen okvir skladnosti, vendar je usklajeno s splošnimi varnostnimi najboljšimi praksami za upravljanje umetne inteligence. Nobeni posebni okviri ali reference niso uporabni.
Povezani viri
Ustvarjanje in urejanje prilagojenih navodil