AI agents with generative orchestration should have custom instructions
Kāpēc tas ir svarīgi
Mākslīgā intelekta aģenti ar ģeneratīvo orķestrāciju var plaši interpretēt lietotāju pieprasījumus, potenciāli atkāpjoties no jūsu organizācijas noteiktā darbības apjoma vai drošības robežām. Bez pielāgotiem norādījumiem šie aģenti var atklāt sensitīvu informāciju, veikt neatļautas darbības vai nespēt noraidīt prompt injection uzbrukumus. Skaidru norādījumu nodrošināšana novērš nepareizu izmantošanu un saglabā kontroli pār automatizētajām darbplūsmām.
Ko pārbauda Aether365
Aether365 pārbauda, vai katram Copilot Studio aģentam, kas izmanto ģeneratīvo orķestrāciju, ir konfigurēti pielāgoti norādījumi. Šī pārbaude ir redzama jūsu Aether365 informācijas panelī zem microsoft-365 pakalpojumu pārbaužu kategorijas ar kodu AE.1121.
Kā novērst problēmu
- Piesakieties Copilot Studio un dodieties uz aģentu sarakstu.
- Atlasiet katru atzīmēto aģentu, lai atvērtu tā konfigurāciju.
- Atrodiet pielāgoto norādījumu sadaļu un definējiet aģenta mērķi, robežas un uzvedības ierobežojumus.
- Vismaz iekļaujiet, ko aģents drīkst darīt, kuras tēmas ir aizliegtas un kā tam jārīkojas, ja tiek mēģināts ignorēt tā norādījumus.
- Saglabājiet izmaiņas un, ja nepieciešams, atkārtoti publicējiet aģentu.
Atbilstība normatīviem
Šī pārbaude nav tieši saistīta ar konkrētu atbilstības sistēmu, taču tā atbilst vispārējām drošības labākajām praksēm attiecībā uz mākslīgā intelekta pārvaldību. Nav piemērojami konkrēti regulējumi vai atsauces.
Saistītie resursi
Pielāgotu norādījumu izveide un rediģēšana