AI agents with generative orchestration should have custom instructions
Perché è Importante
Gli agenti AI con orchestrazione generativa possono interpretare le richieste degli utenti in modo ampio, deviando potenzialmente dall'ambito previsto o dai confini di sicurezza della tua organizzazione. Senza istruzioni personalizzate, questi agenti potrebbero esporre informazioni sensibili, eseguire azioni non autorizzate o non riuscire a respingere tentativi di injection dei prompt. Garantire che siano in atto linee guida chiare previene gli abusi e mantiene il controllo sui flussi di lavoro automatizzati.
Cosa Controlla Aether365
Aether365 verifica se ogni agente di Copilot Studio che utilizza orchestrazione generativa ha istruzioni personalizzate configurate. Questo controllo appare nel dashboard di Aether365 sotto i controlli del servizio microsoft-365 come regola AE.1121.
Come Risolvere
- Accedi a Copilot Studio e vai all'elenco degli agenti.
- Seleziona ogni agente contrassegnato per aprire la sua configurazione.
- Individua la sezione delle istruzioni personalizzate e definisci lo scopo, i confini e i vincoli comportamentali dell'agente.
- Come minimo, includi cosa l'agente è autorizzato a fare, quali argomenti sono vietati e come gestire i tentativi di sovrascrivere le sue istruzioni.
- Salva le modifiche e ripubblica l'agente se necessario.
Conformità
Questo controllo non corrisponde direttamente a uno specifico framework di conformità, ma si allinea con le best practice generali di sicurezza per la governance dell'AI. Non sono applicabili framework o riferimenti specifici.
Risorse Correlate
Creare e modificare istruzioni personalizzate