AI agents with generative orchestration should have custom instructions
Waarom dit van belang is
AI-agenten met generatieve orkestratie kunnen gebruikersverzoeken breed interpreteren, waardoor ze mogelijk afwijken van de beoogde reikwijdte of beveiligingsgrenzen van uw organisatie. Zonder aangepaste instructies kunnen deze agenten gevoelige informatie blootstellen, ongeautoriseerde acties uitvoeren of pogingen tot prompt injection niet afwijzen. Door duidelijke richtlijnen te waarborgen, wordt misbruik voorkomen en blijft de controle over geautomatiseerde workflows behouden.
Wat Aether365 controleert
Aether365 verifieert of elke Copilot Studio-agent die generatieve orkestratie gebruikt, is voorzien van aangepaste instructies. Deze controle verschijnt in uw Aether365-dashboard onder de servicecontroles voor microsoft-365 als regel AE.1121.
Hoe u dit kunt oplossen
- Meld u aan bij Copilot Studio en ga naar de lijst met agenten.
- Selecteer elke gemarkeerde agent om de configuratie te openen.
- Zoek de sectie met aangepaste instructies en definieer het doel, de grenzen en gedragsbeperkingen van de agent.
- Vermeld in ieder geval wat de agent mag doen, welke onderwerpen niet zijn toegestaan en hoe de agent moet omgaan met pogingen om de instructies te omzeilen.
- Sla de wijzigingen op en publiceer de agent opnieuw indien nodig.
Naleving
Deze controle is niet direct gekoppeld aan een specifiek nalevingskader, maar sluit aan bij algemene beveiligingsrichtlijnen voor AI-governance. Er zijn geen specifieke kaders of verwijzingen van toepassing.
Gerelateerde bronnen
Create and edit custom instructions