AI agents with generative orchestration should have custom instructions

Warum dies wichtig ist

KI-Agenten mit generativer Orchestrierung können Benutzeranfragen weit interpretieren und dadurch möglicherweise von der beabsichtigten Reichweite oder den Sicherheitsgrenzen Ihrer Organisation abweichen. Ohne benutzerdefinierte Anweisungen könnten diese Agenten vertrauliche Informationen preisgeben, unbefugte Aktionen durchführen oder Prompt-Injection-Versuche nicht abweisen. Die Sicherstellung klarer Leitlinien verhindert Missbrauch und bewahrt die Kontrolle über automatisierte Workflows.

Was Aether365 prüft

Aether365 überprüft, ob für jeden Copilot Studio-Agenten, der generative Orchestrierung verwendet, benutzerdefinierte Anweisungen konfiguriert sind. Diese Prüfung erscheint in Ihrem Aether365-Dashboard unter den microsoft-365-Dienstprüfungen als Regel AE.1121.

So beheben Sie das Problem

1. Melden Sie sich bei Copilot Studio an und navigieren Sie zur Liste der Agenten.
2. Wählen Sie jeden markierten Agenten aus, um dessen Konfiguration zu öffnen.
3. Suchen Sie den Abschnitt für benutzerdefinierte Anweisungen und definieren Sie den Zweck, die Grenzen und die Verhaltenseinschränkungen des Agenten.
4. Geben Sie mindestens an, was der Agent tun darf, welche Themen tabu sind und wie er mit Versuchen umgehen soll, seine Anweisungen zu überschreiben.
5. Speichern Sie die Änderungen und veröffentlichen Sie den Agenten bei Bedarf erneut.

Compliance

Diese Prüfung ist keiner spezifischen Compliance-Framework direkt zugeordnet, entspricht jedoch allgemeinen Sicherheitsbest Practices für die KI-Governance. Es sind keine spezifischen Frameworks oder Referenzen anwendbar.

Verwandte Ressourcen

Erstellen und Bearbeiten benutzerdefinierter Anweisungen

Microsoft references

• Authoring instructions
• Security top 10