AI agents with generative orchestration should have custom instructions
Чому це важливо
Агенти штучного інтелекту з генеративним оркеструванням можуть широко інтерпретувати запити користувачів, потенційно виходячи за межі запланованого обсягу або безпекових кордонів вашої організації. Без спеціальних інструкцій такі агенти можуть розкрити конфіденційну інформацію, виконати несанкціоновані дії або не відхилити спроби ін'єкції підказок. Забезпечення чітких настанов запобігає зловживанням і підтримує контроль над автоматизованими робочими процесами.
Що перевіряє Aether365
Aether365 перевіряє, чи має кожен агент Copilot Studio, що використовує генеративне оркестрування, налаштовані спеціальні інструкції. Ця перевірка відображається на панелі керування Aether365 у розділі перевірок служби microsoft-365 як правило AE.1121.
Як виправити
- Увійдіть до Copilot Studio та перейдіть до списку агентів.
- Виберіть кожного позначеного агента, щоб відкрити його конфігурацію.
- Знайдіть розділ спеціальних інструкцій і визначте призначення агента, його межі та поведінкові обмеження.
- Як мінімум, зазначте, що агенту дозволено робити, які теми заборонені та як він має реагувати на спроби змінити його інструкції.
- Збережіть зміни та, якщо потрібно, повторно опублікуйте агента.
Відповідність вимогам
Ця перевірка безпосередньо не відповідає жодній конкретній нормативній базі, але узгоджується із загальними безпековими найкращими практиками управління штучним інтелектом. Жодних конкретних нормативних документів або посилань не застосовується.
Пов'язані ресурси
Створення та редагування спеціальних інструкцій