Перехід ШІ-агентів з експериментальних пісочниць у критичні виробничі та бізнес-процеси вимагає відмови від неструктурованого промпт-чейнінгу на користь структурованої оркестрації. Надання генеративному ШІ свободи дій без жорстких меж призводить до непередбачуваних операційних наслідків. Саме тому проєкт OWASP GenAI Security Project класифікував «надмірну автономію» (Excessive Agency) як один із критичних ризиків безпеки на 2025 рік, поряд із такими загрозами, як ін'єкції промптів (Prompt Injection, LLM01:2025) та розкриття конфіденційної інформації (Sensitive Information Disclosure, LLM02:2025).
Головний виклик для CTO та системних архітекторів сьогодні — інтегрувати автономних агентів у корпоративний ландшафт так, щоб уникнути проблеми «чорної скриньки», коли агент приймає несанкціоновані або невалідовані рішення в обхід стандартних правил корпоративного управління та комплаєнсу.
Анатомія ризику Excessive Agency: чому свобода дій ШІ загрожує бізнесу
Суть проблеми Excessive Agency полягає у наданні ШІ-агентам прямого, неконтрольованого доступу до API та інструментів без чітко визначених меж процесу. Це дозволяє великим мовним моделям (LLM) самостійно визначати логіку виконання завдань, що створює простір для помилок або маніпуляцій. Коли агенту дозволено діяти автономно без нагляду, виникають критичні інциденти.
Розглянемо три реальні приклади таких збоїв в enterprise-системах:
- Невалідовані виклики API: ШІ-агент для обробки повернень клієнтам отримує доступ до платіжного шлюзу та ініціює зовнішній виклик API для транзакції без проходження DMN-валідації фінансових лімітів.
- Обхід погоджень (Human-in-the-Loop): Закупівельний агент самостійно затверджує інвойси постачальників, ігноруючи та минаючи обов'язковий крок погодження людиною, який мав би бути прописаний у BPMN-моделі.
- Створення тіньових процесів: Завдяки логам процесу виявляється, що агент систематично ігнорує обов'язкову перевірку на комплаєнс, оскільки самостійно знайшов швидший, але невідповідний внутрішнім правилам шлях виконання завдань.
BPMN 2.0 як цифровий вольєр: перетворюємо агента на передбачуваний сервісний вузол
Щоб мінімізувати ризик Excessive Agency, архітектура системи повинна позбавити ШІ можливості самостійно визначати послідовність кроків. BPMN 2.0 (Business Process Model and Notation) діє як виконуваний стандарт для оркестрації агентів, забезпечуючи видимість стану кожного екземпляра процесу.
У такій парадигмі ШІ-агент розглядається як єдиний, жорстко обмежений вузол — ізольоване сервісне завдання (Service Task). Він не має прямого доступу до сторонніх систем. Процесний рушій керує токеном виконання, перевіряючи, чи відповідають вихідні дані ШІ системним вимогам. Governance-фреймворки мають прагнути суттєво видимості викликів API, ініційованих агентами, спрямовуючи їх виключно через рушій оркестрації, а не через прямий, неконтрольований доступ.
DMN (Decision Model and Notation): відокремлення логіки прийняття рішень від виконання
Поширена архітектурна помилка — зашивати логіку прийняття рішень безпосередньо у системний промпт (System prompt) агента. Це не лише знижує передбачуваність, але й унеможливлює внесення швидких змін до бізнес-правил без ризику вплинути на загальну поведінку моделі.
Стандарт DMN (Decision Model and Notation) дозволяє відокремити бізнес-правила від потоку процесу. Замість того, щоб покладатися на ймовірнісну оцінку LLM під час схвалення фінансових транзакцій, ШІ-агент використовується лише для підготовки контексту або вилучення даних. Саме рішення приймається за допомогою декларативних таблиць DMN. Це дозволяє системним адміністраторам вносити зміни у логіку рішень без необхідності повного перепроєктування BPMN-моделі чи зміни промптів.
Аудит та виявлення тіньових процесів за допомогою Process Mining
Важливо розуміти, що BPMN і DMN обмежують можливості агента до порушення правил, але архітектори також потребують засобів ретроспективного контролю. Тут на допомогу приходить технологія Process Mining. Вона не призначена для передбачення майбутніх помилок агента, натомість це потужний інструмент для аналізу історичних журналів подій (Event Logs).
Process Mining аналізує журнали для виявлення того, як процеси виконуються насправді. Це дозволяє виявляти вузькі місця та несанкціоновані «тіньові» маршрути процесу (shadow process routes), коли агент знайшов обхідний шлях, що відхиляється від еталонної BPMN-моделі.
Архітектурний патерн безпечної оркестрації ШІ-агентів
Надійне впровадження ШІ у корпоративні процеси вимагає технологічного стеку, що підтримує глибоку оркестрацію. Прикладом платформи, яка дозволяє об'єднати гнучкість ШІ та строгість корпоративних стандартів, є low-code рішення Scriptum (розроблене компанією InBase на базі платформи UnityBase від консорціуму Intecracy Group).
Замість надання агентам безконтрольного доступу до баз даних, Scriptum дозволяє будувати жорсткі BPMN/DMN сценарії оркестрації. У цій архітектурі ШІ діє виключно в межах заздалегідь змодельованих бізнес-процесів як мікросервіс. Це гарантує, що критичні дії вимагатимуть двофакторного підтвердження або кроку human-in-the-loop, усуваючи ризики самовільних транзакцій.
| Рівень / Компонент | Пряма автономія (Небезпечно) | Керована оркестрація (Безпечно) |
|---|---|---|
| Рівень доступу до API | Агент сам формує та надсилає запити | Агент генерує лише параметри, оркестратор валідує та виконує виклик |
| Прийняття рішень | Динамічний промптинг: ШІ вирішує на основі контексту | Таблиці DMN: Рішення приймаються за суворими бізнес-правилами поза моделлю ШІ |
| Людський контроль | Повністю автономно: Агент закриває транзакції самостійно | Human-in-the-loop: Критичні кроки вимагають підтвердження оператора в BPMN-задачі |
| Логування та аудит | Внутрішній лог агента: Складно відстежити логіку | Системний Event Log: Усі дії фіксуються в журналі BPM-системи для Process Mining |
Повноцінний захист від ризиків надмірної автономії полягає у сприйнятті ШІ-агента не як «розумного співробітника», а як інструментального сервісу, що діє всередині суворого цифрового контуру оркестратора.
Поширені питання
Як OWASP визначає ризик Excessive Agency у системах з LLM?
Проєкт OWASP LLM Top 10 2025 визначає Excessive Agency як специфічний клас ризику, що виникає через неконтрольоване прийняття рішень ШІ-агентами та надання їм надмірних повноважень чи доступу до інструментів, що може призвести до несанкціонованих дій.
Як інтегрувати ШІ-агента в існуючу BPMN-схему бізнес-процесу?
ШІ-агент має бути інтегрований як ізольоване сервісне завдання (Service Task). Він отримує вхідні параметри від оркестратора, виконує обробку і повертає дані, тоді як процесний рушій приймає рішення про наступний крок на основі BPMN-моделі.
Чому використання DMN краще за написання правил всередині системного промпту агента?
DMN дозволяє відокремити бізнес-правила від потоку процесу та логіки мовної моделі. Це гарантує детермінованість рішень і дозволяє змінювати правила без повного перепроєктування BPMN-моделі або ризику зламати поведінку агента через зміну промпту.