ШІ-агенти співробітників — новий ризик на кшталт Excel
У 2012-2022 роках банки роками виправляли ризик безконтрольних Excel-таблиць, що непомітно ставали джерелом даних для звітності регулятору. AWS показує: сценарій повторюється з copilot-платформами. Керівник фінмоніторингу може за вихідні зібрати агента для тріажу алертів; менеджер зі стягнення боргів — агента, що сам пише листи клієнтам. McKinsey оцінює потенціал ШІ в банкінгу у $200-340 млрд на рік (9-15% операційного прибутку).
Різниця з Excel — автономність: агент сам надсилає листи, оновлює записи, працює за розкладом без нагляду, і помилка одразу зачіпає кілька процесів.
Другий приклад: коли той самий інструмент — дві різні речі
Комплаєнс-аналітик у команді будує особистого агента на copilot-платформі: той підтягує дані клієнтського портфеля, робить аналіз і видає рекомендації. Аналітик копіює ці рекомендації у регульований документ з порадою клієнту. Формально він користується тією самою платформою, тими самими обліковими даними й тим самим інтерфейсом, що й колега, який просить copilot підсумувати вхідний лист.
Інструмент ідентичний. Використання — категорично різне. Один випадок — особиста продуктивність, другий — вхід у регульований процес. Модель контролю повинна розрізняти ці два випадки за призначенням виходу, а не за тим, хто і на якій платформі його створив.
Чотири рівні контролю замість одного правила на всіх
AWS пропонує ділити агентів співробітників на чотири рівні за принципом: наслідки провалу визначають критичність, автономність визначає інтенсивність контролю.
- Рівень 1. Особиста продуктивність. Один користувач, людина перевіряє вихід, нуль радіусу поширення. Досить наявних прав доступу. Приклади: чернетки, підсумки консультацій, дослідження датасетів.
- Рівень 2. Командні процеси. Кілька користувачів, нерегульована сфера, відновні помилки. Потрібні призначений власник агента, запис в інвентарі, контрольні точки з участю людини, контроль змін промптів. Приклади: тріаж пайплайна онбордингу, підготовка due diligence постачальників.
- Рівень 3. Бізнес-критичні процеси. Агент впливає на клієнтський результат, регуляторну звітність або фінансовий контроль. Це межа: або агента перебудовують як керовану систему за повним циклом розробки, або платформа має дати доказовий аудиторський слід, обов'язкову перевірку людиною, вибіркову перевірку виходів і виявлення дрейфу.
- Рівень 4. Критично важливі процеси. Пряме виконання проти обліку, платежів, торгівлі, капіталу. Жодних компонентів, зроблених співробітниками, у ланцюжку виконання. Максимальний контроль, незалежна валідація, персональна відповідальність старшого менеджера.
Один робочий процес часто складається з підзадач різних рівнів. Тріаж алертів з протидії відмиванню коштів може використовувати copilot для пошуку в негативних медіа (рівень 2, людина перевіряє вихід), тоді як модель скорингу ризику працює на керованому продакшн-контурі (рівень 3, вихід напряму впливає на регуляторне рішення).
Знайти агентів перш ніж їх класифікувати
Головний урок ери Excel-таблиць — не класифікація, а пошук: банки роками шукали таблиці, які насправді мали значення. З copilot-платформами є перевага, якої не було у таблиць, — телеметрія платформи: журнали розмов, події створення агентів, підключення джерел даних, розклади повторюваних автоматизацій.
Робоча модель поєднує два контури. Push — політика, що вимагає декларування: якщо агент торкається клієнтських або регуляторних даних чи його виходи використовуються в контрольованому процесі, агента треба задекларувати й віднести до рівня. Pull — телеметрія платформи, яка виявляє недеклароване суттєве використання: підключення до регульованих джерел даних, повторювані автоматизовані процеси, виходи, що збігаються з патернами регульованих процесів. Самодекларування без технічного підтвердження має ті самі обмеження, що мало для Excel-таблиць.
Типові помилки: розмитий апетит до ризику і людина, яка перестала дивитися
Формулювання на кшталт «ми використовуватимемо ШІ відповідально» не дає команді нічого дієвого. Працює конкретика на кожен рівень, наприклад: Ми приймаємо, що згенеровані ШІ дослідницькі резюме можуть містити неточності за умови, що кваліфікований аналітик перевіряє кожен вихід, а незалежна команда щомісяця перевіряє вибірку 10% результатів.
Друга типова помилка — поступовий, недокументований зсув від «людина перевіряє кожен вихід» до «людина вибірково перевіряє» і далі до «людина номінально відповідає, але не дивиться». Регулятори і суди дедалі частіше перевіряють, чи номінальний нагляд людини над алгоритмічним рішенням звільняє організацію від відповідальності, коли людина фактично не переглядає результат — і поки що це не спрацьовує. Тому варто відстежувати середній час перегляду на один вихід, частоту скасувань рішення агента та розрив між заявленим і фактичним рівнем автономності.
Перш ніж довіряти виходу агента рівня 3 і вище, перевірте: чи задекларований власник, чи ввімкнена вибіркова перевірка виходів, чи працює виявлення дрейфу і чи фіксується аудиторський слід — версія моделі, версія промпту, вхідні дані, кроки збагачення і дії людини.