88% британських компаній уже мали інцидент з AI-агентом
ServiceNow і Phronesis Partners опитали 300 британських керівників безпеки. 88% їхніх організацій за рік мали інцидент безпеки через AI-агента, і лише 44% усунули його за 24 години. У 82% компаній агенти вже взаємодіють з виробничим обладнанням чи фізичним середовищем, і 75% з них уже мали там інцидент.
52% керівників вважають свою безпеку агентів достатньою, але лише 23% мають відповідальну особу за неї, а автоматичний контроль розгортання — лише у 27%. 44% компаній підключають безпеку вже після створення агента.
Коли агенти виходять за межі IT
У 82% опитаних британських компаній AI-агенти вже взаємодіють з операційними технологіями (OT) — обладнанням на виробничих лініях, промисловими роботами — або іншим чином із фізичним середовищем. У 75% таких компаній з цим уже стався інцидент. Дослідники підкреслюють: в IT-середовищі помилка агента може призвести до витоку даних, неправильної конфігурації чи збою сервісу, а в промисловому середовищі наслідки можуть бути серйознішими.
Для агентів, що працюють із фізичними системами, автори дослідження радять окремий набір запобіжників:
- жорсткі обмеження на дії, які агент може виконати;
- обов'язкове затвердження людиною для рішень із високим ризиком;
- моніторинг і можливість аудиту активності агента;
- спільну роботу команд кібербезпеки, охорони праці та фізичної безпеки ще до запуску агента, щоб виявити ризики заздалегідь.
Розрив між відчуттям контролю і реальністю
52% керівників безпеки вважають захист своїх агентів достатнім. На практиці лише 23% мають одну відповідальну особу за управління агентною безпекою, і лише 27% застосовують автоматичний контроль (deployment gate) за тим, де і як агенти розгортаються. Водночас 65% компаній здатні за запитом надати повний пакет доказів щодо стану безпеки своїх агентів — документування працює краще, ніж контроль доступу й розподіл відповідальності.
Автори дослідження називають цей розрив ризиком появи нової форми «тіньового ШІ»: різні команди розгортають агентів швидко, з неоднаковими правилами доступу й рівнем нагляду, через що керівництво втрачає уявлення, де саме працюють агенти і що вони роблять. Масштаб проблеми зростає: глобально (у 20 країнах) 49% організацій уже запускають від 100 до 999 агентів, а третина (35%) — понад 1000.
Що робить різницю: приклад 13%, які впорались
Лише 13% британських компаній мають те, що дослідники називають «захищеною позицією безпеки» (defensible security posture). Серед цієї групи результати разюче інші: 55% здатні усунути інцидент протягом 24 годин проти 44% загалом, а 65% мають виявлення аномалій у реальному часі. Різницю дає не кількість агентів чи темп впровадження, а те, чи безпека була вбудована в процес із самого початку.
Коли підключати безпеку
44% компаній додають безпеку вже після того, як агент створений — тобто після того, як ключові структурні рішення, зокрема права доступу, вже прийняті. Дослідники наголошують: безпека не може бути останнім кроком для систем, здатних діяти автономно.
На етапі проєктування агента варто одразу визначити:
- що саме агент може робити;
- до яких даних він має доступ;
- які обмеження на нього накладено;
- як відстежується його активність;
- як швидко можна відкликати його доступ у разі потреби.