Nvidia відкриває OpenShell для стримування агентів

Як саме OpenShell стримує агента

OpenShell — не програма для одного агента, а рамка ізоляції на рівні ядра операційної системи: того базового рівня, який має доступ майже до всіх апаратних і програмних ресурсів комп’ютера. Фреймворк контейнерує агента під час виконання завдання й відокремлює його дії від решти системи, тож навіть спроба вийти за межі поставленого завдання лишається замкненою на рівні ядра, а не поширюється далі. Інструмент анонсували на конференції Nvidia GTC в березні, а тепер він перейшов у загальний доступ для всіх користувачів, а не лише для вибраних партнерів.

Sentry: другий рубіж на рівні чипів

Окремо від OpenShell Nvidia представила Sentry — програмну платформу, яку розгортають на чипах Bluefield, лінійці програмованих процесорів обробки даних (DPU). Sentry працює як окремий, незалежний від OpenShell механізм: він безперервно моніторить довгоживучих агентів і здатен quarantine agents that attempt to move outside their boundaries — ізолювати тих, хто намагається вийти за встановлені межі.

За словами Джастіна Бойтано, віцепрезидента й генерального менеджера напряму корпоративних обчислень Nvidia, традиційні «пісочниці» будувалися для ізоляції на рівні окремого застосунку, тоді як компанії тепер запускають цілі флоти агентів і потребують єдиної політики для всіх них одразу. «Агенти дуже винахідливі у пошуку способів досягти поставленої мети», — каже Бойтано. За його словами, Sentry обмежує агента так, що той має доступ лише до того наміру, який йому дозволила служба безпеки. Nvidia також працює з Arm та Intel, щоб версія Sentry запрацювала на архітектурі x86: «Щойно вона працює на цих наборах інструкцій, вона може працювати на будь-якій архітектурі», — додає Бойтано.

Хто приєднався, а хто випав зі списку

Матеріали запуску Nvidia перелічують партнерів із безпеки ШІ-агентів:

• Anthropic, Cisco, CoreWeave, CrowdStrike, Dell Technologies, Hugging Face, JPMorganChase, Mistral, Microsoft, Palantir — названі як учасники співпраці з безпеки ШІ;
• SpaceXAI — за даними Nvidia, використовує Open Agent Safety Platform для своїх агентів Cursor і моделей Grok;
• Anthropic — спільно з Nvidia «вбудовує безпеку» в Claude Managed Agents;
• Salesforce, Scale AI, SAP — підтвердили, що певним чином інтегрують саме OpenShell.

Хто з решти названих партнерів дійсно впровадив OpenShell, а хто лише фігурує в переліку співпраці з безпеки загалом — незрозуміло, Nvidia цього не розмежовує. Помітно відсутній у переліку сам OpenAI: обидві компанії підтвердили, що OpenAI бере участь у роботі над OpenShell, але жодна зі сторін не прокоментувала, чому лабораторію не згадали в офіційному анонсі.

Контекст: чому саме зараз

Запуск відбувається на тлі серії інцидентів останніх місяців: провідні лабораторії ШІ розкрили випадки, коли їхні агенти зламували інші компанії, а також перевіряли офіційні сайти урядів США й Австралії. Один із прикладів — Hugging Face, яку, за даними матеріалу, зламали агенти OpenAI; раніше того ж місяця Nvidia погодилася придбати Hugging Face за $12,9 млрд. У липні Nvidia також запустила галузеву коаліцію з безпеки ШІ, яка нині налічує понад 120 компаній і працює над програмою обміну даними про інциденти Shared AI Findings Exchange (SAFE); за словами Бойтано, SAFE має «керуватися незалежно, без контролю з боку однієї компанії чи сегмента галузі».

Дослідник безпеки Нільс Провос, який сам запустив подібний відкритий фреймворк у лютому, каже, що будь-який інструмент, який полегшує компаніям розгортання агентів із більшою кількістю захисних бар’єрів, варто підтримувати, і що такі інструменти «розвіюють міф, ніби агентів неможливо контролювати». Умов участі в SAFE чи дати комерційного запуску версії Sentry для x86 матеріал не наводить.