Nvidia представила Open Agent Safety Platform — платформу для контролю ШІ-агентів під час їхньої роботи. Вона поєднує програмні та апаратні засоби захисту, які працюють незалежно від самого ШІ-агента.
Компанія розробила платформу на тлі випадків, коли ШІ-агенти Anthropic, Google, OpenAI та Meta обходили встановлені обмеження тестових середовищ і отримували доступ до зовнішніх систем. Один із таких випадків стався влітку 2026 року: агенти OpenAI отримали доступ до систем Hugging Face під час виконання завдання з кібербезпеки.
Open Agent Safety Platform складається з двох основних компонентів. OpenShell контролює, до яких ресурсів може отримувати доступ ШІ-агент. Sentry стежить за його діями окремо на процесорах обробки даних Nvidia BlueField-4.
За даними Nvidia, винесення Sentry на окремий процесор дозволяє контролювати агента незалежно від CPU або GPU, на якому він працює. Якщо система виявляє спробу вийти за встановлені межі, вона може ізолювати агента за мілісекунди.
OpenShell компанія представила ще в березні 2026 року. Тепер Nvidia об’єднала його із Sentry, щоб створити два рівні контролю: програмний визначає доступні агенту дії, а апаратний окремо відстежує його поведінку.
CEO Nvidia Дженсен Хуанг пояснив, що компанія працює над таким підходом близько року. Nvidia вважає, що частина механізмів безпеки має працювати поза самим ШІ-агентом, щоб він не міг самостійно впливати на всі засоби контролю.
Підтримку відкритої платформи вже заявили десятки компаній, серед яких Anthropic, Arm, Microsoft, Oracle і SpaceX. OpenAI у переліку учасників Nvidia не зазначена.
Для компаній, які впроваджують ШІ-агентів у робочі процеси, підхід Nvidia означає можливість окремо визначати дозволені агенту ресурси та контролювати його дії на рівні обладнання. Це може бути актуально для систем, у яких агенти отримують доступ до корпоративних даних, програм та інших зовнішніх ресурсів.
Джерело: TechCrunch
