英伟达发布 AI 智能体安全平台，可实时隔离异常智能体

英伟达今日推出了一款名为“NVIDIA Open Agent Safety Platform”的开放式AI智能体安全平台，该平台能够对AI智能体、智能体硬件以及机器人系统等实施全面的管理与控制。

该平台配备了英伟达的OpenShell安全软件，能够为运行在CPU上的AI智能体设定操作边界，并同时支持开源与闭源模型。

在Vera平台上，这款工具的占用性能极低。当OpenShell与Vera结合使用时，AI智能体既能高效完成任务，又能确保安全性。OpenShell作为开源软件，可兼容包括Arm和英特尔产品在内的第三方平台。

英伟达还发布了名为NVIDIA Sentry的看门狗系统，用于持续监控AI智能体的行为。一旦AI智能体试图突破软件限制，Sentry能在毫秒级别内将其隔离并停止运行。

Sentry运行在BlueField-4 DPU上，能够持续监控AI智能体的活动，并在芯片层面独立执行安全策略。它结合了威胁检测、基于硬件的智能体治理与执行，以及数据访问保护，通过独立于智能体和攻击者、能实时响应的带外信任域来实现这些功能。

此外，Anthropic、SpaceX和Scale AI等公司已与英伟达合作，将OpenShell应用于其AI模型和智能体。