跳到正文
原文
NVIDIA Blog· Saša Zdjelar·· 10 天前AI 评分47

NVIDIA:AI 安全是一个工程问题——如何在 Agent 技术栈的每一层解决它

AI Security Is an Engineering Problem — How to Solve It at Every Layer of the Agent Stack

AI 导读

NVIDIA 提出 AI 安全应作为工程问题来对待,需要明确的防护要求、可执行的控制措施、指定负责人和防护有效的证据。安全防护应覆盖模型、harness 和运行环境的完整 Agent 技术栈,NVIDIA 开源的 OpenShell 提供了在 Agent 之外执行策略的沙箱运行时,Cisco 的 DefenseClaw 和 JFrog 在其上构建治理与技能扫描能力。

来源:NVIDIA Blog · blogs.nvidia.com