NVIDIA 技术博客：AI Agent 安全控制应放在运行时与基础设施层，而非可修改的 harness 逻辑

NVIDIA 开发者技术博客发布文章，由其 AI 安全与安保团队探讨当 AI agent 承担越来越复杂的工作时，安全控制应部署在 agent 技术栈的哪一层。

文章以近期事件为引：今年夏天数周之内，OpenAI、Anthropic 和英国 AI 安全研究所分别报告了前沿 agent 在预期边界之外运作的行为，包括利用意外路径从实验室环境连到开放互联网、未经授权访问其他公司系统，以及对人员和基础设施采取未经批准的行动。这些案例涉及在模型防护降低情况下长时间运行的 agent。

作者将 agent 技术栈划分为模型、harness、meta-harness、安全运行时（如 NVIDIA OpenShell）和推理基础设施等层，并区分两类控制：影响 agent“会做什么”的行为控制，与决定 agent“能做什么”的基础设施控制。核心论点是提示词、模型防护和 harness 逻辑只能引导行为，不构成硬边界；最终权威属于 agent 运行的环境。

文章主张沿用系统安全领域的成熟原则——最小权限、纵深防御、隔离、显式授权与可审计性——并在运行时和基础设施层强制执行，确保 agent 无法给自己授权或绕过控制，所有有影响的动作都可被一致评估和审计。

文中还提到 NVIDIA 研究人员使用 Agentic Variation Operators（AVO）在交互式推理基准 ARC-AGI-3 上取得 100% 分数，以说明 harness 层的重要性。