英伟达发布双层 AI 安全系统：官方称本可阻止 Hugging Face 入侵事件

在美股大盘走弱、AI 安全话题升温的背景下，英伟达于 9 月 28 日发布了一套新的双层 AI 安全系统。据证券时报报道，英伟达企业 AI 副总裁贾斯汀·博伊塔诺在发布前对记者表示，如果前沿 AI 实验室早在模型评估阶段就采用这项技术，近期 Hugging Face 遭失控智能体攻击的安全事件本可以避免。

据介绍，这套工具利用数学公式检测智能体是否在尝试绕过限制，例如生成多个子代理来规避对主代理的拦截。英伟达 AI 软件高级总监阿里·戈尔尚称，这类变通行为正是当前最难拦截的风险形态。英伟达官网同日上线了 Open Agent Safety Platform 页面，宣布联合超过 100 家行业伙伴为智能体提供安全层。

【AICOR 点评】安全防线正在从模型层下沉到智能体运行层——检测对象不再是『模型说了什么』，而是『智能体在系统里做了什么、有没有绕路』。这与国内监管强调的智能体行为围栏方向一致。企业在选型算力与平台时，应把『是否具备变通行为检测与审计日志』列为硬指标，它将来大概率是合规检查的必答题。