47+AI
ZH
← 返回列表
TREND AI安全 系统治理 Agent

AI 安全治理需从模型层转向系统层

单点模型评测难以覆盖真实风险,安全治理应关注数据供应链、工具调用链路和外部依赖等系统级问题。

当前 AI 安全讨论常聚焦于模型本身的输出,但真实风险往往来自系统集成。安全治理需要从模型层转向系统层。

建议方向

  • 建立覆盖数据供应链和第三方组件的风险评估。
  • 对 Agent 工具调用链路进行权限最小化设计。
  • 将安全评测嵌入持续集成与部署流程。

只有把 AI 视为复杂软件系统的一部分,才能形成可落地的安全实践。