上海AI实验室、信通院、蚂蚁、IIFAA联盟联合发布《终端智能体安全20

7月28日，世界人工智能大会期间，在由中国信息通信研究院举办的大模型智塑全球产业新秩序论坛上，上海人工智能实验室zwnj;、信通院、蚂蚁、IIFAA联盟联合发布《终端智能体安全2025》白皮书(下称白皮书)，首次系统梳理了智能体(AI Agent)风险分类、如何发现风险、如何防御风险，并覆盖了单智能体设备、多智能体协同，以及AI终端生态的全面挑战，成为终端智能体安全提供风险评估指南。

图说:上海AI实验室、信通院、蚂蚁、IIFAA联盟联合发布《终端智能体安全2025》白皮书

在AI大模型加速下沉的2025年，智能体正快速渗透进手机、眼镜、耳机、车机等各种终端设备，悄悄成为连接人、设备与环境的关键枢纽。生活、工业、医疗、教育等多个行业，正在被一批更主动、更拟人化的终端智能体重新定义交互方式。它们不再是传统意义上的智能终端，也不是完全云端运行的AI Agent，而是一种运行在端侧的智能体。

白皮书指出，随着模型越来越懂用户、操作越来越自动，终端智能体的风险边界也在拓展:不再只是数据泄露这么简单，而是向模型行为、身份伪造、环境感知误导，甚至算法伦理等深层问题蔓延。

中国信通院华东分院人工智能事业部主任常永波介绍道，在AI Agent成为下一代操作系统的当下，对安全设施的梳理，尤为必要。为了应对这些高度复杂、层层递进的安全风险，白皮书提出了三大防护路径:单智能体安全、多智能体可信互连、AI终端安全，希望作为一份全面且具针对性的、可参考的智能体安全指引。

图说:《终端智能体安全2025》白皮书首次提出终端智能体安全体系

白皮书首次提出终端智能体安全体系，在技术生态体系的支撑下，单智能体安全技术包括安全护栏、数据去毒、基座对齐和柔性管理，多智能体可信互连技术则包括可信数据流转、可信服务流转、可信身份认证和可信记忆共享，AI 终端安全技术可信隐私沙箱、跨设备可信连接等，共同支撑AI/AR眼镜、智能手机助手、智能座驾等行业应用。

值得一提的是，白皮书提出，智能体可信互连的核心，在于构建可信的智能体协作环境，具体体现在四个关键维度:可信连接、可信鉴权、可信意图、可信授权。它就像智能体世界的 安全卫士，从身份验证到数据传输，从需求处理到结果追溯，全程筑牢安全防线。

作为发布单位之一，IIFAA联盟一直致力于推动行业共同制定跨智能体交互的相关安全技术规范，共建开放、合作、共赢的智能体生态。联盟技术负责人万小飞表示，在智能终端快速发展的今天，单独一家企业很难承担构建智能终端可信体系的任务，智能终端的可信体系，需要生态共建共赢。呼吁整个生态，共同完善智能体可信基础设施，共建智能体可信互连生态，最终共筑智能体协作信任网络。

据了解，今年4月，IIFAA联盟推出业内首个智能体可信互连技术ASL，该技术可以在MCP等协议的基础之上，保障各个智能体协作中在权限、数据、隐私等方面的安全，为Agent互连提供安全、可信的协作保障。