10月15日，由移动支付网、出海记主办的《2026第四届跨境数字金融产业合规与共生大会》在深圳举办。中国信息通信研究院正高级工程师、主任袁琦在会上发表《终端智能体核心安全风险剖析与保障体系构建》主题分享，围绕终端智能体发展现状、安全风险、技术保障与监管体系展开系统剖析，为行业构建安全可信的终端智能体生态提供路径参考。

袁琦指出，2023年以来大模型技术快速发展，推动AI终端进入新一轮产业浪潮，成为大模型与智能体落地的最直接载体。相比传统服务，智能体形成了技术与体验的双重代差，理解、推理与自主执行能力更强，自然语言交互更顺畅、结果更精准，可提供个性化、主动式服务，正成为整合信息、服务与工具的移动生态新入口。应用场景上，智能体正从编程、数据分析、智能问答等脑力工作，加速向出行、电商、医疗健康等生活服务拓展，用户群体加速扩展至普通消费者；形态上则从豆包手机助手、华为小艺等通用型智能体，向蚂蚁阿福医疗、Accio电商等行业型智能体过渡。

她介绍道，2026年5月8日，国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》，首次权威定义智能体是具备自主感知、记忆、决策、交互与执行能力的智能系统，是人工智能产品和服务的重要形态。终端智能体包含感知层、模型层、编排规划层、执行层、数据层五大层级。部署方式分为端云协同（如谷歌Gemini 3.3 Flash、华为小艺助手）与纯端侧（如苹果Apple Intelligence以3B参数实现文本生成与图像处理、阿里Qwen 3以4B和8B参数实现端侧推理）两类；按主导主体，可分为终端厂商主导、互联网厂商主导、个人开发者主导三类。

安全风险同样沿五大层级展开。感知层面临应用界面伪造与感知权限滥用风险，攻击者仿造或篡改界面即可诱导智能体接收虚假信息，导致后续决策与执行发生连锁错误。模型层面临内容安全、幻觉、恶意指令攻击（越狱与提示词注入）、对抗样本攻击、后门攻击与数据投毒五类风险。编排规划层存在目标劫持与任务规划操纵风险，攻击者可将恶意指令嵌入输入或通信，或将恶意步骤注入任务链，使智能体表面执行正常流程、实际触发未授权操作。执行层则面临身份伪造、权限滥用、工具误用与滥用（通过操纵MCP上下文诱导）、工具恶意绑定（重影工具）等风险。数据和个人信息安全方面存在存储、使用、协同三类风险：模型文件未加密、意图数据缓存未加密、记忆层缺乏安全围栏，均可能导致敏感信息泄露；模型加载缺验签、记忆检索无完整性校验、查询未动态脱敏，会引发参数篡改、记忆失真与隐私泄露；端云协同使海量多模态数据与个人信息被集中采集上云，在传输与云端计算存储环节存在泄露、滥用与非法访问风险。

针对上述风险，需在感知层、模型层、编排规划层、执行层建立“实时监控+精准拦截”的防护机制，并在数据层构建全生命周期防护。感知层通过界面完整性校验与感知权限动态管控，拦截界面篡改并避免权限滥用；模型层部署内容安全对齐与过滤、以事实核查引擎缓解幻觉、以动态特征库阻断恶意指令、以对抗训练防御对抗样本；编排规划层用轻量级隐藏指令检测模型实时扫描越狱与提示词注入，并比对各规划动作与用户原始目标的一致性；执行层采用OAuth 2.0结合JSON Web令牌（JWT）完成用户、智能体与工具间的身份认证，权限在运行时基于用户请求与上下文动态申请，并对MCP指令实时过滤、对工具文档实施静态安全扫描与数字签名验证。数据层则从三方面加固：对核心资产强制高强度加密、生物特征等极度敏感信息存入芯片级安全区域；加载前签名验签、检索结果完整性校验、敏感信息动态脱敏；端云协同采用端到端加密传输、云端数据用后即焚与云端安全验证。

袁琦表示，随着人工智能向终端侧深度渗透，终端智能体已成为AI安全治理的前沿阵地，我国已形成“法律+规章+标准+备案”相结合的多层治理体系，备案制度是当前监管的核心抓手。

法律法规层面，以《网络安全法》《数据安全法》《个人信息保护法》为底层基础，以《互联网信息服务算法推荐管理规定》《深度合成服务管理规定》《生成式人工智能服务管理暂行办法》为核心规章，细化AI全场景监管要求。规章制度层面，2025年3月发布《人工智能生成合成内容标识办法》，8月发布《人工智能科技伦理管理服务办法（试行）》公开征求意见稿，9月发布《人工智能安全治理框架》2.0版，进一步细化了内容标识、风险分级防控等具体要求。

标准层面，已发布GB/T 45654-2025、GB/T 45652-2025、GB/T 45438-2025三项国家标准；2026年7月下达《智能体应用安全基本要求》强制性国家标准计划（计划号20263116-Q-252），这是全球首部面向智能体安全的强制性国家标准，由中央网信办归口管理，中国移动通信集团有限公司、中国电子技术标准化研究院、国家计算机网络应急技术处理协调中心牵头起草；同期《网络安全标准实践指南——智能体部署使用安全指引》正式发布。

备案层面，已形成通用算法备案、深度合成服务备案、大模型备案三类并行路径，覆盖智能体全链条技术底座，主流终端厂商的智能体产品已陆续完成备案，后续是否新增独立的智能体备案通道，将随监管体系的持续迭代进一步明确。