8月25日,浙江网商银行一项正申请专利的发明“一种大模型Skill投毒检测方法及相关设备”公布。其申请于2026年5月25日,涉及计算机技术领域。
摘要显示,其方法包括:解析目标描述文件,提取意图信息,构建意图模型,目标描述文件为待检测大模型的描述文件;在AI交互环境中执行目标Skill,追踪目标Skill的实际行为轨迹,目标Skill包括至少一个待检测大模型的Skill;对实际行为轨迹和意图模型进行语义级行为比对,得到一致性评估结果;基于一致性评估结果,确定目标Skill的投毒风险等级。
该发明的背景为,随着大模型Skill在各类人工智能(Artificial Intelligence , AI)平台中的广泛应用,恶意Skill可能通过与声明意图不符的实际操作实施投毒攻击。现有技术如静态代码分析、动态沙箱监控或行为模式库匹配,均只能识别代码级或已知模式的异常,无法理解Skill在AI交互环境中的语义行为,也无法判断实际行为是否符合声明意图,从而存在漏报和误报问题。
在该发明中,通过意图行为一致性验证识别未知投毒,实现了大模型Skill投毒风险的自动化评估,覆盖了传统方法无法识别的语义级攻击,突破了模式匹配局限,提升了检测覆盖面,提高了检测准确性和效率。
据悉,Skill是一般公众所常用的AI领域的通用术语,其一般可以翻译为技能、智能体技能、技能包、技能模块、技能组件、功能模块、领域技能、技能库等,其是指AI系统或其组件所具备的、能够执行特定任务或工作流的可识别能力单元,该能力单元由提供者设计、封装并置于其控制之下,其部署与使用须符合预期目的、风险管理义务及透明度要求,且可能构成高风险AI系统分类与合规评估的技术依据。或者说其是指一种模块化、可移植、自包含的能力封装单元,由结构化元数据、程序化指令及可选执行资源构成,用于向AI Agent(代理、智能体)注入特定领域的专业知识与可重复工作流,支持按需加载、版本控制与跨平台复用。
展开全文
- 移动支付网 | 2026/6/30 9:21:01
- 移动支付网 | 2026/5/19 16:36:14
- 移动支付网 | 2026/4/27 9:29:08
- 移动支付网 | 2026/1/6 8:52:16
- 移动支付网 | 2025/11/12 8:55:09
- 移动支付网 | 2025/10/14 14:30:53
- 移动支付网 | 2025/7/7 10:05:11
- 移动支付网 | 2025/6/23 10:25:47
- 移动支付网 | 2025/5/8 11:58:03
- 移动支付网 | 2024/12/19 15:56:18
- 移动支付网 | 2026/8/17 10:55:46
- 移动支付网 | 2025/7/4 11:21:22
- 移动支付网 | 2019/10/30 11:49:27





