网商银行申请一项发明专利:关于大模型Skill投毒检测
移动支付网 2026/9/14 18:14:23

8月25日,浙江网商银行一项正申请专利的发明“一种大模型Skill投毒检测方法及相关设备”公布。其申请于2026年5月25日,涉及计算机技术领域。

摘要显示,其方法包括:解析目标描述文件,提取意图信息,构建意图模型,目标描述文件为待检测大模型的描述文件;在AI交互环境中执行目标Skill,追踪目标Skill的实际行为轨迹,目标Skill包括至少一个待检测大模型的Skill;对实际行为轨迹和意图模型进行语义级行为比对,得到一致性评估结果;基于一致性评估结果,确定目标Skill的投毒风险等级。

该发明的背景为,随着大模型Skill在各类人工智能(Artificial Intelligence , AI)平台中的广泛应用,恶意Skill可能通过与声明意图不符的实际操作实施投毒攻击。现有技术如静态代码分析、动态沙箱监控或行为模式库匹配,均只能识别代码级或已知模式的异常,无法理解Skill在AI交互环境中的语义行为,也无法判断实际行为是否符合声明意图,从而存在漏报和误报问题。

在该发明中,通过意图行为一致性验证识别未知投毒,实现了大模型Skill投毒风险的自动化评估,覆盖了传统方法无法识别的语义级攻击,突破了模式匹配局限,提升了检测覆盖面,提高了检测准确性和效率。

据悉,Skill是一般公众所常用的AI领域的通用术语,其一般可以翻译为技能、智能体技能、技能包、技能模块、技能组件、功能模块、领域技能、技能库等,其是指AI系统或其组件所具备的、能够执行特定任务或工作流的可识别能力单元,该能力单元由提供者设计、封装并置于其控制之下,其部署与使用须符合预期目的、风险管理义务及透明度要求,且可能构成高风险AI系统分类与合规评估的技术依据。或者说其是指一种模块化、可移植、自包含的能力封装单元,由结构化元数据、程序化指令及可选执行资源构成,用于向AI Agent(代理、智能体)注入特定领域的专业知识与可重复工作流,支持按需加载、版本控制与跨平台复用。


展开全文
相关阅读
资讯查询取消