随着生成式人工智能在金融领域落地，算法幻觉、数据泄露、提示词攻击等新型风险频发，金融机构正加快构建相关的安全防护能力。

7月17日，中信银行发布生成式人工智能安全平台项目散采项目供应商征集公告，计划采购具备完整大模型安全服务能力的软件产品，进一步强化其生成式人工智能的安全可控性。

根据公告，该平台需同时具备内容安全检测、内容和数据安全保护、模型安全评测、快速接入、模块化设计与解耦性、私有化部署等能力，能够实现合规信息、提示词攻击、敏感及虚假信息、算力消耗等多项风险检测，覆盖理解偏差、幻觉输出等内容风险，以及数据采集、存储、传输、使用等环节的全流程防护。

同时，还需对模型算法安全性、可解释性、输出可控性等进行评估，并提供标准化接入方案，功能模块需具备解耦性与二次开发、定制，支持私有化部署和技术支持服务。

事实上，这并非中信银行在人工智能安全领域的首次布局。

早在2024年，其自主研发的生成式AI仓颉大模型平台，在模型安全方面，深度整合安全管控机制，构建“三横四纵”安全框架，贯穿数据准备、模型调优、知识检索到模型推理全生命周期，全方位保障事前安全检查、事中推理监控、事后安全运营。

除中信银行外，多家银行已在安全能力建设方面展开探索。

工商银行打造了贯穿大模型关键环节的人工智能安全守护体系，涵盖基础设施搭建、模型引入、数据工程处理、模型训练及应用部署等环节；邮储银行在算法层面，采用安全测试方法全面评估算法安全，并通过攻击样本生成、强化训练等措施加固算法，同时构建安全运营体系，建立安全态势感知和预警机制；江阴银行则升级AI安全大模型技术，在风险识别、安全分析、智能处置方面带来突破。

银行业在人工智能安全方面的投入，反映出对大模型安全风险的高度警惕。

光大银行金融科技部史晨阳指出，商业银行在大模型应用中面临内容安全、业务安全、数据安全、交互层攻击及基础设施安全等多重风险。中移（上海）信息通信科技有限公司高级安全专家唐双林进一步分析，提示词注入攻击、模型窃取、数据投毒、敏感信息泄露以及供应链隐患等，均可能对金融数据安全构成威胁。特别是在智能体具备自动执行能力的场景下，攻击者若利用注入指令，甚至可能获取系统管理权限，风险远超传统问答模型。

招商银行首席信息官周天虹表示，大模型安全风险需要通过规范开源模型引入、完善后期训练及部署评测、对生成内容实施算法与人工双重监督。

此外，业内人士还建议相关部门对大模型进行数据监管和模型监管，通过标准化、透明化和问责化的监管措施，可以降低潜在的风险。

目前，我国已出台《生成式人工智能服务管理办法》《人工智能生成合成内容标识办法》《互联网信息服务深度合成管理规定》等政策文件，为生成式人工智能安全发展奠定了制度基础。