大模型持续“火热”，其在多个行业的应用不断深入。在银行业，大模型的探索应用正加速。目前，已有多家银行发布大模型相关产品采购公告，比如兴业银行在近期就多个大模型项目进行招标。

采购大模型平台、通用大模型各一套，需支持至少3个应用场景的定制化开发

8月8日，兴业银行发布2个大模型项目招标公告，包括大模型平台产品和通用大模型产品。据悉，2个项目均采用项目总价方式，经商务谈判确认项目总价。

另外，2个项目公告均提到，需支持该行至少3个应用场景的定制化开发。

其一是采购大模型平台软件产品一套。

在技术要求上，涉及大模型训练和推理、提示词、智能体、安全、私有化部署等方面。

其中，大模型训练方面，平台需支持各类主流开源模型（如LLaMa系列，GLM系列，Qwen系列等）以及兴业银行选定的商用模型的训练，需支持模型的二次训练、SFT微调、RLHF训练等，支持训练参数的调整，支持训练过程监控、断点重训等。

大模型推理方面，支持主流开源模型以及该行选定的商用模型的推理，支持将训练好的模型发布为服务和接口，供行内其他系统对接；支持多机多卡的分布式推理及推理加速。

提示词工程方面，支持prompt模板管理，包括prompt创建、修改、删除、分组分类、导出、权限管理等。

Agent智能体方面，支持通过大模型及插件工具构建智能体，支持零代码或低代码开发，支持任务自定义编排等。

安全审查方面，支持输入和输出双向干预机制，当模型对外提供服务时，平台需提供生成内容安全审查功能，具备敏感词过滤和非法图片过滤能力。

私有化部署方面，支持行内的私有化部署，在集团内部署不受license限制。支持信创部署（海光X86+华为昇腾910系列+麒麟V10）及非信创部署（英伟达GPU系列）2种方式，支持TXSQL。

供应商还需提供大模型开发相关工具，包括通过RAG等方式实现报告生成工具、模型自动化评测数据集和工具等。

其二是采购通用大模型软件产品一套。

在技术要求上，涉及参数量、私有化部署、关键能力、提示词、信创及非信创产品支持等。

比如供应商需提供具备自有知识产权的千亿大模型及相关系列百亿大模型；模型需支持私有化部署，具备语言理解、知识问答、多轮对话、文本创作、长文本生成、逻辑推理、文生图、函数调用等大模型关键能力；供应商提供提示词资源基础包，包含文案生成、代码生成、智能办公、文章大纲等prompt提示词资源。

另外，模型需支持流式输出，推理速度首字时延低于800ms，最大输入序列长度不低于16k tokens；供应商需提供部署服务和推理加速方案，需支持模型训练，并提供相关训练工具，其训练和推理功能需在兴业银行选定的商业大模型平台上适配；模型需支持麒麟V10操作系统，支持英伟达系列芯片（如A100）和华为910系列算力芯片，在集团内部署不受license限制。

公告还提到，需支持兴业银行基于通用大模型训练金融垂域大模型，训练后的模型不设有效期，无商业限制，双方共享知识产权，支持联合输出中小银行机构。

这意味着，兴业银行未来或能对外输出相关成果，提升中小银行的数智化能力。

开展基于大模型的知识检索问答、代码辅助等场景建设，强化AI赋能

据《银行科技研究社》了解，兴业银行在不久前的7月下旬已发布多个大模型项目招标公告，涉及知识检索问答、代码辅助及六大领域数字助手，针对具体场景的应用。

其一，采购基于大模型的智能知识检索问答软件产品一套。总的采购需求为，提供基于大模型的多租户的检索增强生成工具（RAG）；需提供针对RAG场景优化后的百亿级金融行业大模型基座和向量知识库：要求能正确理解自然语言提问，能准确分析各类知识，进行整合并生成答案以及提供溯源页面；能存储和解析各种格式的文档，包括但不限于markdown、TXT、word、PDF、Excel，能进行高效的知识检索，支持精确到文档或段落等不同颗粒度，支持对知识库进行分权限的方式进行维护，支持根据时间线对知识文档进行展示。

其二，采购大模型代码助手软件产品一套。部分技术要求为，产品包含沉浸式交互编程，沉浸式编程支持在IDE代码编辑区根据用户上下文自动补全、生成代码，同时支持通过右键快捷方式触发，进行代码纠错、代码检查、单元测试生成等；产品包含智能问答窗口，支持研发域内的开放问答；支持产品使用数据的后台监控，包括用户使用人数、使用方式、开发语言分布、采纳率等信息。

另外，公告还提到，需要提供至少百亿参数规模的代码大模型，产品需支持主流编程语言，需支持行内代码库的定制化训练等。

其三，采购大模型场景解决方案。总的采购需求为，提供金融训练数据集（包括金融领域预训练语料数据和指令微调数据），完成数据工程等前序工作，并基于指定的基座大模型建设兴业银行金融垂域大模型；参与建设该行六大领域大模型数字助手体系等。

据《银行科技研究社》了解，兴业银行在2023年报透露，该行形成首批大模型场景赋能，应用于智能研报摘要生成、企金产品智能问答、研发代码辅助生成等6大领域。上述招标公告中所指的6大领域或是这些领域。

值得一提的是，兴业银行曾透露了多个数字助手的使用效果。其中，企金产品助手知识问答准确率达90%；研报摘要助手每年可增效54人；代码生成助手辅助集团研发人员提升研发效能；客服坐席助手可自动扩展相似问并辅助生成进线案例小结等，提升远程银行营销水平及智能运营效率。

现在，兴业银行针对上述领域招标，或旨在强化大模型赋能，进一步提升行内智能化水平。