近日，波士顿咨询公司（BCG）发布《银行业生成式AI应用报告（2023）》（以下简称“《报告》”）。《报告》主要包含生成式AI能力理解、银行业应用场景、落地可行性、快速行动建议等部分。

理解生成式AI的能力

《报告》认为，生成式AI相较传统AI，主要在于“对话”与“创造”2类能力上实现根本性的突破。“对话”能力上，可理解更长的上下文，并进行拟人化的思考和回答，沟通更自然；“创造”能力上，生成式AI可自动生成自洽的图形、文本甚至代码，具备不错的内容创作能力。

而生成式AI背后的大模型，之所以能形成突破性的2项能力，得益于算法的突破、超大规模的算力和数据的支持。

银行业应用场景丰富

《报告》显示，生成式AI在银行业的应用，从价值创造逻辑上可分为2类：

一是替代人。比如开展大量重复性较高、简单的任务，可释放人力资源；部分场景下，可取代人，催生全新的业务模式，例如交易撮合的场景，借助生成式AI，或不再需要人作为中介进行撮合。

二是赋能人。利用“对话”和“创造”能力，可让AI作为助手，有效放大关键节点的“人”的产能。一方面，可通过对话式学习的方式“培训”专业人员；另一方面，在展业过程中，生成式AI可整合关键信息及素材，助力相关岗位的人员。另外，若体现在基础管理环节，让一个人同时管理更多复杂项目成为可能。

而在价值释放空间上，生成式AI可贯穿银行各个环节，实现规模化降本增效。以一家拥有约2万名员工的区域性国际银行为例，对该行前中后台相关部门应用生成式AI的潜力和效益进行初步梳理，预计在首年可为该行节省约1.5亿美元的成本，占整体薪酬总包的7%左右。

落地可行性：涉及场景、方法、技术、体系

一是场景方面。在应用探索初期，银行通常优选少量场景进行试点、循序渐进。选择场景时，要平衡考量收益和风险、实施难度，以及是否能形成示范效应。

在场景定位时，需对以下问题进行权衡选择：

1、归纳、分析还是决策？以银行授信审查场景为例，AI角色可以是只对事实性信息进行抓取和归纳的初级研究助理，也可以是对行业和企业好不好能形成严谨分析的分析员，甚至可以是直接给出某个申报项目能否批、批多少、批什么条件的授信策略师。“授信策略师”代表最高的技术应用水平，但并不意味着就是当下必选场景。而前两种定位，短期而言或能释放更为显著的价值。

2、面客还是对内？生成式AI目前的互动质量存在不确定性，而银行业在开展个人业务时，面临严格的行为监管和内控要求，因此在“面客”场景首先试点生成式AI，或有较大的挑战。

3、对目前已在应用的传统AI，替代还是结合？从单一任务看，传统机器学习模型更擅长需要较强解释性、需进行量化预测结果的任务，而大模型则偏向于产出业务内容、答疑解惑式场景的任务。因此，大模型和传统的单任务模型之间，或趋向强强结合的关系。

二是方法方面。从0到1训练大模型的成本和难度高，对银行而言，主要落地路径或是直接应用市场上训练好的大模型，但要利用好，需要应对“答案容易偏离事实、胡说八道”“通用知识能力强，但在专业领域可能有所欠缺”这2大挑战。

《报告》给出的方法是，利用三大抓手，即嵌入、提示词设计、微调。利用嵌入，使大模型能基于给定的数据库生成答案；利用强有力的提示词设计，使模型给出契合专业性要求的准确答案；以及直接对开源大模型进行指令精调。

三是技术方面。体现在合理部署、多维选型、全栈升级等。

从部署上看，银行对数据安全性有非常严格的要求，这意味着模型的精调、模型的应用很可能需在本地进行，保证专属数据“不出行”。

若要在全行前中后台规模化应用大模型，算力、模型等多项软硬件能力需要升级。比如大模型的选型尤为重要，模型并非参数量越大越好，训练语料、训练方法、训练时长等均对模型效果有影响。

《报告》提到，从规模化应用考量，未来银行需要引入和维护一个模型库。在现阶段，银行应对大模型的选择保持开放态度，可在一家大模型为主的基础上，尝试其它领先的开源模型，持续寻找场景与模型之间的最佳适配组合。

围绕规模化应用开发，还需构建更多能力，比如基于提示词设计进行应用开发的能力等。

四是体系方面。《报告》认为，生成式AI在银行业规模化应用的落地，是一个体系性工程，并提出“10/20/70”法则，即10%是模型，20%是整体IT能力升级，70%是业务与组织的转型。

当运用AI时，需要有操作行为规范；围绕质量管理、风险监控、责任认定等，需构建匹配的管理机制；还要构建负责任AI体系等。

另外，生成式AI的大范围应用也将变革企业的岗位和人才结构，以及人才的选拔培养体系。

快速行动：由点及面，敏捷推进

对于生成式AI的探索，银行要开展体系化的顶层规划，联合相关业务和科技部门协同努力，推动规模化应用的分步落地。

具体为三个阶段：

一是少量场景的概念验证和局部落地。选择重点应用场景，快速完成概念验证（POC）、构建最小可行性产品（MVP）。通过该过程，诊断技术、业务方面的准备度，梳理出部署模式、技术选型、质量和风险管理的框架标准、配套的组织及资源投入要求。

二是开展全场景盘点+体系规划。基于局部应用的效果和经验，形成规模化实施的顶层规划，包括：盘点银行所有潜在应用场景，基于商业价值和可行性高低，排布场景的落地先后优先级，形成投入产出量化评估方案；形成技术架构整体升级的细化方案设计；形成质量和风险管理的体系化方案；形成业务和组织能力转型的方案设计；形成能力建设关键举措及路线图。

三是规模化应用落地+体系能力固化。完成技术和工具基础设施的搭建；依次分批推进应用场景落地；围绕业务、技术端积累应用经验；持续在落地中迭代问题，并将相关能力固化至技术架构、业务流程和管理规范中。

点击查看《银行业生成式AI应用报告（2023）》全文