AI（人工智能）技术已发展多年，其中，近几年备受关注的“分支”——生成式AI/大模型，让AI得以史无前例地“破圈”。新技术的发展需要监管引导，从历史经验来看，监管政策必然是落后于技术本身的发展，但“虽迟但到”，国家金融监督管理总局近日发布了《关于银行业保险业人工智能安全开发应用的指导意见》（以下简称“《指导意见》”），旨在推进AI技术与金融业务的融合，同时引导金融领域AI应用的安全发展。

《指导意见》中有不少重点。此次，《银行科技研究社》尝试提取其中的几项重点。

众所周知，科技是一把“双刃剑”，它在加速银行数字化转型、助力降本增效的同时，也给银行带来一定的风险。从金融监管机构发布的“金融科技”或“网络安全、数据安全”罚单就能看出，银行在推进金融科技发展的同时，不一定能控制好风险。

因此，《指导意见》的第一个重点即“安全、可控”，其中多个章节均提到相关要求：

坚持自主可控，持续提升人工智能相关技术、设备自主可控水平，提高对业务经营发展有重大影响的关键平台、关键软硬件的自主研发能力，加强信息技术应用创新适配。

金融机构对生成式人工智能模型要实施准入管理，评估模型效能及安全合规性。外部引入的生成式人工智能模型需经过网信部门备案。

提高安全运行能力。金融机构要加强智能算力资源的云化管理，加强对人工智能应用的运行监测，实现对应用、模型、算力、网络的一体化管理，保障人工智能应用安全可靠运行。

此外，在“加强数据安全与个人信息保护”“提升网络安全防御能力”“加强运营韧性及业务连续性管理”等方面均提出了更具体的要求。

值得注意的是，其中提到“自主可控”和“加强信息技术应用创新适配”，两者一同指向近几年发展如火如荼的“信创”。在国家大力推进“信创”的背景下，银行在AI布局上，也应重视对“信创”软硬件的适配。

第二个重点是“理性投入”。对于银行来说，目前AI投入的价值尚不明确，因此不能盲目跟进。《指导意见》提出，坚持务实高效，以提升业务价值为导向，科学规划人工智能开发应用投入，有效平衡成本与效益，推动人工智能切实服务经济高质量发展和金融业务高效运转。

此外，《指导意见》也提到，探索建立业务价值导向的人工智能应用绩效评估机制。也就是说，对于银行来说，未来AI应用成效应当可量化，以此评估AI到底干得好不好、赚不赚钱或省不省钱等。对此，目前各机构仍在摸索中。

第三个重点是“先富带后富”。中小银行在资金、人才、技术等方面，与大行之间存在较大差距，若大行能向中小银行进行相应输出，将有利于提高行业应用AI的整体水平。

因此，《指导意见》提出，鼓励大型金融机构发挥示范作用，向中小金融机构输出人工智能技术和管理经验。

鼓励有条件的大型金融机构向中小金融机构输出算力服务，支持同业探索基础设施共建共享。

第四个重点是“高质量数据集建设”。作为AI的“燃料”，数据的质量和模型的能力有很大的关系。因此，目前各行业均在推动数据集建设。前不久，国家数据局发布的《关于推进行业高质量数据集建设行动的实施方案》也提出，聚焦包括金融服务在内的重点领域，加快推进行业高质量数据集建设。

《指导意见》则提到，建设人工智能高质量数据集。金融机构应针对人工智能业务场景持续推进高质量数据集建设，确立数据质量标准，建立高效的质量检控机制，确保数据准确性、相关性、一致性、完整性和无偏见。探索运用人工智能技术强化实时数据、非结构化数据的动态感知、智能提取和解析处理。持续监测数据分布漂移，确保数据集及时更新。

支持行业数据集共建共享。鼓励有条件的金融机构协同多源数据，融合行业经验知识与专业判断，通过系统性筛选、清洗、标注、合成等方式形成高质量数据集，支持金融机构间依法合规开展数据集共享。

第五个重点是“注意高风险应用”。《指导意见》提到：

强化高风险应用准入管理。涉及资金交易、资产评估、信贷审批、承保理赔、风险管理等，以及与客户利益直接相关、直接影响金融合约达成的生成式人工智能场景应用应被视为高风险应用。人工智能高风险应用须经本机构风险管理委员会批准后方可实施。

加强高风险应用监测和干预。金融机构要加强对人工智能在业务场景中的运行监测，及时发现和管控模型风险。在高风险应用关键环节建立人工监督和干预机制，明确紧急停用及模型退出条件，建立备用系统或人工替代流程。

虽然《指导意见》中未写明AI高风险应用的概念，但从上述例举的应用来看，其指的应该是那些一旦AI出错或滥用，可能对重大财产权益、基本权利等造成严重损害的场景。

第六个重点是“关注可解释性”。据悉，AI可解释性是指人工智能模型的决策逻辑、预测依据与推理过程能够被人类理解和追溯的能力，核心目标是破解AI模型的“黑箱”问题，让AI的输出不再是无法解释的结果。通俗来说，即AI让人类能理解其为何做出某个决定或给出某项结果。

在受到强监管的金融业，AI的“可解释性”是满足监管合规、建立客户信任的关键。

因此，《指导意见》提出，促进可解释性。金融机构应制定人工智能模型的可解释性方法，加强推理解释和决策分析。可解释性不足的人工智能技术在高风险场景应用时，仅能作为辅助工具，应由人工进行最终决策。人工智能模型应用于涉及客户权益或有实质性财务影响的关键决策时，须设置人工复核节点，完整保留原始数据、推理路径及阈值触发记录，确保责任可追溯。定期对人工智能模型算法开展审计。

所以，在某些场景，当AI可解释性不足时，AI只能作为辅助工具，最终还是通过“人机协同”完成工作。