银行业正加速AI应用，当下尤其关注智能体的落地。不过，银行业是合规要求高的行业，当智能体能够帮忙“干活”，“如何担责”成为一个棘手的问题。近日，工行行长刘珺谈到了这个问题。事实上，此前金融监管和多家银行早已关注到该问题。

工行行长刘珺谈AI应用担责，可考虑将AI视为“准人类法律主体”

在近日举办的2026外滩年会上，刘珺表示，目前，AI快速发展，能力越来越强，可绕过人类进行讨论、谈判，甚至相互串通、破坏系统、超越规则。“这将是非常危险的。”刘珺说道。

由此引出一系列问题：AI是否应当成为与人类并列的法律主体？还是仅仅是技术工具？谁来为它的行为负责？

刘珺提到，过去，银行用计算机系统出现问题，责任在银行自身，无法推卸。但AI不一样，其链条较长，包括算法开发者、程序员、部署方、使用方、最终用户等，而算法又是黑箱。因此，责任的认定与核实，在当下非常困难。

刘珺指出四项“不匹配”问题：监管要求充分披露，但算法和数据参数仍在黑箱之中；数据必须存储在主权管辖范围内，但数据与算法天然跨境流动；AI应当受主权管辖，没有哪个国家愿意把控制权交给他国；最后，商业银行建立在精细的信用评分体系之上，但我们应该如何对人工智能算法进行准确的信用评估？闭源、开放权重、开源模型，各有各的不透明。

想要通过AI促进发展，就需要解决上述问题。刘珺给出的方案是“用收益证明”——谁从AI部署中获益，谁就应当独立承担相应责任。他举例，“若工行在不同业务线上大量使用和部署AI工具和智能体，而所有收益都进入工行的资产负债表以及利润和收入报表，那就意味着我承担AI部署的责任。如果出现严重问题，工行应该向相关受害者赔偿，并向市场给出最终答复。”

目前，工行已部署数百个AI模型，在AI应用的边界上，该行按业务线进行划分：高度依赖数据的业务，给AI更多自主权；直接面向客户的业务，让“环路中的人”处理主要决策；涉及价格管理、金融与社会大额敞口的业务，从一开始就必须有人参与。无论何种情形，“人类必须把关闭开关嵌入流程”。

刘珺还强调，AI工具若不能实现可解释性与互操作性，就必须将其放在一边。

此外，刘珺提出，可考虑将AI视为一种“准人类法律主体”，与人类主体的治理体系并轨，建立统一的监管机制——借助已有的数据标注与追踪能力，把AI的行为轨迹与现有市场参与者的数据整合在一起，实现全流程贯通。

多家银行中高层人员曾谈及“人是责任主体”，监管对此有明确要求

据《银行科技研究社》了解，从近期披露的数据来看，在AI应用加速推进之下，多家银行的Token（词元）消耗数据“水涨船高”。AI不再是简单的问答工具，而是逐渐走进各个业务领域的“同事”。那么，一个此前被效率叙事掩盖的问题浮出水面——由AI造成的问题，谁担责。

在刘珺的上述言论之前，也有其他银行人士谈到过这个问题。

前不久，网商银行信息科技部总经理马晓航指出，在金融业，责任主体永远是人，效率可以交给AI，但判断和责任不能下放。

2025年末，邮储银行总工程师徐朝辉在活动中发表演讲提到，该行坚持“模型为谁工作谁负责”的原则，明确AI助手的结果需由使用者负责，并通过全生命周期、全环节动态、全链路实时管控，确保安全可控、合法合规的底线不被突破。

建行副行长雷鸣也曾表示，该行已构建覆盖业务、数据、模型及网络安全的防控体系，确保使用人作为决策主体的责任人，AI应用始终在有效监督和管控之下。

前中行CIO孟茜早在2025年4月的活动上则强调，银行在应用大模型等人工智能技术时，必须将业务流程的最终责任落实到人。如何落实业务流程的最终责任其实是有待进一步的研究和探索，包括在法律法规层面，也需要有明确的规范和指引。

在AI的选择上，孟茜彼时也提到，在风控、授信、投资等高风险的业务领域，要审慎使用，应该优先选择精确度高、可解释性强的人工智能方案，确保问题可追溯、责任可落实。这与刘珺上述言论“AI工具若不能实现可解释性与互操作性，就必须将其放在一边”的意思差不多。

可见，AI若造成问题，终究要追溯到个人。毕竟，技术可以代理执行，但决策责任无法代理。只是，相关责任的界定和落实，还有一定难度。而可解释性较低的AI，在银行核心业务环节推进应用是必须审慎的。

金融监管在这些问题上对金融机构也有明确的要求。

2026年6月，国家金融监督管理总局在《关于银行业保险业人工智能安全开发应用的指导意见》中提到：

坚持谁使用谁负责，压实金融机构作为金融服务提供方、人工智能技术使用方的主体责任，强化金融机构内部各环节工作责任落实，明确人工智能开发应用各方分工和权责义务。

完善人机协同的业务管理流程，科学设定人工智能的功能边界、系统和数据权限，明确人员岗位责任，确保业务全流程管理责任清晰、可落实、可追溯。

在高风险应用关键环节建立人工监督和干预机制，明确紧急停用及模型退出条件，建立备用系统或人工替代流程。

促进可解释性。金融机构应制定人工智能模型的可解释性方法，加强推理解释和决策分析。可解释性不足的人工智能技术在高风险场景应用时，仅能作为辅助工具，应由人工进行最终决策。人工智能模型应用于涉及客户权益或有实质性财务影响的关键决策时，须设置人工复核节点，完整保留原始数据、推理路径及阈值触发记录，确保责任可追溯。定期对人工智能模型算法开展审计。

9月30日，平安银行通过了《平安银行人工智能管理办法》，是上市银行首部人工智能管理办法。其中也提到，遵循“谁使用谁负责”等原则，健全责任追溯等机制。