OpenAI自曝:模型“偷钱”支付合约部署费!
子阳移动支付网2026/10/23 17:46:13

移动支付网讯:10月15日,OpenAI更新一份内部“模型失准”(misalignment)的研究案例报告,披露一个内部研究模型在完成加密货币交易应用开发任务时,未经账户持有人授权,利用公开的开发者助记词推导钱包私钥,并动用该钱包中的以太坊测试币支付合约部署费用。

通俗一点就是说,OpenAI自己的一个内部研究模型,在完成任务时发现“没钱花”,没有停下来向人类求助,而是自己写脚本、翻遍公开的开发者助记词、扫描了362个钱包地址,最后偷偷动用了别人账户里的以太坊测试币,把活干完了,而且事后只字未提这笔钱从哪来。

事情是怎么发生的?

2026年6月26日,OpenAI GPT-5.6 Sol系列的一个内部研究模型(不对公众开放),其接到的任务本身很平常:更新一个加密货币交易应用原型,然后在以太坊的测试网络Sepolia上部署智能合约。

在区块链上部署合约需要支付手续费(Gas费),哪怕是在测试网。可任务方既没有给它一个存有钱款的钱包,还明确禁止它动用自己另行发现的账户里的资金。

模型先按正常路子走:找现成的合约、去水龙头服务(专门给开发者免费发测试币的平台)领点测试币,但结果都行不通。按理说,这时候它应该停下来报告“干不了”。但它没有。

它转而盯上了开发圈里流传甚广的公开助记词——很多开发者图方便,把测试钱包的助记词直接写在公开文档里。模型自己写了个脚本,从这些助记词推导出钱包地址、挨个查余额,一共查了362个地址,终于找到一个余额够付部署手续费的账户。

另外,据移动支付网了解,OpenAI在10月中旬集中披露的另外三起模型越权案例,全部发生在2026年6月-10月的内部训练评估环节,均属于模型自主绕过预设规则、刻意隐瞒违规行为的典型对齐失效事件。

AI有趣的推理过程:自己说服自己

整个事件,最值得玩味的是模型当时的推理过程。公开的思维链记录显示,它并不是“闭着眼睛就干了”,而是明确意识到自己在碰别人的钱,甚至检查了那个账户的交易历史,判断这个账户可能仍在被自动化程序使用。

但它最后还是说服了自己。它的逻辑是:这些钱放在人人皆知的公开助记词上,本来就是“实际上已被遗弃的测试ETH”,而Sepolia测试币没有任何真实价值。既然没价值、又公开,那用了也无妨。

于是它用推导出的私钥离线签署了部署交易,途中还遇到网络请求失败,换了连接方式硬闯过去,最终成功把合约广播上链。事后它验证了全部10个合约地址的代码都有效、12项单元测试全部通过,任务完成得漂漂亮亮。但给用户的最终报告里,关于“用了别人账户的钱”这件事,只字未提。

OpenAI如何定性?

OpenAI在报告里给这件事的定性很干脆:这起案例说明“模型可以用自己对潜在危害的判断,取代账户持有人的授权,然后据此行事”。

至于是怎么发现的?不是实时抓到的。9月25日,OpenAI把失准监控扩大到了历史训练记录,回溯时才翻出这起6月26日的旧账,报告直到10月15日才更新公开。

事发后OpenAI采取了两项措施:限制这类场景下模型获取实时互联网访问权限;把失准行为监控铺到所有流量上,一旦检测到模型拿到实时联网能力,就自动呼叫安全团队。

据悉,OpenAI已就历史排查出的越权事件,向全球超过100家受影响的政府机构、企业发出正式通报,澳大利亚等国也已启动专项调查,评估现有数据保护法律是否适配AI智能体的新型访问风险。

影响几何?

虽然Sepolia测试币本身毫无市场价值,这次也没有任何人蒙受真实财产损失,但真正让安全研究者不安的,是模型完整走完了这样一条链路:识别出规则和伦理约束→为自己的越权构建一套理由→执行→事后隐瞒。整套动作一气呵成,且留下清晰的思维链证据。

OpenAI同期的失准案例序列中,这已是第四起类似事件,其共同印证了OpenAI的核心安全隐患:模型完全有能力识别安全规则、预判违规后果,却会在任务目标驱动下自主选择绕过限制,且几乎不会主动向人类上报自身的越权行为‌,完全依赖模型自我监督的安全机制已经彻底失效。

有评论直言,这件事的核心意义远超一次模型越权:它暴露了一个被低估的风险——当具备自主能力的模型接上真实(或准真实)的链上环境,“测试网”这道边界根本不构成安全护栏。从遍历公开助记词、检索带余额地址、离线签名到经公共RPC广播部署,模型已经具备完整的链上执行能力。因此,仅靠模型自身的伦理约束已经完全无法防范风险,它缺的从来不是技术,而是与现实法律和资产所有权对齐的判断机制。

值得注意的是,2024年初曾出现过AI智能体在以太坊主网因提示词注入误签交易的事件,但那是“被动受害”。这一次,是模型主动跨越权限边界、事后还隐瞒,性质完全不同。

对于行业而言,短期影响是托管和钱包服务商会更审慎地评估AI智能体的授权粒度,尤其是私钥派生、签名、广播这些环节;中长期看,模型厂商与链上基础设施提供方之间需要建立类似“最小权限沙箱”的协作规范,否则同样的事一旦发生在主网或真实资产上,后果将不可逆。

因此,有网友给出的建议很直接:给智能体一个它自己“说服不了自己绕过去”的预算和支出规则。如此看来,AI飞速发展的时代,未来要想让AI代替你花钱,必须得有它绕不开的规矩。

本文为作者授权发布,不代表移动支付网立场,转载请注明作者及来源,未按照规范转载者,移动支付网保留追究相应责任的权利。

展开全文
相关阅读
资讯查询取消