AI技术的快速发展带来了前所未有的机遇，各个行业似乎都在经历着变革。但显然技术的每次跃进，也都伴随着诸多挑战。

首先就是个人信息保护和数据滥用问题。

不久前的5月20日，国家网络与信息安全信息通报中心就发布通告，应用宝市场中35款App存在违法违规收集使用个人信息情况，其中不乏一些热门的AI应用，如Kimi、智谱清言、AI音乐学园、AI视频成片、AI剪辑等等。非法使用个人信息，对人脸识别、行为分析等技术的滥用都有可能侵犯个人隐私。

个人敏感数据、企业自主版权数据被用于大模型训练的相关争议也屡见不鲜。曾有某大厂主流AI产品对用户上传的内容及使用权限进行多次修改，经历了一开始的几乎无限使用权再不断缩小范围。原始数据、AI生成内容以及相关的版权归属，目前尚无定论，数据滥用问题有可能引发创作者与AI公司的矛盾。

除此以外，AI带来的挑战还有多个方面，包括法律监管滞后、能源消耗与成本等等。还比如由技术瓶颈所带来的可靠性问题。AI模型依赖大量训练数据，但数据质量参差不齐会导致算法偏见，进而影响应用的可靠性。

与此同时，人们对AI的可靠性担忧甚至有些矛盾：怕它什么都不懂，又怕它懂得太多。然而AI越来越懂是个趋势，它早晚会成为真正的“懂王”。

在此过程中，智能体越界、过度代理等问题就会愈发突出。

所谓的智能体越界问题，指AI（尤其是具备自主决策能力的智能体）在执行任务或与外部环境交互时，超出其设计边界或人类控制范围，从而引发潜在风险和伦理问题的现象。这类问题通常涉及安全、隐私、责任归属、伦理冲突等多个层面。

当AI智能体突破数字边界，其作为代理完成真实世界里的任务，如点外卖、买电影票等，其中的安全可信成为新挑战。一方面，AI智能体的强大是一定程度源自权限的开放；另一方面，AI智能体所执行的任务是不是过载、尺度又是否合适，或者再简单点说，它会不会乱花钱？

去年10月，时任荣耀CEO赵明通过手机内置的AI智能体，用一句话指令完成了2000杯咖啡的自动化下单任务。就算一杯九块九，也得秒花一万九千八。

据移动支付网了解，AI智能体在点咖啡的时候主要通过AI视觉识别技术来实现。这样一来，它无需和第三方应用适配，即可独立完成从商品选择到支付的全流程。同时，由于外卖平台对单次订单有数量限制，AI智能体还会通过多次循环下单来实现2000杯的总目标。

不止荣耀，目前许多手机品牌都已推出自家的AI智能体，从前的“语音助手”似乎变得越来越聪明，更能理解用户的想法，可执行的任务也变得更多元。

那么问题来了，秒花一万九千八算不算AI智能体过度代理？

在“一句话下单2000杯咖啡”演示案例中，赵明演示使用的是Beta测试版本的AI智能体，支持通过免密支付来实现自动化操作。

实际上，用户在进行语音唤醒、下达指令‌、再次确认订单‌等环节后，到了支付环节，会要求用户进行接管，比如点击提交或“确认支付”按钮来完成下单。这个过程如果需要支付密码或其他验证，则也要按照提示操作，从而避免误操作。此外，单次最大点单量会受到平台的限制‌。

总之，因实际体验与发布会上效果存在差距，“一句话下单2000杯咖啡”的案例也被部分网友质疑为营销噱头。但AI智能体也在一定程度上展现出了其技术潜力，比如“秒花一万九千八”，同时暴露了智能体与商业生态对接时的过载风险，以及过度代理可能引发的滥用问题。

如今，AI智能体的自主支付能力还能再进化。

今年4月，在各大厂商接连开放MCP协议的热潮下，支付宝联合魔搭社区在国内推出了“支付MCP Server”服务，让AI智能体一键接入支付，打通从AI服务到AI商业化的“最后一公里”。根据相关测试，AI开发者可以使用自然语言接入支付宝支付服务，快速实现AI智能体内的支付。

5月29日，中国银联也宣布基于MCP协议已上线智能支付服务。通过该服务，能够支持用户在与AI大模型对话中完成支付，实现银联支付与AI的“双向奔赴”。银联智能支付服务旨在扩宽AI的服务边界，让AI实现从提供信息到支付购买的商业闭环。

在海外市场，PayPal也宣称正构建一套专为AI设计的金融操作系统，以让AI智能体能够自由交易；万事达卡则推出了“Agent Pay”产品，在AI智能体执行购物任务时融入支付功能；Visa亦发布了“Visa Intelligent Commerce”，翻译过来就是“智能商务计划”，其核心目标同样是赋予AI智能体自主支付能力。

不过话说回来，AI智能体自主支付是否属于过度代理还取决于其设计边界、用户授权范围以及安全机制等方面的完善程度。

在AI智能体支付环节中，支付企业们均强调了用户始终掌握决策权，目前的模式和应用设计都需要人工在支付环节接管及确认；授权范围方面，不同用户群体可以根据实际情况自行定义，赵明可以“秒花一万九千八”，小编也可以接受“秒花一块九毛八”。毕竟通过代收代付等实现手机话费、水电费的自动扣费，也可以理解为自动化支付任务；安全机制上，若未来完全自动化支付，需采用更严格的技术来保障交易安全，防范“AI劫持”等潜在风险。