新未来精选看得懂的 AI

深度长文

让 AI 替你下单之前:买错了,这笔账到底算谁的

发布于 · 新未来精选 · 约 13 分钟读完 · #AI购物与消费

一句话结论:元宝、千问都能一句话替你下单了。但法律和支付规则有个默认:你授权的AI下的单,基本算你自己下的。商家的AI客服说错算商家,你自己用的AI说错往往算你。这篇讲清责任怎么分,下单前该看哪几眼。

本文要点

  1. 发生了什么:AI 正在从“说”走到“做”
  2. 规则怎么说:你点的“确认”,就是你的签名
  3. 反直觉的地方:同样是 AI 说错话,账记在不同人头上
  4. 为什么会这样:方便和责任,被放在了天平两头
  5. 对普通人意味着什么:该用,但要管住“授权”这一步
  6. 还有哪些不确定
  7. 结尾:真正要交给 AI 的,是跑腿,不是签字

导语

10 月 30 日,腾讯元宝开放平台上线。现在打开元宝,把模型切到 Hy4 preview,说一句“帮我点一份附近的轻食,不要香菜,30 元以内”,它就会自己去调美团,挑店、下单,连加菜、催餐都能在对话里办。

阿里的千问更早一步。今年春节,千问用 6 天完成了超过 1.2 亿笔 AI 下单;这个双 11,千问 App 里已经能从选品一路走到付款,不用再跳去淘宝。

AI 从“帮你出主意”变成了“替你掏钱”。这件事很方便,但很少有人问一句:它要是买错了,这笔账算谁的?

我翻了现行法律、支付规则、消协的意见和一桩美国判例,答案可能和你想的不一样:在大多数规则里,你授权的 AI 下的单,就等于你自己下的单。 平台和支付机构有责任把关,但“是 AI 买的,不是我”这句话,基本救不了你。看懂这一点,你才知道该把注意力放在哪一步。

一、发生了什么:AI 正在从“说”走到“做”

先看规模。下面几组数字来自各家公开披露,口径不一样,不能直接相加,但方向很清楚。

让 AI 替你下单之前:买错了,这笔账到底算谁的 配图1

据 IT 之家 2 月 12 日报道,千问春节活动 6 天里,用户说了 41 亿次“千问帮我”,AI 完成下单超过 1.2 亿笔,其中有 156 万 60 岁以上的用户第一次点了外卖。支付宝 5 月 26 日宣布,“AI 付”已经完成 3 亿笔智能体支付,服务用户超过 1 亿。智能体,简单说就是能自己动手办事的 AI,不只是聊天。

到了 10 月底,腾讯也把这条路打通了。元宝开放平台首批接入了美团、携程、Keep、猫眼电影、自如、快递 100、猎聘 7 个品牌,腾讯出行的打车技能也说即将推出。官方通稿里有一句话值得记住:关键环节由用户确认。

这句话就是今天这篇文章的核心。因为“确认”那一下,在法律上可能比你想的分量重得多。

二、规则怎么说:你点的“确认”,就是你的签名

法律:自动下的单,对使用者有效

很多人以为,AI 下单是一种新东西,法律还没管到。其实《电子商务法》2019 年就写好了。

第四十八条原文是:“电子商务当事人使用自动信息系统订立或者履行合同的行为对使用该系统的当事人具有法律效力。”

翻译成大白话:你用一套自动化的工具去买东西,工具做出的下单动作,效果算在你身上。当年立法时想的可能是自动抢购、自动续费这类程序,但 AI 智能体放进去,逻辑是一样的。

支付规则:持卡人对 AI 的行为负责

国外的规则写得更直白。我查了 Visa 官网公开的最新版规则(2026 年 10 月 24 日版),里面专门有一节叫“智能体支付提供方,持卡人责任”。原文意思是:持卡人要对智能体支付提供方在智能体交易中做出的任何行为负责,就像这笔交易是持卡人自己发起的一样。 规则还规定,在这类交易里,替你付款的 AI 服务方“被视为持卡人”。

法院:是用户在用,不是 AI 在用

美国还有一个判例,方向也一致。亚马逊起诉 AI 公司 Perplexity,说它的 AI 浏览器替用户在亚马逊上购物,是未经授权访问亚马逊的电脑。一审法院曾经下禁令叫停。但 2026 年 8 月 4 日,美国第九巡回上诉法院撤销了这道禁令,理由是:在现有事实下,访问亚马逊电脑的是用户,AI 助手只是帮用户在亚马逊上办具体的事。9 月,法院又驳回了亚马逊的全院重审申请。

这个案子争的是 AI 公司和网站之间的事,不是消费者买错了谁赔。但它反映了同一种思路:AI 是你手里的工具,它做的事,首先被看作你在做。

把这三条放在一起,结论就出来了:法律、卡组织、法院,都倾向于把 AI 的动作算到授权它的人头上。

三、反直觉的地方:同样是 AI 说错话,账记在不同人头上

说到这里,你可能会觉得:那用 AI 买东西岂不是全部风险自己扛?也不是。关键在于,这个 AI 是谁的。

让 AI 替你下单之前:买错了,这笔账到底算谁的 配图2

今年 8 月,中国消费者协会公布上半年投诉分析,AI 客服成了新的投诉热点。据人民日报报道,有位龚先生在一家二手车 App 买车,付 2000 元订金前,平台官方 AI 客服明确说 2.87 万元车款已经含过户费和上牌费;到了线下交易,销售却要他再交 1000 元过户费。还有不少商家在 AI 说错之后推说“AI 回答不代表公司立场”“算法生成内容不具备法律效力”。

中消协的态度很明确:商家自己部署的 AI 客服,虽然不是独立的法律主体,但它是商家用来做生意的工具,它说的话属于商家服务的一部分。 9 月中消协又发了一次消费提示,重申不能简单拿“算法自动生成”免责。

但同一份意见的后半句,很多人没注意:第三方通用型 AI 的答复,一般不能代表平台或商家的官方承诺。 你自己打开一个聊天 AI 问“这张机票能不能免费退”,它说能,结果不能,这笔账很难算到航空公司头上。中消协给的建议是:价格、费用、退改、售后这些关键事项,务必去商家官网、官方客服二次确认。

所以,同样是 AI 说错话:

  • 商家的 AI 说错了,原则上是商家的责任;
  • 你自己用的 AI 说错了,往往是你自己的风险;
  • 你授权 AI 替你下单,下出来的单,法律上基本视同你自己下的。

这就是为什么“确认”那一下这么重要。在元宝调美团这种模式里,下单这个动作最后落在美团的系统里,确认卡片上的商家、菜品、价格,是美团给出的信息;这时候如果出现货不对板、多收钱,你可以按正常外卖纠纷去找美团和商家。但如果是 AI 理解错了你的意思,比如你说“不要香菜”它没备注,而你在确认卡上点了“确认”,那就更像是你自己没看清。

四、为什么会这样:方便和责任,被放在了天平两头

规则为什么偏向“算你的”

这样设计,不是因为规则制定者不心疼消费者,而是有现实考虑。如果“AI 下的单不算我下的”能成立,任何人都可以买完东西再说是 AI 自作主张,商家和支付机构根本没法做生意。所以规则的思路是:先认定你授权了,再要求平台把“授权”这件事做得清清楚楚。

国内在这方面已经动手了。今年 8 月 24 日,中国支付清算协会发布《智能体支付应用自律公约》,里面有几条和普通人直接相关:

  • 授权协议里要写明交易限额、扣款账户、有效期;
  • 要严格核验用户身份和交易意愿,严防越权支付;
  • 要保障用户随时撤销授权;
  • 要对用户授权、模型决策、支付指令等关键过程留下可追溯、不可篡改的证据链,方便出了争议时认定责任;
  • 对老年人、未成年人要更审慎,给老人提供账单一键查询、AI 支付一键关闭。

这份公约还写了一个原则:“谁提供支付服务谁负责”,持牌支付机构要对账户和资金安全负主体责任。需要说明的是,这是行业自律公约,不是法律,约束力有限,但它代表了支付行业目前公认的底线。

商家和平台各有算盘

另一个容易被忽略的事实是:不是每个 App 都愿意让 AI 替你操作。

AI 替你办事大致有两条路。一条是“走正门”:商家自己把服务做成技能接进来,比如美团接入元宝,下单流程和授权都在商家体系里,有订单、有记录。另一条是“翻窗户”:AI 读你的手机屏幕、模拟你的手指去点,商家事先不知道。

第二条路一直有争议。去年底,豆包手机助手用读屏和模拟点击跨 App 操作,触发过微信、淘宝等应用的风控,后来主动收缩。据每日经济新闻 9 月实测,新一代豆包手机里,微信、美团、淘宝的操作仍然受限;新京报 10 月 21 日报道,豆包手机助手又主动限制了对银行、支付、信贷等金融类 App 的操作。

对普通人来说,这背后的意思很简单:走商家官方接入的服务,出了问题更容易找到人、找到记录。 走读屏点按的路子,一旦出错,你可能连“这一步是谁点的”都说不清。

反方的声音:确认太多,AI 就没用了

也要说句公道话。确认、限额、二次核验,每一道都会让体验变慢。千问春节那 156 万第一次点外卖的老人,恰恰是因为“说一句就行”才用上了。如果每笔都要层层确认,很多不熟悉手机的人可能又被挡在门外。

行业里也有人认为,责任可以往上游转移:只要平台能拿出“用户明确委托”的证据,出了错就该由平台而不是用户兜底。但这目前还只是一些支付公司的观点,没有变成通行规则。

消费者自己的态度更保守。研究机构 Forrester 今年 4 月调查美国、英国、加拿大的网民,约四分之三的人表示,即使能提前设好限额和规则,也不放心让 AI 自己完成付款。有意思的是,受访者普遍觉得,AI 买错了应该由 AI 平台负责。用户心里的责任分配,和现行规则写的,正好是反过来的。

五、对普通人意味着什么:该用,但要管住“授权”这一步

AI 替人下单不是洪水猛兽。2025 年初,美国《华盛顿邮报》的科技专栏作者 Geoffrey Fowler 测试 OpenAI 的 Operator,他只让它找一打最便宜的送货上门鸡蛋,它却自己在 Instacart 下了单,加上服务费、小费和加急配送,一共 31.43 美元。这样的事故今天依然可能发生,但完全可以靠几个习惯挡住大部分。

让 AI 替你下单之前:买错了,这笔账到底算谁的 配图3

第一,把“帮我找”和“帮我买”分开说。 只想比价,就明确说“先别下单”。要买的时候,把预算、数量、忌口、送达时间放进同一句话,别让 AI 去猜。

第二,确认卡片逐项看。 商家是不是你想的那家,规格对不对,数量对不对,总价里有没有配送费、打包费、服务费。AI 嘴上说的价格和确认卡上的数字不一样,以卡片为准,不对就别点。

第三,管住免密支付。 很多人的支付工具开着小额免密。给 AI 用之前,去设置里看看有没有上限,有没有开交易提醒。给父母的手机尤其要关,或者把限额调到很低。

第四,优先走正门。 同一件事,优先用商家官方接入的技能,而不是让 AI 读屏帮你点。前者有授权流程和订单记录,出了事找得到人。

第五,留证据。 对话截图、确认卡截图、订单号,都留着。真出问题,先找商家和平台的人工客服;客服推说“AI 自动生成”,可以拿中消协的意见去说理,也可以走 12315 或消协投诉。你能说清楚“我授权了什么、没授权什么”,就占了主动。

还有一条常识别忘了:AI 下的单也是网购订单。按消费者权益保护法,大部分网购商品可以七天无理由退货,但外卖这种鲜活易腐的东西不在其中。所以越是不能退的东西,越要在确认那一步看仔细。

六、还有哪些不确定

第一,国内还没有专门的“AI 代下单”法律条文。《电子商务法》第四十八条是现成的依据,但 AI 理解错用户意思时怎么算,比如你说 30 元以内它下了 38 元,你又点了确认,这类争议具体怎么判,截至发稿我没有查到国内法院的公开判决。

第二,《智能体支付应用自律公约》是行业自律,执行得怎么样,要看各家实际落地。公约还要求,智能体自己主动发起支付这类更激进的玩法,上线前要向协会报备。

第三,各家的确认流程、限额设置、售后规则都还在快速变化。本文提到的元宝、千问、豆包手机的功能,以各自最新的官方说明为准。

结尾:真正要交给 AI 的,是跑腿,不是签字

一句话点外卖、订机票、买菜,这些事 AI 确实做得越来越好,没必要拒绝。

但要记住,在今天的规则里,AI 更像一个替你跑腿的人。它可以帮你找店、比价、填单,最后那一下“确认”,签的是你的名字。

所以下次让 AI 替你花钱,别急着点确认。多看三秒,看清商家、数量和总价。这三秒,可能就是“AI 帮了我”和“AI 坑了我”之间的距离。


参考来源

  1. 商业与生活(网易订阅):元宝开放平台上线,美团、携程、猫眼电影等已经以技能形式接入元宝(2026-10-30) https://www.163.com/dy/article/LAGJ8DAK0511EN3S.html
  2. 信息时报(同花顺转载):元宝开放平台正式上线(2026-10-31) https://field.10jqka.com.cn/20261031/c681321493.shtml
  3. IT之家(新浪科技转载):阿里千问 6 天 AI 订单量破 1.2 亿单(2026-02-12) https://finance.sina.com.cn/tech/digi/2026-02-12/doc-inhmpqki9865514.shtml
  4. 中新网:支付宝宣布完成 AI 支付全域布局(2026-05-26) http://www.chinanews.com.cn/cj/2026/05-26/10629053.shtml
  5. 每日经济新闻:豆包抢成交,千问造“铲子”(2026-10-23) https://www.nbd.com.cn/articles/2026-10-23/4614334.html
  6. 《中华人民共和国电子商务法》(国家网信办网站) https://www.cac.gov.cn/2018-09/01/c_1123362506_2.htm
  7. Visa Core Rules and Visa Product and Service Rules(2026-10-24 版) https://corporate.visa.com/content/dam/VCOM/download/about-visa/visa-rules-public.pdf
  8. 美国第九巡回上诉法院:Amazon.com Services v. Perplexity AI 判决书(2026-08-04) https://cdn.ca9.uscourts.gov/datastore/opinions/2026/08/04/26-1444.pdf
  9. Mealey's:9th Circuit Won't Rehear Perplexity Agentic AI Vacated Injunction Ruling https://www.mealeys.com/mealeys/articles/2531276/9th-circuit-won-t-rehear-perplexity-agentic-ai-vacated-injunction-ruling
  10. 人民日报(人民网):AI 客服承诺不实怎么办(2026-08-06) http://finance.people.com.cn/n1/2026/0806/c1004-40774639.html
  11. 经济日报(新华网转载):AI 客服成消费投诉新热点(2026-08-17) http://www.news.cn/tech/20260817/f05985ebfc3b4a17bfbb774c62ada5ab/c.html
  12. 科技日报(国家科技管理信息系统转载):别让 AI 服务误导消费决策(2026-09-02) https://www.ncsti.gov.cn/kjdt/kjrd/rgzn_kjrd/202609/t20260902_255014.html
  13. 中国支付清算协会:《智能体支付应用自律公约》(2026-08-24,移动支付网全文) https://www.mpaypass.com.cn/download/202608/25105546.html
  14. 每日经济新闻:实测努比亚“豆包手机二代”(2026-09-16) https://www.nbd.com.cn/articles/2026-09-16/4583181.html
  15. 新京报:豆包手机助手更新拒绝操作应用清单,主动限制金融类应用操作能力(2026-10-21) https://www.bjnews.com.cn/detail/1792585899129469.html
  16. Forrester:Consumers Aren't Ready To Delegate Payments To AI Agents(2026-06-15) https://www.forrester.com/blogs/consumers-arent-ready-to-delegate-payments-to-ai-agents/
  17. 华盛顿邮报:Is OpenAI's Operator, a new AI 'agent,' ready to help in the real world?(2025-02-07) https://www.washingtonpost.com/technology/2025/02/07/openai-operator-ai-agent-chatgpt/