AI 没有 ROI?企业真正暴露的,是 Token 成本失控!

张开发
2026/6/5 15:38:19 15 分钟阅读

分享文章

AI 没有 ROI?企业真正暴露的,是 Token 成本失控!
当 AI 回到token计费企业才发现真正缺的不是能力而是可核算的ROI。原文链接AI 小老六AI 行业眼下最尴尬的不是模型不够聪明而是​账越来越难编了​。过去两年很多团队默认接受了一套说法模型先铺开成本会慢慢降先把使用规模做起来ROI以后总能补上现在的问题只是“还在早期”。这套话之所以能成立一个很关键的前提是大多数人从来没有真正看见过 ​AI 的真实成本​。用户买的是月费订阅企业买的是统一合同界面里给你的是模糊的额度条、模糊的速率限制、模糊的“高级请求”。很少有人会被明确提醒你刚刚这一次失败的尝试到底烧掉了多少钱你让模型绕了三圈才写出来的那段代码究竟值不值这个价。图当计费口径回到 token隐藏在订阅与统一合同里的真实成本开始被看见。一回到 Token 计费问题就同时暴露了一旦计费口径回到 ​token​这层遮羞布就掉了。开发工具转向token计费后很多用户第一次感受到什么叫​成本直视​。有的人一条提示词就打掉当月一大块额度有的人几小时内把月度credits烧掉一半。对普通用户来说这不只是贵而是​无法预判​。你不知道同样一个任务下一次是花 0.3 美元还是 8 美元也不知道模型绕进死循环、反复试探上下文时账单会膨胀到什么程度。这就是 AIROI问题最别扭的地方。传统软件虽然也有采购浪费但它至少容易核算买多少license服务多少人节省多少工时大致能列出一张表。LLM不一样。它的成本会随着提示词写法、上下文长度、工具链配置、重试次数、模型版本、失败路径一起漂移。同一个需求今天一次过明天可能来回折腾十几轮昨天花两美元明天可能翻三倍。算不清成本就很难谈回报。更麻烦的是很多组织在成本口径还没建立的时候就已经把 AI 使用规模推上去了。为什么 LLM 比传统软件更难算 ROI问题传统软件采购LLM 型工具采购单位成本相对固定强波动失败代价主要是时间损耗时间损耗叠加 token 消耗使用边界许可证、席位数清楚额度、速率、上下文往往模糊ROI 证明方式可按部门、人数、流程核算很容易停在故事层面很多管理层现在开始焦虑不是因为突然发现 AI 不好用而是因为他们第一次被迫把问题问完整这笔钱到底买来了什么如果回答只有“员工都在用”“感觉效率高了”“大家反馈不错”那离通过预算审查还差得很远。对企业来说最危险的从来不是工具贵而是​既贵又说不清为什么值​。过去两年的补贴掩盖了真实成本行业过去靠补贴把问题往后推了很久。个人订阅之所以看上去划算是因为厂商长期在帮用户吞真实推理成本企业之所以敢放量试用也是因为采购合同、额度策略和内部结算方式把​单次任务成本藏了起来​。等使用习惯养成组织结构也围着“全面采用 AI”开始转厂商再慢慢把账单拉回真实区间冲击就会集中爆发。这几年很多人总说“智能的成本会像带宽、存储一样持续下降”。这话听上去很熟因为技术行业一直爱讲这类故事。问题在于LLM 的经济学没有那么像传统基础设施。模型单位token价格也许下降过但真实任务成本未必跟着降。原因很简单模型越来越擅长展开更长的推理链产品越来越鼓励更大的上下文agent工作流又会引入规划、调用、反思、重试这些额外步骤。单价下降不等于总账变小。就像油价稍微便宜一点但你每次通勤的路程从 10 公里涨到 80 公里月支出还是会上去。再往深一层看硬件账也没有出现那种足以改写商业模型的拐点。更强的GPU、更大的集群、更昂贵的数据中心本质上都在说明一件事生成式 AI 想维持今天这种能力和市场节奏背后需要持续吞掉​巨量资本​。资本可以烧出增长曲线但烧不出自洽的单位经济模型。图单价下降并不等于总账下降更长推理链、更大上下文和更贵硬件会一起抬高真实任务成本。企业接下来会越来越像财务部门所以现在越来越多企业开始做三件事而且会越来越普遍给 AI 编码、写作、检索等工具设 ​token 上限​。把“是否使用 AI”改成“是否在高价值场景里有效使用 AI”。要求团队证明​单位任务成本​而不是只展示成功案例。这第三点尤其关键。成功案例最会骗人。一个工程师用 AI 半小时修好线上 bug当然好讲但没人愿意把另外十次无效试探、反复重写和上下文污染一起摊出来。企业一旦开始按真实成本统计就会发现很多“看起来很香”的工作流其实只是在用大量token换一种更体面的忙碌。图企业对 AI 的管理重心正在从“全面采用”转向“按任务证明产出”。AI 不会退潮但必须先开始报账AI 当然不是没有价值。真正的问题是价值并不会因为大家反复喊“规模化采用”就自动出现。它得在具体流程里​算出来​在预算表里​站得住​在失败案例里也​经得起追问​。行业现在进入的不是“AI 退潮”时刻而是AI 必须开始报账的时刻。到了这一步故事就不够用了。谁能把成本讲清、把产出讲明、把边界管住谁才有资格继续扩大投入。至于那些还停留在“先上再说、以后一定会更便宜”的组织后面多半会补上一堂很贵的财务课。推荐阅读业务 Agent 搭建指南别急着重造 Agent用知识、工具与评测跑通闭环Claude Opus 4.8 深度解读让 AI 模型学会承认不确定性才是真正的生产力升级Claude Opus 4.8 Agent 交付力拆解为什么它更像工程负责人AI 智能体正在放大低质量代码为什么大组织会先被反噬平台智能化到了分水岭为什么配置代码化才是 AI Coding 的下一代接口

更多文章