前几天在一堆研究报告里翻到一份标题叫《ChatGPT应用第三次展望》的文档。说实话这两年多我看过太多AI应用的展望了但“第三次”这个限定词反而让我停了一下。它提醒我一件事ChatGPT应用这个话题已经被反复讨论了至少两轮而每一轮的核心命题都不一样。第一次讲“AI要改变世界”第二次讲“AI要进入软件”那第三次呢我顺手把自己这两年攒下的观察、踩过的坑、看过的商业案例重新捋了一遍发现这一轮的变化确实和前面两轮不一样。这篇文章就是这次重捋的完整记录。我不会再重复“大模型很厉害未来已来”这种正确的废话而是想聊点实际的前两轮展望为什么差了一口气、现在这轮变化的底层逻辑是什么、哪些应用场景真能赚到钱、以及应该用哪些指标去验证一个AI应用项目的成色。如果你正在公司里推AI落地或者准备在AI方向做点什么这篇应该能帮你省掉不少自己摸索的时间。1. 前两轮展望都说了什么为什么总差一口气1.1 第一轮从惊艳到“玩具”缺的从来不是想象力2022年底到2023年初那阵子应该是所有关注AI的人记忆最密集的时期。ChatGPT刚露出锋芒业内几乎一致认为它要重写整个软件行业。第一轮展望的主线也特别清晰搜索要被颠覆、内容创作要变天、教育会被重塑。那段时间我身边很多朋友已经开始用AI写文案、做翻译、编代码那种“科幻走进现实”的冲击感是真实的所以当时观点激进一点完全情有可原。但问题很快就浮出水面。模型输出虽然流畅却并不稳定。同一个问题换个问法它就能给你完全不同的答案还经常一本正经地编造信息。一旦把它放进真实业务流程比如整理一份客户合同、自动生成一份符合格式规范的日报表错误率立刻让人望而却步。更麻烦的是第一轮里大部分所谓应用其实就是把“对话框”搬进了产品里整体上的互动方式没有任何改变。用户头三天觉得新鲜天天去问它各种奇怪问题一周之后热度降下来留存掉得非常快。我跟踪过几个当时爆火的AI小工具它们在社交网络上的传播数据很漂亮但30天后的活跃用户少得可怜。第一轮展望最大的问题不是想象力不够而是把“能聊天”误当成了“能干活”。语言模型在生成文本这个单一动作上确实很强可真实世界的任务从来不是一次生成而是一连串带约束条件的动作组合查数据、判断合规、调用系统、输出结果、留痕归档。做不到稳定闭环应用就只能停留在尝鲜阶段热闹归热闹商业上立不起来。1.2 第二轮AI助手与插件生态热闹是热闹付费是真少到了2023年年中情况有了明显变化。模型能力升级API开始大规模对外开放各家软件厂商也陆续把AI做成了“边栏助手”的形态行业里管这类产品叫副驾驶式助手。这一轮展望的核心叙事也变成了“AI从聊天框走进软件成为每个人的工作副驾驶”。文字生成、表格处理、会议纪要、代码补全这些功能开始真实地出现在日常办公流里。我自己那段时间的体验是这一轮确实解决了不少“从0到1”的问题。写周报不用再对着空白文档发呆AI能从聊天记录里自动拉出工作事项十分钟整出一版初稿处理表格也简单了直接说需求AI帮忙写公式、做透视。但问题也恰恰出在这儿大量应用还是停留在“AI给建议人做决定”的辅助状态。AI把原本的活干快了不少却没有真正改变业务流程本身。在企业客户的财务账上这类支出被归到“效率改善型”而不是“生产必须型”。于是圈子里开始流行一句玩笑话AI助手满天飞但真正愿意为它单独付费的企业却没多少。个人用户这边也一样尝鲜冲劲过了之后订阅取消率居高不下。第二轮展望留下的核心教训是如果应用只是在增强用户原有的操作商业价值就很容易停留在“锦上添花”的层面。而锦上添花的预算在经济一有风吹草动时总是最先被砍掉的那一类。这也是“第三次展望”必须切换视角的原因重点不再是AI帮你把活干得更好而是AI能不能直接替你接过一部分活。2. 第三次展望的分水岭应用范式从“辅助”切换到“代理”2.1 Agent不再只是概念任务闭环是核心门槛第三次展望里出现频率最高的词已经从“生成”变成了“执行”从“副驾驶”变成了Agent。Agent并不算新概念学术界讨论了几十年但大语言模型的成熟第一次给Agent装上了“理解自然语言并自主行动”的通用底座。你可以把Agent理解成一个带工牌的数字员工你告诉它目标它自己拆解任务、调用工具、检查中间结果、失败自动重试最后把完整成果拿给你验收。副驾驶和Agent的本质区别用大白话说就是前者给建议后者替你办事。比如同样处理一笔客户退款副驾驶能帮你起草一封道歉邮件而Agent会自己去查订单状态、核对退款政策、更新后台系统、把处理结果通知客户只有在碰到权限或异常情况时才会叫你介入。这个差别看起来只是一小步却让AI从一个提效工具变成了真正参与业务运转的劳动力环节。但Agent要真正成立核心不在于概念而在于任务闭环的成功率。这句话我感触特别深。用户对工具有很高的容错率因为人会自己修正用户对“代理”却几乎零容忍因为把任务交出去之后默认结果就该是完成的。一个Agent处理客服工单的成功率如果只有85%企业大概率宁可继续养人工团队——那15%的异常处理成本可能比省下的人力成本还要高。所以第三次展望里Agent应用的竞争焦点不在谁的模型参数更多而在谁能把任务成功率从90%推到99%同时建立一套人机协同的兜底机制。2.2 多模态与长上下文让AI真正接手“整件事”这轮展望还有一个容易被忽略的技术底座变化多模态和长上下文能力正在快速成熟。上一轮AI大多只能吃文本一旦涉到图片、图表、音视频就得靠人工先转成文字再喂给模型链条一长实用性就垂直往下掉。现在模型可以直接看图、听语音、读表格应用能处理的信息种类一下子拓宽了。长上下文解决的是一个更现实的问题。早先模型的上下文窗口很小处理一份长合同得分段往进喂还容易丢上下文。现在主流模型的上下文窗口已经大到能装下一整本产品手册甚至一个代码仓库Agent在处理任务时可以先通读全部背景资料再规划行动步骤。这意味着复杂任务的自动化第一次在工程上变得可行不用人工帮AI做前置的信息整理AI自己会查全量资料再开工。我观察到的实际落地案例里质检、财务、医疗这几个方向对长上下文的依赖最明显。比如质检团队过去想用AI看有缺陷的产品照片模型只能输出一条条概率判断现在可以把整套生产记录和图像打包交给Agent让它按质量标准逐项核验最后提交一份带依据的检测结论。多模态和长上下文带来的不只是“能看懂更多格式”而是“能承担整条工作流的责任”这个变化对应用商业模式的拉动是直接的。2.3 端云协同把模型成本打下来AI才有条件进入毛细血管大模型刚火的那两年应用落地慢有一个很现实的原因成本太高。每调用一次大模型都是钱企业做一个看似不大的功能API账单却可能高得吓人。第三次展望里底层环境有一个重要变化模型推理的单位成本在快速下移同时部分推理能力开始下沉到端侧设备形成了“端云协同”的架构。端云协同说白了就是敏感的、轻量的任务留在手机、电脑、汽车这些本地设备上处理复杂、重度依赖知识的任务再上云交给大模型。这个搭配直接把AI应用的边际成本压了下来。以会议纪要软件为例过去的方案是把整段录音传到云端转写既有隐私顾虑成本也不低现在的方案是本地完成转写和摘要只有用户需要深度整理时才把一份精简文本送到云端做进一步分析。成本下降带来的影响远远不止“省了点调用费”这么简单而是整个商业模型的重新成立。过去AI服务对客单价高的大企业才有吸引力中小企业的付费能力撑不起这个成本现在按量计费、按效果付费的门槛大幅降低中小客户也有机会用上以前够不着的智能能力。我一直觉得技术只有便宜到可以被忽略时才真正谈得上普惠。这也应该是第三次展望与前面两轮在底层底色上最大的差异。3. 我看好的几个应用主战场以及它们的赚钱逻辑3.1 办公协同AI附加包模式先看按钮渗透率再谈增长办公协同应该是吃AI红利最早的品类毕竟所有人都要写文档、做表格、发邮件、开会。但这轮的变化不再是“边栏里多一个AI助手”而是AI开始介入流程管理。比如会议结束后Agent不只给你一份纪要还会自动把待办事项同步进项目工具、给参会人发出跟进邮件、甚至把下周排期里的冲突项标出来。从辅助写作到接管流程办公软件的AI价值从“省时”升级成“省人”企业的付费意愿自然不一样。判断一个办公AI产品靠不靠谱我建议先看一个指标按钮渗透率。也就是用户每天打开软件后真正点击AI功能的次数和比例。很多产品上了AI功能入口藏在二级菜单里生成质量又起伏不定用户试一两次就不再碰了。这种产品无论宣传上多好看本质都是无效功能。反过来如果按钮渗透率和人均调用次数在持续上升说明这个AI能力已经进入了用户的肌肉记忆后续做附加包收费、扩大渗透率才有基础。办公协同现在的收费模式主流是“原订阅AI附加包”。这种模式的好处是现金流可预测坏处也很典型用户很容易对“又要加钱”产生抵触。所以我一直觉得办公AI的竞争不是比谁加载的大模型能力多而是比谁能把功能做得足够隐形——用户感觉不到AI的存在但明显觉得办事变快了这才是真正嵌进了工作流。3.2 垂直行业数据和行业Know-how比模型参数更稀缺通用模型训练依赖公开数据可真正值钱的行业数据都散落在各家企业的业务系统里比如病历、工艺参数、合同条款、客服记录。任何人都能调用同一个大模型API获得基础智能但只要你把某个行业的私有数据和业务流程接进去你做出来的产品就从“谁都能做的通用工具”变成了“只有熟悉这一行的人才能做出的专业系统”。拿医疗来举例。病历电子化很多年前就普及了但医生写病历依旧耗时因为病历不只是记录还要符合诊断逻辑、编码规则和医保报销口径。如果把一个读过大量既往病历、熟悉主治医生习惯的Agent接进去它可以从诊疗录音里自动生成结构化病历还能在关键诊断节点提示医生确认。这类场景的客户价值感非常强因为离开它医生又得回到两小时手工整理病历的状态。制造和金融的逻辑也类似。制造业里的设备维护知识库、质量检测记录金融领域的合规审查、研报结构化都是“数据流程”的双重壁垒。垂直行业的商业模式一般从“标杆项目订阅制”起步先跟头部客户做深度定制把模型调优、流程跑通再把沉淀下来的能力产品化卖给行业里的其他客户。项目制周期确实长但客户粘性和续约率往往比通用场景好——业务系统一旦接进去切换成本就非常高这对做应用的人来说反而是最舒服的壁垒。3.3 端侧智能换机周期与软件包的二次销售机会第三个主战场不在纯软件里而是藏在硬件设备上。手机、电脑、汽车、可穿戴设备这两年在集体把AI能力当成核心卖点。设备厂商的逻辑很直接把大模型能力叠加到系统与应用里既能让旧用户产生换机动力又能在软件层面卖出增量服务。端侧智能的机会主要有两块。一块是存量设备的AI化改造比如手机相册的智能整理、通话录音的离线摘要、导航语音交互的语义升级。这些功能不需要换硬件可以通过操作系统升级推给存量用户软件AI增强包就是典型的二次销售。另一块是新设备的AI原生体验比如车机里真正能理解车主指令的语音助手用户说一句“导航到附近的充电站并预约充电”系统能把多步操作一次做完。端侧模型受限于算力和功耗精度上会比云端大模型打折扣但换来了隐私和时延优势不少数据不出设备就能处理精准命中了对安全要求极高的场景。端侧智能的挑战同样摆在明面上模型要在电池、发热、存储的夹缝里求生存。我见过不少端侧demo做得非常惊艳一到量产就因为功耗超标被砍。判断端侧项目别只盯着发布会要看它在真实设备上的连续工作表现、发热曲线和续航变化。这类产品能成往往是系统工程的胜利AI只是其中一环。4. 商业化验证的几个硬指标怎么读财报外的信号4.1 四种付费模式正在同时出现市场用脚投票AI应用讲了几年概念现在到了最关键的一题谁买单、怎么买单。我梳理下来市场上同时存在四种付费模式各有各的适用场景也各有各的坑。付费模式典型场景优势最需要警惕的问题订阅制个人助手、办公套件现金流稳定、续费可预测订阅疲劳取消率可能很高按量计费API调用、文档处理门槛低与真实用量匹配模型成本波动直接影响利润席位制企业AI账号预算清晰便于IT统筹账号大量闲置激活率低效果分成客服、营销、招聘客户付费意愿强验收口径难统一回款周期长订阅制大家最熟悉逻辑上和视频会员差不多优点是现金流好预测缺点是用户一旦觉得一个月没怎么用说断就断。按量计费是API开放后兴起的主流按Token或按任务数结账对使用方最公平但对应用厂商来说毛利率控不住用得多反而亏得多。席位制在企业软件里最常见按AI账号数收费适合知识管理这类高频场景但要防的是企业买了100个账号天天在用的只有10个。效果分成是这几类里最激进也最有意思的AI按照“为企业节省的人力时间”或“带来的增量收入”抽成客户接受度通常很高但双方常常为了效果口径扯皮很长时间。从研究视角看付费模式的演进本身就在传递一个信号市场开始从“看用户数”转向“看收入质量”。以前讲AI应用讲DAU、讲下载量现在真被认可的项目讲的是付费转化率、续约率、回款周期和经营性现金流。故事讲得再大接不住财务验证长期看都站不稳。4.2 算力成本快速下移应用毛利率的改善比营收增长更值得关注接下来这点我觉得特别关键看AI应用项目别只盯着营收增速毛利率的改善往往更能说明问题。过去一年多里主流大模型的API价格整体呈数量级下降模型厂商为了抢市场不断压价加上推理侧优化技术的成熟单位Token成本已经远低于早期。对应用层来说这是一个非常典型的成本红利周期。但成本下降对不同公司的意义完全不同。有一类公司做的事情本质上是转售API从模型厂商那里买来能力套一层壳加一点提示词优化再卖给客户。这类公司营收可能涨得很快可毛利率被上游卡得死死的一旦模型厂商提价或者转头自己做应用几乎没有还手之力。另一类公司把模型只是当作一个组件嵌进自己的完整业务流程交付的还包括数据清洗、工作流改造、运维服务等一整套东西这种公司的毛利率改善空间明显更大也更不容易被模型版本迭代击穿。我自己的判断标准很简单连续三个季度看一家AI应用公司的毛利率变化再配合看净收入留存率。如果营收在涨、毛利率在涨、老客户还在持续增购说明它和客户之间形成了正向循环成本红利正在转化为实际利润如果只有营收涨、毛利率原地踏步甚至下降那大概率是补贴和低价换来的虚火。这种验证逻辑放到第二次展望时根本没得用因为当时连规模化的营收都还没有现在能拿这套逻辑来检验公司本身就说明AI应用正在往成熟期走。5. 最容易踩的三个认知陷阱以及我自己的判断框架5.1 陷阱一把Demo当成产品把流量当成收入短视频里的AI演示特别诱人几秒生成一个网站、一句话做一部短片每次刷到都会让人觉得未来已来。但按我跟踪项目的经验从Demo到产品之间隔着三道坎比大多数人想象中宽得多。第一道是数据接入演示用的是精心准备的数据真实环境里的数据又脏又乱格式千奇百怪模型很可能第一步就崩掉。第二道是容错机制演示允许一次成功生产环境却要处理成千上万次运行里的偶发失败没有异常捕获、自动重试、降级方案根本不敢让系统上线。第三道是权限与安全真实企业里每个角色能看到的数据不同AI如何按角色控制知识边界是个需要专门设计的工程问题。流量陷阱则更隐蔽。很多AI产品会挑一个很讨巧的出圈功能比如星座运势、朋友圈文案生成瞬间拉来大量用户。但这些用户是被热闹吸引来的不是被价值吸引来的。热度一退留存掉到个位数的案例比比皆是。我判断一个AI应用会主动忽略那些强调注册量和下载量的宣传口径转去看三个更冷的指标付费转化率、剔除补贴后的自然留存率、活跃用户的人均调用次数。前两个说明用户是不是真的需要第三个说明需求是不是真的高频。5.2 陷阱二忽略场景的“深度”只盯着模型的“广度”通用大模型的能力还在一路升级但有一个经常被误判的事实模型变强并不必然带来应用层的繁荣。原因很直白——如果你做的应用只是简单调用通用模型的能力那么模型越强你被顶替的风险反而越大。用户可以直接去找模型原厂为什么要多经过你这一层API是公开的套壳成本又低竞争壁垒从何而来真正能守住位置的是场景的深度。同一个大模型套在一套只会做表面问答的客服机器人里和接入一套打通了订单、CRM、退换货规则、历史工单、用户画像的客服系统里完全是两种物种。前者换掉模型供应商毫无成本后者因为已经和企业核心业务流程深度绑定切换成本极高。我见过一个让整个客服团队离不开的Agent它最厉害的不是聊天多流畅而是在低置信度时能自动转人工并且先把推测的问题类别、用户历史记录都整理好附在转接页面人工客服接手的时间直接少了一半。这种润物细无声的深场景系统才是应用层真正的护城河。所以每次看到有人讲“我们的模型又升级了”我会追问一句你的应用绑定的到底是模型能力还是那套已经长在客户业务流程里的系统如果答案是后者模型升级反而是你的利好能用同样的底座去承接更复杂的场景如果答案是前者那你的生意本质上是搬运工赚的是辛苦费不太值得给高估值。5.3 我的三问框架高频、飞轮、毛利看过足够多的AI应用项目之后我给自己总结了一个三问框架用来过滤大部分看起来很美、实际不成立的项目。第一问它嵌在用户的高频核心链路里吗如果不是每天至少用一次而是一周才想起来打开一次这个产品在商业上很难成立。高频不只是带来源源不断的订阅续约更会持续产生行为数据这些数据本身就有价值。第二问它能形成数据飞轮吗好的AI应用应该越用越准、越用越懂场景。用户每次交互都在产生反馈反过来修正模型和流程最终提高任务成功率和切换成本。如果产品只是单向调用通用模型用完即走不沉淀任何能让自己变强的数据那它就永远是在拿通用能力赚辛苦钱。第三问毛利和续约最终能兑现吗这是最务实的一问。概念期可以讲增长故事但AI应用已经过了纯概念期现在该看真金白银的验证了。毛利率低说明没有议价权续约率低说明价值没有持续兑现。我把这三问当成过滤器三项都能给出好答案的项目不多但一旦出现就值得长期跟踪。6. 写在后面这轮展望真正该盯住的信号和普通人的机会6.1 我接下来重点观察的五个信号第三次展望说了这么多最后要落回到可验证的层面。我给自己列了一份观察清单准备在接下来一段时间反复复盘。第一API调用量的自然增长率。这句“自然”很关键要剔除促销、补贴、一次性大单的影响只看真实使用需求有没有持续往上走。第二Agent任务的端到端成功率有没有跨过可用线。不同场景的可用线不同但普遍要往95%以上靠跨不过这条线Agent就永远只是辅助工具谈不上替代劳动力。第三企业客户的AI预算归属。看企业是把AI费用放在“创新实验预算”里还是放进了常规业务IT预算。前者意味着随时可能被砍后者意味着AI已经开始成为业务基础设施。第四端侧AI设备的渗透率和杀手级应用的日活。设备卖出去只是第一步用户每天在用的端侧AI功能才是价值真正落地的证据。第五垂直行业头部客户的续约率和客单价变化。头部客户续约说明行业路线跑得通客单价逐年上升说明客户确实从AI里赚到了钱。6.2 普通从业者怎么参与这轮机会讲完观察框架最后说点对普通人更实用的。如果你是开发者建议别再花大量精力做接API、调提示词这类浅层套壳把时间投到Agent工作流设计、行业数据工程、可观测性这几个方向这类技能在未来两三年会越来越值钱。如果你是产品经理选一个具体的工种去研究它的AI化改造比如客服运营的AI化改造、财务对账的AI化改造。把一个流程研究透比泛泛了解一百个场景更有产出。即使你不做技术这轮机会也和你有关。把AI当成生产工具本身就是在积累自己的场景Know-how。我这两年最大的体会是会用AI的人在职场上已经被明显拉开差距——差距不是写提示词写得多花哨而是知道哪个环节交给AI能省时间、哪个环节必须自己来。这种判断力就是普通人在AI时代最值钱的能力。最后说一句可能有点逆潮流的话。我始终觉得这一轮展望之后会淘汰一大批只会复读概念、没有真实客户和收入的PPT型产品。这没什么可惜的。真正留下来的是那些把模型能力、行业数据、业务流程、交付服务拧成一股绳的应用。对我个人来说ChatGPT应用的第三次展望最值得期待的不是又有什么炫酷的新功能而是这些功能终于开始安静地坐到业务系统后台替人把活干完。比起热闹我更期待这种安静。