AI圈五大争议:开闭源、Scaling Law、Agent、安全对齐与评测体系

📅 发布时间:2026/10/17 5:52:14
AI圈五大争议:开闭源、Scaling Law、Agent、安全对齐与评测体系
明天就要进场了会议日程翻到最后我的感受是今年 AI 圈真正值得听的东西不在 keynote 的大屏上而在那些“吵”得最凶的讨论里。这份攻略就是帮你提前把今年 AI 到底在“吵”什么理清楚方便明天进场后能在最短时间内看懂台上台下的分歧不至于听完一场圆桌只觉得“两边都说得有道理但不知道谁对谁错”。AI 行业发展到今天纯跑分和参数已经不是唯一焦点路线选择、商业模式和价值观的争吵反而成了主线。开闭源、Scaling Law、Agent、安全对齐、评测体系这五个话题几乎可以肯定会在明天的任何一个分会场反复出现。你不需要全听懂但至少要知道谁在吵、吵什么、哪句话值得记下来、哪个提问能问出真东西。1. 今年 AI 圈都在“吵”什么先看清三条矛盾线1.1 表面看是技术之争底层其实是路线和利益之争把今年所有论坛和圆桌的争吵汇总一下能归纳成三条相互交叉的矛盾线。第一条是技术路线之争核心问题是“继续堆规模还能不能换来真正的智能提升”。一方认为 Scaling Law 还没到头只要算力、数据、参数继续扩张能力就会继续涌现现在唱衰的人只是没看到长线曲线。另一方认为预训练阶段的规模红利已经明显衰减接下来应该把资源转向推理阶段的精细优化、合成数据和测试时计算这些新方向。技术博主喜欢把这场争论描述成“大力出奇迹”和“精耕细作”的对立但严格来说两方并不是完全互斥真正的分歧在于资源应该往哪投。第二条是利益之争最典型的体现就是开源和闭源的对立。开源方说开放生态才能让技术被最大规模地使用闭源方说我投入了巨额资金和算力理应通过闭源授权回收成本并保证质量可控。这背后不只是技术理念更是商业模式和行业话语权的争夺所以它吵得最凶因为每一句话后面都站着真金白银。第三条是价值之争。AI 能力释放得越快安全对齐的压力就越大。有人怕 AI 被滥用有人怕过度安全导致模型“变笨”。这个分歧在学术会议上有在商业发布会的问答环节更明显而且往往是全场最容易冷场又最能炸场的话题。1.2 今晚先做三件小事明天少走一半弯路攻略不是让你临时抱佛背一堆术语而是用最小的成本建立基本判断框架。我个人建议今晚只花半小时做三件事。第一件事把五张“立场速查卡”记在手机备忘录里。你要记的不是跑分而是每个话题的核心分歧点。第二件事打开明天会议议程把所有带“圆桌”“辩论”“问答”字样的 session 标红这些环节才是真正会吵起来的地方keynote 大多是单方面输出很难听到冲突。第三件事写下三个自己的问题不用宏观但必须是具体问题比如“你们端侧模型在断网环境下的实际准确率能到多少”现场提问的时候具体问题比宏观问题管用得多。为了方便你躺在床上临时抱佛脚我把五个话题的速查卡先放在这里。话题核心分歧现场最容易识别的信号开闭源开放生态 vs 商业回报与可控性是否公开权重、训练数据和评测方法Scaling Law继续堆规模 vs 精耕细作提效率演讲里反复出现“算力”还是“推理成本”Agent真生产力 vs 演示型 Demo敢不敢现场跑完整任务并给失败率安全对齐能力释放 vs 风险控制有没有可复现的红队报告评测体系榜单分数 vs 真实体验敢不敢现场跑自己准备的刁钻任务这三件小事做完你进场时就已经比一半参会者有准备了。2. 第一场大戏开源与闭源到底该不该把模型放出来2.1 双方到底在争什么开源闭源这个话题的激烈程度过去几年一直是逐年上涨的。支持开源的开发者会说模型权重公开意味着任何人可以在本地部署、微调、二次开发学术研究可以复现中小企业可以降低使用门槛整个生态也会因为社区贡献而加速进化。反对的声音也不弱模型如果是开源的恶意使用者可以拿去做钓鱼邮件和深度伪造开源模型没法做集中管控一旦出现安全缺陷连打补丁都找不到一个统一出口更现实的一点是开源会削弱闭源厂商的商业护城河让投入巨额研发成本的团队难以通过授权获取合理回报。这不是简单的好与坏而是开放程度与可控性、商业可持续性之间的权衡。我见过很多开发者在私下说得更直白闭源旗舰的推理能力确实强但用起来要忍受不透明的更新和越来越贵的接口费用开源模型虽然可控但能力落差需要自己花精力去补。所以你会发现现场辩论时很多人表面在谈技术实际上在谈“我愿意为不可见的能力付出多少成本”和“我愿意为自由放弃多少性能”。2.2 明天现场怎么看风向看风向不要只看 PPT 上写了多少个“开源”要看他们发布的内容属于哪一层。模型权重是否公开、训练数据是否公开、评测方法是否公开、商业使用条款是否放得很宽这四者可以排列组合出很多种“伪开源”。到时候你现场对比这四个答案基本就能判断对方是真心拥抱开放还是只是把它当营销标签。另一个值得观察的点是厂商自己的使用姿态。有些团队嘴上说开源但自家主力产品反而是闭源接口这种“双重标准”往往会被观众当场追问。反过来如果一家创业公司宣布把底座模型开源但同时提供托管服务和微调工具那说明它在尝试“开源获客、服务收费”的新商业模式这也是今年一个值得记下来的行业信号。听完这场之后还有一个附加任务看看展台工作人员怎么介绍自己的模型能力如果他们把“可本地化部署”放在第一页那大概率是在对标开源社区做差异化。3. 第二场大戏堆算力还能走多远Scaling Law 是不是到顶了3.1 “大即是好”正在被认真挑战Scaling Law 可以理解成“大力出奇迹”的学术版模型越大、数据越多、算力越强能力就越强。这个逻辑确实带来了一轮又一轮的进步但今年质疑的声音明显比以往更具体也更技术化。数据瓶颈是第一个现实难题人类生产的高质量文本快被用完继续凑数只会引入更多噪音。能源和算力成本是第二个约束训练一次超大模型的成本已经高到只有极少数团队才扛得住边际收益却在下降。更关键的是很多研究者在尝试复现超大模型收益时发现同等规模下收益并没有想象中那样稳定。所以代表“精耕细作”的一方开始提出新方案在推理阶段让模型多“想”一会儿也就是测试时计算用合成数据来缓解真实数据枯竭用混合专家架构降低单次推理成本把大模型的能力蒸馏到更小的模型上。这些路线的共同点是不再把“更大”当作唯一目标而是把“同样的成本下获得更强的实际效果”当作目标。3.2 现场听到这些词你就知道风向变了明天听 session 的时候不需要去记那些复杂曲线你只需要竖起耳朵捕捉几个关键词。如果演讲者反复提“推理效率”“延迟预算”“成本敏感”说明他站在精耕细作派。如果他反复提“数据规模”“参数量”“算力集群”说明他还是规模派。两派博弈最精彩的地方在于新品发布往往两边都沾PPT 前半段讲规模后半段突然讲效率优化这种骑墙本身就是行业焦虑的表现。到问答环节你可以用一个百试百灵的提问探测态度“请问贵团队下一步研发重点是把底座模型做得更大还是把推理做得更聪明”不管对方回答哪个你都能从他的补充说明里听出真实预算投向。另外展台如果有配套的推理应用 demo可以仔细观察它的响应速度如果一个号称“超大底座”的产品在 demo 中表现得又慢又卡那你基本就能判断规模派的叙事和落地派的产品之间的鸿沟明年还会继续拉大。4. 第三场大戏Agent 到底是未来还是又一场大型 Demo4.1 争议的焦点稳定性和评测都没有跟上Agent 这个概念今年火得不能再火几乎每场发布会都会说“我们进入了 Agent 元年”。但如果把标签摘下掰开看Agent 的核心争议其实在于它到底能稳定完成任务还是只能在精心设计的 demo 里完成任务。做工程的朋友应该都懂Agent 的本质很像一个实习生理解目标、拆解步骤、调用工具、处理反馈。问题是这个实习生在理想环境里表现惊艳一旦遇到页面改版、权限缺失、接口报错、中间结果异常很容易陷入死循环。多步任务的失败率是 Agent 落地最大的坎而很多厂商不愿意公开真实任务的成功率只愿意给你看精选案例。评测体系也没有跟上。传统基准测的是“一次作答”Agent 测的却是“多轮决策链”两者完全不是一回事。所以今天你在现场会看到立场对立得很明显做应用的团队说“Agent 已经到生产力边界了”做研究的团队却说“连可靠的评估集都没建好谈元年太早”。4.2 现场验证 Agent 的五个提问看 Agent 相关 demo 时我建议你把“哇”的情绪收起来带着五个问题去审视。第一个如果这一步调用外部工具失败Agent 会自动重试还是直接崩溃第二个中间步骤出错时的日志是否可追溯用户能干预到哪一层第三个多步任务的平均完成率和极端情况完成率分别是多少能不能给数据第四个整个任务跑下来的 token 成本是多少你有没有考虑过真实业务每天跑几百次的情况第五个你们 Agent 在测试环境和生产环境的性能差别有多大这五个问题问完基本没有 demo 团队能全部正面回答。这不是刁难而是帮你自己判断这个 Agent 是工程团队打磨过的可交付产品还是演示团队专门调的舞台剧本。真正有底气的团队会主动把失败案例放出来讲因为他们知道失败模式才最能体现工程质量。5. 第四场大戏安全对齐和能力释放正在拔河5.1 远虑和近忧两边都很真实AI 安全的争论在会场里可以看见两个完全不同的层次。一层谈远虑讨论强人工智能会不会在未来某天带来不可控风险话题偏向结构性和哲学性参与者多是研究者和政策观察者。另一层谈近忧聚焦当下大模型已经出现的幻觉、越狱、隐私泄露、恶意滥用参与者多是工程师和安全产品经理。两拨人虽然都叫“安全”但诉求差别极大所以很容易吵起来。近忧派觉得远虑派在空谈不如多拿几个真实攻击样本做红队测试远虑派觉得近忧派视野太窄只盯着眼前 bug 而看不到系统性问题。更微妙的是安全对齐本身也在和能力释放拔河用户希望模型“有边界但不要过度拒绝”开发者希望模型“安全但不显得笨”而安全团队希望在发布前把风险降到足够低。三者之间存在真实的张力。现场有一个很有意思的观察方式安全团队的演讲通常比较谨慎喜欢讲原则和框架工程团队的演讲则偏向展示能力边界和失败案例。如果你能把两场连起来听会发现他们经常在同一个问题上给出完全不同的优先级排序这就是当天最有价值的冲突。5.2 安全问题怎么问才不会冷场直接问“你们模型安全吗”是一个错误问题对方只要回答“我们高度重视安全”你就得不到任何信息。更聪明的问法是把安全拉回到具体场景里比如“遇到用户反复诱导越狱时你们是倾向于强硬拒绝导致对话中止还是尝试柔性拦截保持对话继续”这个问题背后其实是安全策略与用户体验的取舍对方再怎么公关也会在回答里泄露产品策略。还有一个值得关注的细节就是看对方有没有发布可复现的红队报告。不是说所有团队都必须公开安全细节但一个愿意分享攻击方法、防御失败案例的团队通常比只展示“我们通过了严格的检测机制”这句话的团队更值得信任。今年很多安全讨论已经从“要不要安全”进化到了“安全如何不被当作营销话术”你明天听到这句话的时候就知道辩论又深了一层。6. 第五场大戏榜单分数和真实体验到底该信哪个6.1 刷榜、污染与评测失效分数越来越不值钱评测是今年最少上热搜但后台吵架最凶的话题之一。标准的跑分基准比如各种选择题和推理题集已经越来越难分辨模型之间的真实差异因为榜单前排的分数早就饱和了每家都在小数点后两三位互相较劲。另一个问题是数据污染某个模型的训练语料可能已经包含评测题的答案测试集再也没法保证“未知”。更麻烦的是传统评测考的是“一次性回答”而真实用户使用 AI 时在意的是“多轮对话一致性”“长文本理解”“工具调用流畅度”“指令遵循稳定性”这些维度很难被单一分数代表。所以现在陆续有人提出用人类偏好对齐率、用户留存率、真实任务完成率来替代旧基准但新标准还没有形成江湖地位于是你在现场会看到一种有趣的错位厂商在发布会上放榜单图研发人员在私下吐槽榜单图毫无意义。6.2 现场鉴别宣传水分的技巧明天逛展台吹牛指数最高的地方往往是评测分数海报。我的经验很简单每看到一个高分就追问三个问题。第一个这个分数是在哪个基准上测的第二个该基准的测试集最近一次更新是什么时候第三个有没有跟真人盲测做过对比真正有实力的团队不怕你多问一句最害怕你问测试集时效性的团队背后多半是刷分高手。另外你可以在展台让他们现场跑一个你事先准备好的小任务最好是你自己行业里那种有点刁钻但很真实的任务。演讲稿可以反复排练现场跑任务很难完全造假。这个办法看起来笨但我在过去两年里用它淘汰了至少一半不合格的“宣传型 demo”。记住分数只能给你一个起跑线真正决定取舍的一定是那个“现场跑得怎么样”的第一印象。7. 明天现场实操攻略去哪听、怎么听、怎么聊7.1 最容易听到真话的四个地方会场的正式 session 固然要听但真正的信息密度在四个容易被忽略的地方。第一圆桌结束后的自由提问时段主持人和嘉宾来不及打圆场冲突会直接暴露。第二展台的一对一交流时间销售和工程师同时在场技术问题会让销售被工程师抢答这时候你能听到更真实的边界。第三茶歇和晚宴的饭桌大家聊的是对同一个话题的真实抱怨比台上体面话生动得多。第四社交群里散场后的长消息很多演讲者会在当天晚上把不便当面说的补充观点写在大段文字里值得刷一遍。建议你提前规划路线不要把时间全花在主会场大屏前。带一个方便移动的位置感去小会议室听圆桌信息密度比大 keynote 高出数倍。7.2 现场不踩雷的提问话术提问是现场获取信息的最高效方式但提问水平直接决定回答质量。通用型提问“你怎么看待未来 AI 发展”只会得到通用型回答等于白问。你需要把问题变得可回答、可验证、带情境。一个实用句式是“在某个具体场景下你会如何权衡两个目标”比如“在客服场景下你会优先保证响应速度还是回答准确率”这种问题看似二选一其实能让对方把真实的优先级排序讲出来。另一个好用的句式是“如果你的方案失败了最可能的原因是什么”。这个问题听上去有点冒犯但恰恰能让有经验的工程师打开话匣子因为他大概率已经踩过这个坑。要尽量避免的提问类型包括索要商业机密的对方必然拒绝评价竞争对手的对方必然说官话引用网上八卦的对方会发现你不是业内人士反而失去交流兴趣。把问题设定在具体场景里把自己放在“想解决问题”而不是“想考倒对方”的位置上对话自然就会有质量。7.3 会后复盘清单散场不等于结束当晚的复盘比现场听一天更重要。我个人习惯按四步走。第一把会上记下的冲突话题和不同立场整理成一张“观点地图”标注哪一派说了什么第二把在展台拿到的所有 demo 截图和回复记录归档一个月后再回看会发现当初的判断哪些准、哪些被带偏了第三挑一个自己领域内真正要解决的问题用会上听到的方法跑一个最小验证第四把没想明白的问题写成一段三句话的总结留到下一次参会前翻出来继续追。复盘看起来费时间但正是这个动作能把一次“听个热闹”变成一次“看懂门道”。我参加过的 AI 会议不算少最大的体会是行业的热点每半年就会换一批关键词但真正值得关注的永远是“谁在为什么目标做取舍”。明天你只要带着这份攻略把五个吵架话题的立场先摆好再去找真实案例和现场实跑基本就不会被 PPT 带着走。希望你在现场找到自己的答案也希望会后你能带着一个具体的新认知回来而不只是手机里多了一堆合照。