人工智能发展简史:从符号主义到预训练大模型的逻辑梳理

📅 发布时间:2026/10/15 12:38:56
人工智能发展简史:从符号主义到预训练大模型的逻辑梳理
最近在准备一场知识类面试我把人工智能发展简史从头到尾重新捋了一遍顺手做成了一份复习笔记。起因是被连续追问了几个框架性问题第一次AI寒冬到底是怎么来的、深度学习凭什么在2010年代突然“能打”、预训练大模型这条路和早年的专家系统是不是同一条路。我发现自己能说出不少名词但真要把因果链讲清楚还是有点心虚。这份笔记适合几类人准备考试的学生、刚转行想做AI产品与算法方向的从业者、需要搭知识骨架的产品经理以及单纯想把AI故事讲清楚的人。我不会罗列一堆论文名字就完事而是按“为什么发生”“怎么传导”“后来怎么样了”来梳理尽量把每个转折背后的逻辑讲明白。整理完之后我对“人工智能”这个词的理解也发生变化了——它从来不是一个平滑向上的故事更像是一轮又一轮的“高估—失望—换引擎—再出发”。1. 复习前先回答一个问题什么才算“人工智能”1.1 定义为什么总在漂移复习简史之前先要把“人工智能”的边界搞清楚否则后面的线索全是乱的。很多教材会把AI定义为“让机器做出需要人类智能才能完成的事情”但这句定义有个麻烦所谓“需要人类智能”的标准一直在变。下棋曾经是典型的智能行为可现在手机上的象棋程序随便赢普通人大家也不再把它当作“真正的人工智能”。翻译曾经很了不起如今机器翻译成为基础功能也很少有人觉得这是“智能”的最好证明。定义漂移的背后其实是同一件事一旦某个AI技术变得普及、稳定、可预期它就会从“智能”名单里被划掉变成普通软件功能。这种“AI效应”在复习时一定要记住它解释了很多“AI又失败了”的错觉——有些东西不是没做成而是做成之后大家不再叫它AI。另一个实用定义是人工智能研究的是“如何让系统在不确定环境里完成原本需要人类认知能力才能完成的任务”。它不要求机器真的像人一样思考只要求在结果上靠谱。复习时我习惯用这个务实版定义它能帮我把一堆旧系统放进同一个坐标系里比较。1.2 两条路线之争符号主义与联结主义发展简史里最常遇到、也最容易被考到的是两大学派符号主义和联结主义。早期这条路线的前提是智能可以用符号和规则来描述机器只要掌握足够的“如果—那么”式规则再进行符号推演就能表现出智能。你可以把它想象成给机器发一本《文明行为手册》手册条目越细机器的表现越“得体”。逻辑推理、知识图谱、专家系统都属于这个谱系。联结主义则走另一条路它不预先写规则而是模仿生物神经元的连接方式让系统从大量样本里自己“长”出权重和规律。打个比方前者是照着菜谱做菜每一步都有说明后者是让一个学徒在厨房里看了一万次颠勺之后自己形成肌肉记忆。神经网络、深度学习、现在的大模型通通属于联结主义阵营。复习时要建立的第一组对立关系就是“写规则”和“学权重”。这两条路线在历史上交替繁荣几乎决定了AI发展史的节奏。深度学习的成功不代表联结主义“完全正确”只能说明在数据量足够大的前提下学习权重的路线更容易规模化。而符号主义沉淀下来的知识表示、推理框架到今天仍在知识增强、可解释性工作中被反复使用。1.3 最容易混淆的四组边界复习AI史最怕把几个层级概念搅在一起。很多人口中的“AI”在不同年代指的东西完全不一样。做题或者面试时先界定语境能避免一半的错答案。第一组是AI、机器学习、深度学习、大模型的关系AI是学科总称机器学习是AI里“从数据中自动归纳规律”的一个分支深度学习是机器学习里依赖多层神经网络的那一派大模型则是深度学习的一个特定形态——通常指参数量巨大、在超大规模文本或其他数据上预训练而成的模型。这四层是包含关系不是并列的四样东西。第二组是“强人工智能”与“弱人工智能”的区别。现在所有能用的AI几乎都是弱人工智能它们在特定任务上表现很好但没有通用的自我意识和迁移推理能力。每次媒体用科幻镜头配“AI觉醒”的稿件都是混淆了这两者的典型。第三组是“机器学习”和“传统编程”的差别。传统编程是人写规则机器执行机器学习是人写“学习规则”机器从数据里反推出业务规则。简史里所有路线转折本质上都是“让人类直接编写知识”和“让机器自己提炼知识”这两种思路的拉锯。第四组是“判断型AI”与“生成型AI”。判断型AI输出一个类别或分数比如图片是不是猫、用户会不会流失生成型AI输出一段文本、一张图或一段代码。大语言模型火了之后很多人误以为生成才是AI的目标其实判断和生成只是同一套学习能力在不同输出形式上的应用。搞清楚这四组边界后面读任何一段历史都不会把因果安到错误的角色头上。2. 学科诞生之前那些藏在“人工智能”名字前面的思想铺垫2.1 “机器能不能思考”最先是一个数学问题不少人以为人工智能是从造机器人开始的实际上它第一个关键问题是个数学问题到底什么叫“可计算”上世纪30年代一位数学家把“能够通过有限步骤算出来”这件事做了严格的形式化定义并提出了一台理论上的通用计算装置。这个工作意义极大它第一次告诉人们有一大类问题理论上可以被机器一步步算出来。没有这个基础后面谈“机器模仿智能”就没有讨论框架。同一时期这位数学家还提出了一个著名的思想实验让测试者隔着屏幕用对话来分辨另一头是人还是机器如果机器能让足够多的人分不清那它就应该被视为有智能。这个测试后来成了几乎所有科普书的开场段但它真正的价值不是当考题而是把“智能”从哲学问题变成了可操作的验证问题。复习时要注意这个测试本身有局限——它只考察“模仿对话”的能力不考察理解、意图或伦理。可以在笔记上补一句这是“表现得像人类”的测试不是“真的在思考”的证明。2.2 神经元的数学化第一条可训练的路在AI获得正式名字之前另一群人在做更“硬核”的工作把生物神经元的激发过程抽象成数学公式。生物神经元接收多个输入信号超过某个阈值就“激活”并向下一个神经元传递信号。研究者把这个过程简化成“加权求和再经过一个非线性判断”于是得到一个非常简单的数学模型。到了50年代一种名为感知机的学习算法登上舞台。它是历史上第一个让“权重可以自动调整”的机器学习方法给一堆带标签的样本机器通过反复修正权重来降低错误率。这在当时是很震撼的——不需要人手动写规则机器居然能“学会”区分简单图形。感知机直接点燃了第一波神经网络研究的热潮也成为日后深度学习的远祖。2.3 控制论与信息论智能研究的两块积木除了神经网络这条线另外两门学科也为AI提供了早期零件一个是控制论一个是信息论。控制论的核心概念是“反馈”系统根据自身输出与预期目标的差距来修正行为。空调控温、舵手转向都靠反馈智能系统也一样——先预测、再对比、再调整。信息论则提供了度量“不确定性”和“信息量”的工具。它告诉研究者信号里的冗余、噪声、编码都是可量化的。机器学习和统计建模后来大量使用概率论工具根源就在这里。复习时要理解AI不是凭空诞生的单一技术它把可计算理论、神经科学、控制论、信息论几股支流汇到了一起。与其说某个发明者“创造了AI”不如说这些思想在50年代中期终于聚到了一张会议桌上。2.4 1956年的“冠名仪式”1956年东部一所高校组织了一场为期约两个月的夏季研讨会。一群不同背景的研究者聚在一起会议提案里第一次正式使用了“人工智能”这个说法并给出了研究计划语言模拟、神经网络、创造性、抽象思维等方向被列上议程。有意思的是这场会议并没有在技术上立刻产出惊天成果但它做了一件影响深远的事给一堆分散的研究起了共同名字把零散兴趣变成了一个学科共同体。有了共同名字就有了期刊、会议、资助基金。复习时可以把这次会议看作“AI的冠名仪式”——它不是起点而是“被正式命名”的时刻。从这以后学者们不再只是“研究计算”“研究逻辑”或“研究神经模型的数学家”而是“人工智能研究者”。3. 三次起落人工智能史上的三个拐点与三次刹车3.1 第一波乐观与第一次寒冬60年代到70年代初AI进入第一波高光期。研究者做出了能解代数应用题、能证明定理、能和人用自然语言简单聊天的系统用今天的眼光看这些demo能力非常有限但在当时足以让学界兴奋。加上“几年内造出真正智能”的乐观预言资助和媒体热度迅速高涨。问题也随之而来。规则系统的本质是“把世界上的知识全部写进程序”可真实世界远远复杂于实验室场景。把常识、语言、视觉都形式化工程量指数级上涨。同时神经网络这边也撞了墙感知机被证明只能处理线性可分问题多个作者合著的一本分析著作从数学上指出了这个局限让不少人对神经网络研究失去信心。外部环境一变资助方开始大幅削减经费长达数年的第一次AI寒冬就此开始。复习这条线时注意一个核心原因不是技术“退步”了而是预期跑在了能力前面太多。研究前沿没消失只是从公众视野里撤进了少数实验室。3.2 专家系统时代与第二次寒冬80年代AI用另一种姿势回春专家系统。它不再追求“通用智能”而是老老实实做垂直领域。把某位资深行家的判断规则提取出来编成一套庞大而清晰的规则库系统就能在特定业务场景里提供“专家级建议”。医疗辅助诊断系统、化学分子分析系统、设备配置系统都是这一时期的代表作。专家系统的成功逻辑和第一波完全不同目标更小、领域更窄、评价标准更务实。只要“规则库覆盖到位”系统确实能在业务现场产生价值。因此商业公司开始青睐AI第二次热潮迅速升温。但它很快又撞上两堵墙一是知识获取的瓶颈——请专家逐条讲解规则极其昂贵领域稍有变化规则库几乎要重写二是规则系统的脆弱——出了规则覆盖范围系统会给出离谱答案没有真正的“常识兜底”。到80年代末90年代初专家系统的热度退潮第二次寒冬降临。复习时不要把专家系统简单判为“失败”它证明了“限制问题范围大量领域知识”是当年唯一能落地的组合方式。后来深度学习能赢不是因为“不需要领域知识”而是它用海量标签数据间接吸收了领域知识代价结构完全变了。3.3 统计革命与深度学习的三度登场90年代到2000年代初AI的主流话语权被统计方法接管。人们不再执迷于“写规则”或“学神经元”而是大量使用概率模型、支持向量机、决策树等工具在语音识别、文本分类、推荐系统里取得稳步进展。这时期的共同特征是问题被建模成数学优化问题效果用数据评估说话。它虽然没有戏剧性却为AI的商业应用打牢了地基。神经网络在此期间并没有真的消失一批研究者顶着冷眼继续推进反向传播、多层网络和表示学习。2010年前后借由大规模GPU并行、海量标注数据和新的训练技巧多层的卷积神经网络在图像识别竞赛上大幅刷新纪录深度学习自此“第三次登场”。和前两次不同这次它不是在玩具任务上展示可能性而是在真实世界的核心任务上碾压了传统方法由此开启长达十余年的深度时代。3.4 三次拐点背后的共同规律把这三次起落放在一起看能提炼出一条非常清晰的规律每一次AI复兴本质都是“换了引擎”而不是“把同一个引擎修得更好”。第一轮靠的是手写规则与搜索推理规模一上去就脆。第二轮靠的是专家系统知识获取成本把它锁死。第三轮靠的是数据驱动大规模算力可扩展的神经网络结构边际成本完全不同。每次“寒冬”来临其实都在宣告一种主导路线的上限到了而不是宣告“智能不可能实现”。复习时把这句规律刻在脑子里很多繁杂的时间线会自动变得好记忆。4. 深度学习为什么在21世纪才真正“跑”起来4.1 神经网络“早就该有用”却晚了几十年的原因很多人第一次复习AI史时会疑惑神经网络的思想上世纪就能追溯到为什么还要等到2010年代才突然全面爆发这个问题的答案是理解深度学习时代的钥匙。训练深层网络需要两个“燃料”一个是计算能力一个是数据。早年一个稍大的图像识别任务就能让当时的计算机运行数小时甚至数天更别提出海量参数。数据也一样早期互联网尚未成熟要凑一张几百万张带清洁标签的图像库几乎不可能。没有数据再好的模型也只能在小型玩具数据集上打转。还有一个纯技术障碍层数加深之后误差信号在反向传播过程中会越传越弱出现严重的梯度消失问题。直到后来研究者引入了更好的激活方式、跨层连接思想、规范化手段深层网络才真正变得可以稳定训练。复习时要把“算力、数据、算法工程技巧”这三样当作一个因果组合单独某一样都不够三者同时到位深度学习才能从论文变成工业基础设施。4.2 图像识别主线从人工特征到端到端学习在深度学习大规模应用前传统的图像识别流程是“人工特征分类器”。工程师会手工设计边缘检测、颜色直方图、纹理描述等特征然后把特征喂给分类器。“特征怎么设计”极其依赖经验几乎决定了系统效果的上限。这是当年计算机视觉的核心瓶颈换个场景原来的特征就不灵。大规模图像数据集和年度识别竞赛彻底改变了这个游戏。数据量上去后人们发现多层的卷积网络不需要人工设计特征它直接从像素学到底层边缘、中层部件、高层语义的表示。这种“端到端学习”的范式让视觉系统的精度出现一轮明显跃迁。复习时记住一句话图像领域的深度革命本质是把特征工程从“人的手工”变成了“网络的层结构”。“人不再告诉模型什么是重要特征模型自己从数据里找出什么是重要特征。”这是理解深度学习优势的最佳入口。4.3 语言理解主线从规则模板到预训练模型自然语言处理的历史路径更加曲折因为语言比图像更依赖上下文和常识。早期的语言系统使用关键词匹配和规则模板遇到“天气”就查天气接口遇到“时间”就报时间。它能在狭窄QA场景里工作但一旦句子拐个弯系统就听不懂了。统计方法阶段研究者用大规模语料计算词与词的共现概率让机器开始“猜”下一个词。这个阶段已经比规则强不少但仍然没有真正利用句子结构和长期依赖。随后出现的循环结构一度承担了序列建模任务但它面对长文时记忆能力有限而且难以并行训练。真正的转折点是注意力机制的引入。它允许模型在生成某个词时动态地把注意力分给句子里的任意位置一举解决了长距离依赖难题。当“预训练”被加进来思路就变成了先用海量文本做“预测下一个词”这种简单任务学到通用的语言表示之后再针对具体任务微调。这种“先预训练、后微调”的模式后来一路从语言扩展到图文、代码甚至视频变成大模型时代的基本范式。复习时要记住三层递进规则模板→统计共现→预训练大模型。每一层都是对“人类如何浓缩语言知识”的更高效回答。4.4 博弈与生成两个特殊的“公开考场”要证明AI系统的能力最好找几个规则清晰、结果可判定的“公开考场”。棋类游戏就是这样一个考场。多年来AI一直在国际象棋、围棋等智力项目上挑战人类顶尖选手。围棋一度被视为“AI最难逾越的棋类”但深度强化学习加自我对弈的方法最终拿下了它。它的意义不在于“会下棋”而在于证明了给定足够逼真的环境AI可以靠试错和自我博弈学到超乎人类直觉的策略。图像和文本生成是另一个考场。生成技术从早期只能产生模糊块的生成式网络一路走到扩散模型支持下高质量、高分辨率、可控制的图像生成再到今天的大语言模型能够生成长篇、结构化、风格稳定的文本。这些进展叠在一起带来了多模态AI的爆发。复习时可以把棋类博弈看作“决策智能”的考场把图像与文本生成看作“创造智能”的考场。两条线一个是“怎么选择最好”一个是“怎么生成最合理”它们共同拼出了当前AI的能力版图。5. 复习坐标必背时间表、必懂模型关系、常考因果链5.1 “十年一格”速记时间表复习阶段最忌把大量年份堆在脑子里死记我用“十年一格”的方式压缩过效果不错。每个年代只记“一个主题一个转折原因”。年代主题关键变化30-40年代计算理论奠基“可计算”被严格定义机器思考的讨论有了理论抓手40-50年代神经网络思想萌芽神经元被数学化感知机成为第一套可训练算法1956年学科冠名夏季研讨会首次统一使用“人工智能”这一名称60-70年代第一波乐观早期搜索、推理、对话demo涌现随后被复杂性和资助缩减压入寒冬80年代专家系统高峰垂直知识系统落地商业场景又被知识获取成本与系统脆弱性拖入第二次寒冬90-00年代统计方法主导机器学习重心转向概率模型AI进入“低热度、高实用”阶段2010年代深度学习爆发大规模数据集GPU让卷积神经网络在图像任务上取得突破2017-2020预训练崛起注意力机制与超大规模预训练让NLP发生质变2021至今生成式与大模型文本、图像、代码、多模态生成全面爆发AI成为通用生产力工具时间表不需要背到每一篇论文能按年代说清“当时主导路线是什么、为什么被替换”就足够了。5.2 两类必懂模型代表与其关系复习简史至少要把两类模型代表讲明白一类是传统机器学习模型的典型另一类是神经网络模型的典型。传统模型代表是支持向量机与决策树的思路它们擅长在有限的、人工构造的特征空间里划边界。支持向量机在2000年前后是工业界的宠儿但它依赖核函数与特征设计可扩展性有限。神经网络的代表则可以选“多层感知机、卷积结构、循环结构、注意力结构”这一条演化链从最简单的全连接堆叠到能抓局部结构的视觉网络再到能处理序列的循环结构最后到能关注任意位置关系的注意力机制。每往前一步都是对“表征能力”的一次升级。这两类模型的关系并非彻底替代。传统模型的优雅之处是样本需求量低、可解释性好在很多小数据场景中仍然实用。深度学习杀手锏是规模可扩展数据量越大、参数越多效果持续变好。复习时把这句话记住很多技术选型面试题都能从根上答起。5.3 三组高频因果链考试和面试最爱考的并不是“某模型效果多好”而是“为什么是它推动了那个变化”。我总结了三组高频因果链强烈建议背下来。第一组早期神经网络失败与两次寒冬的关系。深层网络训练需要数据和算力早年两者都稀缺感知机又被证明无法处理非线性问题。于是在规则路线更加“可解释”的年代神经研究自然退潮也变相助长了专家系统的繁荣。第二组深度学习爆发的先决条件。海量标注数据大规模并行计算训练工程技巧三者同时成熟让端到端卷积网络在视觉竞赛上一鸣惊人此后该方法快速外溢到语音、文本、推荐等领域才孕育出大模型时代。第三组大模型为什么越来越“通用”。预训练在无标注文本上学会了语言规律注意力机制让长文本建模变成可能当参数量和训练数据继续扩大模型在零样本、少样本场景下的表现也跟着提升。于是“一个模型做所有事”开始成为事实多模态模型也随之而来。5.4 考场问答速查模板复习到最后我给自己整理了三个“万能答题框架”遇到开放题可以直接套第一个框架解释“某次AI寒冬”先说当时主导技术再说它撞上的天花板最后说后续资金与关注度如何收缩。例如专家系统主导技术是“规则知识库”天花板是“知识获取成本高、规则覆盖外的答案脆弱”结果是工业界热情退坡、研究重心转向统计方法。第二个框架解释“为什么某某方法会流行”顺着“旧方法瓶颈→新方法的本质改变→需要什么外部条件→产生什么连锁反应”四个阶段讲。比如注意力机制旧瓶颈是循环结构难以并行和记忆长程依赖新方法是让模型任意位置间直接交互外部条件是GPU并行算力足够连锁反应是预训练模型规模变得可以共享和扩展。第三个框架解释“AI能做什么与不能做什么”先摆定义区分弱人工智能与强人工智能然后说当前AI属于“特定任务上的模式学习”最后指出它能做的事受数据分布、上下文长度、算力成本约束不能做的事包括稳定的常识推理、跨任务自主规划和对自身行为的深层解释。这样答既展示了知识面又不夸大、不翻车。6. 复习完这轮简史我最大的几个体会6.1 “当前最好”不等于“唯一正确”复习过程中我反复提醒自己不要用今天的深度学习视角去嘲笑当年的符号主义或者专家系统。每个时代的主流方法都是在当时约束条件下最合理的方案。没有手写规则的第一轮积累就没有“知识表示”的问题意识没有专家系统的商业试错就没有后来“数据成本”的强烈感知。所谓“技术迭代”不是新东西否定旧东西而是新东西解决了旧东西付不起的成本。抱着这个心态复习才能看懂每条路线的遗产而不是只会贴标签。6.2 AI发展不是直线爬坡而是三轮“换发动机”如果把AI史画成一条曲线它不是单调上升的直线而是一波“繁荣—瓶颈—收缩—换路—再繁荣”的过程。早期引擎是逻辑搜索中期引擎是专家知识今天引擎是数据、算力和表示学习。每次换引擎前一个时代的经验和教训都不会彻底消失而是沉淀为下一轮的工具箱。这条规律也可以解释很多行业内现象当某个方向突然降温先别急着说“AI不行了”很可能只是当前的某种技术路线撞到了放大的成本墙另一条引擎正在被悄悄酝酿。6.3 高效复习顺序骨架优先细节后来这次复习让我更加确信AI简史这类内容最忌讳一上来就钻论文细节。正确顺序是先搭“因果骨架”再填“人物和年份细节”。我第一遍直接用“三波起落三次换引擎”作主线把每个阶段的技术瓶颈、解药、成本变化填进结构里第二遍再补关键模型、重要数据集和代表性系统第三遍才回到具体论文标题。这样做的好处是细节知识都有了“锚点”不是孤立记忆。如果你也在备考或准备面试可以试试把一整张A4纸只分成三行符号主义时代、统计学习时代、深度学习时代。三行之间用“为什么替换”连接。能把这张纸对着别人讲清楚你对AI简史的理解就已经超过多数泛泛而谈的介绍了。6.4 给后来者的最后一个建议复习之外我强烈建议动手跑一次小实验哪怕只是用现成工具训练一个小型图像分类器或者微调一个开源语言模型。历史是别人吃过的饭只有自己写一行训练代码看到损失曲线下降、模型输出逐渐有模有样才能真正理解“数据、算力、算法如何互相成就”。我这次复习的收尾实验就是拿一个开源小模型在几万条文本上继续预训练了一小段时间再对比它微调前后的输出质量。那半小时的直观体验比读十篇综述都更能让人记住预训练大模型为什么能成为今天的主角。AI简史真正有意思的地方不在于它“一路高歌”而在于它反复证明了把一个聪明想法变成可用技术还需要一套足够便宜的基础设施。下一次你觉得“某个AI方向是不是到顶了”不妨回头看看这轮简史大概率能找到类似的历史坐标和答案。