Day31-26｜11.2.2 人工智能的发展历程：从符号推理到数据、知识与智能体融合

一、教材定位

本节位于《系统架构设计师教程（第2版）》第11章“未来信息综合技术”中人工智能技术概述部分，承接 11.2.1“人工智能的概念”，为后续 11.2.3“人工智能关键技术”建立时间线和方法论背景。了解发展历程的目的不是记忆若干年份，而是理解不同技术路线解决了什么问题、为什么会出现转折，以及这些历史经验如何影响今天的系统架构设计。

在综合知识考试中，人工智能发展历程可能以选择题、技术路线比较题或新技术背景材料出现；在案例分析和论文中，它往往隐含在“为什么选择某种模型”“为什么需要知识库和规则引擎”“为什么模型上线后还要持续训练”等问题里。考生如果只看到“深度学习”或“大模型”，容易忽略符号知识、概率推理、数据工程、算力平台和业务治理的基础。

二、人工智能发展的总体脉络

人工智能的发展可以概括为几条相互交织的路线：

从规则和符号表示走向统计学习，再走向深度表示学习。
从依赖人工编写知识走向依赖大量数据和计算资源，再走向数据、知识与工具结合。
从解决单一任务走向多任务协同、自然交互和复杂环境中的智能体。
从实验室模型走向可部署、可监控、可审计、可治理的工程系统。

这几条路线不是简单的“旧技术被新技术完全替代”。规则适合表达法律、权限、安全互锁和明确业务流程；统计学习适合从历史数据中发现规律；深度学习适合处理图像、语音和复杂特征；知识图谱、检索和工具调用可以弥补模型的时效性、可解释性和行动能力。现代系统往往采用组合架构。

三、早期探索：人工智能问题的提出

1. 从计算与推理能力出发

早期研究关注机器是否能够进行形式化推理、下棋、证明定理和处理语言。这个阶段的重要贡献是把“智能”拆成可研究的问题，例如搜索、表示、推理、规划和学习。对架构设计师而言，这种拆分非常重要，因为一个复杂的智能应用并不是一个神秘整体，而是由感知、状态表示、候选方案生成、约束判断和动作执行等组件组成。

2. 图灵测试的启发

图灵测试强调通过交互表现判断机器是否具有类似人的智能。它推动了自然语言交互和机器推理研究，但也提醒我们：外在表现相似并不等于内部机制相同，更不等于系统在高风险场景中可靠。现代生成式系统能够生成流畅文本，但架构设计仍需验证事实性、来源和权限，不能仅以“回答像人”作为质量标准。

四、符号主义与专家系统阶段

1. 符号主义的基本思想

符号主义认为，知识可以用符号、事实、规则、逻辑表达式和语义关系表示，智能行为可以通过搜索和推理产生。例如，将“设备温度超过阈值”“冷却系统正常”“负载较高”等事实输入规则库，推导出“需要降低负载并检查散热”的结论。

符号系统的优点是逻辑过程相对清晰、规则可解释、结果容易审计，适合政策校验、权限控制、故障联锁和流程审批。缺点是知识获取困难，对不完整、模糊和噪声数据适应性较弱，规则数量增加后可能出现冲突和维护困难。

2. 专家系统

专家系统通常由知识库、推理机、工作记忆、解释机制和知识获取工具组成。知识库保存事实与规则，推理机根据当前事实选择和执行规则，工作记忆保存中间状态，解释机制说明结论依据。

架构上可以将专家系统分为知识层、推理层和交互层。知识与推理解耦后，领域专家可以维护知识，平台工程师可以维护推理框架。实际工程中还需要规则版本、优先级、冲突处理、回滚和审计，否则规则变化可能引起不可预期的业务行为。

3. 专家系统的局限

专家系统依赖领域专家把经验显式化。现实中的很多经验是隐性的、情境化的，难以完整写成规则；当设备型号、法规或业务流程变化时，规则库也要同步维护。对于图像、语音和自然语言等高维非结构化数据，仅靠人工编写规则很难覆盖全部情况。这些局限推动了统计学习和数据驱动方法的发展。

五、机器学习和统计方法兴起

1. 从规则到数据

机器学习通过样本学习输入与输出之间的规律，而不是为每一种情况手写规则。监督学习使用带标签样本训练分类或回归模型；无监督学习从无标签数据中发现聚类、分布和异常；强化学习通过环境反馈优化策略。

数据驱动方法提高了系统处理复杂模式和噪声的能力，但也带来新的问题：数据是否具有代表性，标签是否正确，模型是否过拟合，训练结果是否可复现，以及生产环境数据变化后效果是否衰减。架构工作因此从“写规则”扩展到数据采集、标注、特征、训练、验证和上线治理。

2. 统计学习的工程价值

统计模型通常具有较好的计算效率和一定的可解释性，适用于风险评分、需求预测、分类、异常检测和推荐等任务。特征工程是这一阶段的重要实践：工程师需要把原始数据加工成有意义的变量，例如近 7 天故障次数、最近一次维护距今时间、温度变化率和用户最近访问频率。

特征工程体现了领域知识与数据方法的结合。它不是简单清洗数据，而是用业务理解构造能够表达问题的变量。今天使用深度学习减少了部分人工特征设计，但业务语义、数据质量和目标定义仍不可缺少。

六、神经网络与深度学习阶段

1. 神经网络的基本思想

神经网络通过多层参数化结构从数据中学习表示。浅层网络能够表达相对简单的关系，深层网络可以逐级提取边缘、纹理、对象、语义和上下文等特征。深度学习在图像识别、语音识别、自然语言处理和复杂预测任务中取得显著效果。

其成功通常来自数据、算法、算力和工程平台的共同发展。更大规模的数据能够覆盖更多场景，更强的计算资源支持复杂训练，更好的网络结构和优化方法提高了学习能力，分布式训练和模型服务平台使模型能够进入生产系统。

2. 深度学习的架构影响

深度学习使系统架构出现了新的组件和流程：数据湖或特征平台、标注平台、训练集群、模型仓库、推理服务、模型监控和 GPU 资源调度。模型不再只是代码中的一个函数，而成为有版本、有依赖、有资源需求和有发布流程的生产资产。

部署时要区分训练和推理。训练关注吞吐、迭代速度和资源利用，推理关注响应时间、并发、成本、稳定性和模型加载。边缘设备还要考虑量化、剪枝、蒸馏、内存和能耗。架构设计师必须把这些约束转换成服务等级目标。

3. 深度学习的局限

深度模型可能需要大量高质量数据，训练和解释成本较高，对分布外样本和对抗输入敏感。模型准确率提高也不等于业务可靠性提高，因为系统还可能遇到接口错误、数据延迟、权限错误、资源耗尽和流程不匹配。工程上需要采用规则约束、置信度阈值、人工复核、回退模型和异常监控。

七、知识表示、知识图谱与数据驱动方法的融合

纯数据驱动模型可能缺少领域知识、事实来源和时效性；纯符号系统又难以处理复杂感知和不确定性。因此，实际系统逐步采用数据、知识和模型融合的方式。

1. 知识表示

知识表示可以使用规则、语义网络、框架、本体、知识图谱和向量表示等形式。知识图谱通常以实体、属性和关系表达领域知识，例如“设备 A 属于生产线 B”“传感器 C 监测设备 A 的轴承温度”“轴承温度异常可能导致停机”。这类结构有助于检索、关联分析、解释和推理。

2. 检索增强

在问答和知识服务中，可以先从经过审核的知识库检索相关内容，再让模型依据检索结果生成回答。这样能够降低知识过期和无依据生成的风险，但检索质量、文档版本、权限过滤和引用准确性仍需治理。模型不能因为接入了知识库就自动获得事实性保证。

3. 规则与模型协同

模型适合识别模式、预测风险和生成候选，规则适合执行确定性约束、权限和安全互锁。两者可以采用串联、并联或仲裁结构：先用规则过滤非法输入，再由模型识别；或者模型提供排序，规则决定最终是否允许执行；发生冲突时由安全规则覆盖模型结果。

八、从单一模型到智能体和多模态系统

近年来人工智能系统从单一任务模型向多模态、工具调用和智能体方向发展。多模态系统可以同时处理文本、图像、语音、视频和传感器信号；智能体可以根据目标进行规划，调用检索、数据库、计算和业务 API，再根据结果继续执行。

但“能够调用工具”不等于“可以无限授权”。智能体架构必须设置工具目录、权限范围、参数校验、调用预算、审批点、超时、幂等和回滚。读操作和写操作应分离，高风险写操作需要人工确认。每一步规划、工具调用和结果都应记录，便于追踪和复盘。

九、人工智能发展对系统架构的启示

1. 技术路线不是替代关系

不同方法适合不同问题。对于明确法规、流程和安全约束，规则系统仍然可靠；对于大量历史数据中的模式，机器学习更合适；对于复杂感知和语义交互，深度模型更有优势；对于需要事实来源和业务行动的系统，则要组合知识库、模型和工具。

2. 数据与知识成为核心资产

模型可以更换，数据血缘、业务语义和知识资产却决定系统长期价值。架构要保护数据质量、版本和权限，支持数据回流、人工修正和跨系统共享。没有数据治理，算法能力难以稳定转化为业务能力。

3. 算力成为架构约束

模型选择需要考虑训练周期、推理成本、峰值并发、能耗和部署位置。不能只比较离线指标，还要计算单位请求成本、资源占用和故障恢复时间。云边端分工、模型压缩、缓存和批处理都是架构决策。

4. 可信和可治理不可后置

人工智能系统的偏差、隐私、解释性、鲁棒性和责任问题应在需求和架构阶段考虑。上线后才补日志、权限和人工接管通常代价很高。对于高风险场景，要从一开始就设计拒答、人工复核和安全降级。

十、案例分析：从专家规则到智能预测的设备运维系统

某能源企业已有一套专家系统，根据温度、压力和振动阈值生成维护告警。系统可解释但误报较多，无法识别多变量组合导致的早期故障。企业计划引入机器学习模型，并希望直接替换原有规则。

问题一：为什么不建议直接替换专家系统？

参考答案：原规则包含领域安全边界和工程经验，虽然误报较多，但可能承担安全互锁和明确告警职责。机器学习模型在历史数据上有效，不代表能覆盖极端故障、设备变更和分布外样本；直接替换会丢失可解释性和安全兜底。应先区分安全规则、业务告警和预测模型的职责，采用融合架构。

问题二：设计融合架构

参考答案：采集层统一传感器数据、时间戳、设备型号和校准状态；数据平台保存原始数据、清洗数据和维护结果。规则引擎负责硬阈值、联锁和明确安全条件；机器学习服务根据多变量时序预测故障概率和剩余寿命；决策编排层综合模型置信度、规则结果、设备状态和维护资源，生成维护优先级；低置信度或规则与模型冲突时转人工；工单关闭结果和真实故障结果回流数据平台，支持模型再训练。模型、规则和配置都纳入版本和审计管理。

问题三：如何验证新系统是否真正改善业务？

参考答案：建立改造前基线，分别比较误报率、漏报率、提前预警时间、停机时间、维护成本、人工复核量和系统响应时间；在一条生产线进行灰度，保留原规则作为安全兜底；对传感器失真、网络中断、设备型号变化和模型不可用进行异常测试；上线后监控输入分布、模型置信度和人工纠正结果，必要时回退到稳定版本。不能只用模型离线准确率证明项目成功。

十一、综合知识练习

题1

人工智能从符号主义发展到数据驱动方法，主要解决了什么问题？

参考答案：数据驱动方法减少了对人工穷举规则的依赖，能够从样本中学习复杂模式，处理图像、语音和不确定信息。但它也引入数据质量、偏差、可解释性和持续监控问题，并没有消除规则和知识的价值。

题2

为什么现代人工智能系统经常采用规则、知识和模型融合？

参考答案：模型擅长从复杂数据中识别模式，知识库提供事实和领域语义，规则能够表达确定性约束、权限和安全边界。融合可以兼顾泛化能力、可解释性、时效性和安全性，降低单一技术路线的局限。

题3

深度学习对系统架构提出了哪些新要求？

参考答案：需要数据采集与标注、训练资源、模型仓库、推理服务、版本发布、资源调度、模型监控和数据回流等能力；部署时还要考虑训练与推理分离、GPU 或边缘资源、时延、并发、成本和故障回退。

题4

智能体调用业务工具时为什么要设置权限和审批？

参考答案：智能体的规划和生成结果具有不确定性，工具调用可能产生真实业务副作用。权限、参数校验、调用预算、审批、幂等、审计和回滚可以限制越权、错误执行和重复执行风险，特别是写操作和高风险操作不能无条件自动化。

十二、论文写作素材

论文可以以“人工智能技术路线选择与系统架构落地”为主题，重点体现对历史演进的理解。可以先说明项目从传统规则系统起步，面临规则维护成本高、复杂模式识别能力不足等问题；随后引入机器学习或深度学习，但保留原有安全规则和人工处置流程；再通过数据治理、模型管理、知识检索和端云部署，将实验模型变成可运营服务。

可使用如下表述：

“在技术路线选择上，我没有将人工智能理解为对既有系统的简单替换，而是根据问题特征进行组合：确定性的权限、安全互锁和合规校验由规则引擎负责，复杂模式识别由学习模型负责，领域事实和解释依据由知识库负责，业务动作通过受控工具接口完成。对于模型置信度不足、输入分布异常或模型服务不可用的情况，系统进入人工复核或规则降级流程。通过数据、特征、模型、规则和配置的版本化管理，形成从数据回流到模型评估、灰度发布、在线监控和回退的闭环。”

十三、今日复盘

人工智能的发展经历了符号主义、专家系统、统计学习、深度学习以及数据、知识和智能体融合等阶段。
每一阶段都解决了部分问题，也带来了新的工程约束；新技术并不意味着旧技术全部失效。
规则适合确定性约束，模型适合复杂模式，知识库适合事实和语义，工具编排负责受控行动。
深度学习的生产化需要数据、算力、模型管理、推理服务和持续监控，而不只是训练一个模型。
评价人工智能项目要结合业务收益、风险、成本、时延和可维护性，不能只看离线准确率。
案例答题要写技术路线选择依据、融合架构、灰度验证和回退措施；论文要体现从实验模型到可治理生产系统的过程。

学习完本节后，应能解释一个重要结论：人工智能的历史不是“规则被模型淘汰”的单线进化，而是不断把感知、知识、学习、推理和行动组合起来。高级系统架构设计师要做的，正是根据业务风险把这些能力放在正确的位置，并让它们可验证、可维护、可回退。