第12周：AI场景化应用（二）

本日概要

多模态模型能同时接收图像与文本，把「看图回答」变成一次普通调用。使用时有几个必须了解的边界：图像会被转换为词元并占用上下文，分辨率越高占用越多，因此需要在清晰度与成本之间取舍；模型对图像中的细小文字、复杂表格和精确计数的可靠性明显低于对整体场景的理解；图像同样是不可信输入——图片里写着的文字可能是注入指令。工程上应当把「模型看到了什么」显式记录下来，例如让它先描述图像内容再回答问题，这样出错时能判断是看错了还是想错了。

学习目标

• 能说明图像如何占用上下文，并在分辨率与成本之间做出取舍
• 能区分多模态任务中可靠性较高与较低的类型，并据此设计使用边界
• 能设计「先描述再回答」的流程，使错误可归因到感知还是推理
• 能识别图像作为注入载体的风险并给出防御措施

核心讲解

实践任务

在一组图像任务上评估模型表现，区分整体理解、文字识别与精确计数三类任务的可靠性差异，并测试图片内文字的注入风险。

• 准备三类图像任务各五个样例：整体场景理解、图中文字识别、对象精确计数；记录每类的正确率。
• 对同一张图分别用原始分辨率与两档压缩后的版本调用，记录上下文占用、延迟与回答质量的变化。
• 对错误样例采用「先描述再回答」的两步流程重跑，判断错误属于感知还是推理，并统计两类占比。
• 制作一张图片，其中包含指令式文字，测试模型是否照做；记录结果并给出系统层防御措施。

自测与答案

今日完成标准

• 提交三类任务各五个样例的正确率统计与可靠性边界结论
• 提交三档分辨率下的占用、延迟与质量对比数据
• 提交两步流程下的错误归因统计，以及图像注入测试结果与防御措施

常见错误与纠正提示

• 把图中文字识别与精确计数的结果当作可信输入直接使用
• 上传原始分辨率图像，成本与延迟远超必要
• 假设图片中不会包含指令，未对图像做注入防御

分层任务

关联知识点

• Transformer架构
• 深度学习框架

延伸阅读

• Vision（Anthropic 官方文档）
• OWASP Top 10 for LLM Applications（OWASP GenAI 官方页面）

本日概要

自主智能体与单次调用的区别在于它会循环：规划下一步、执行工具、观察结果、决定继续还是结束。这个循环带来能力也带来风险——步数不确定意味着成本不确定，中间某一步的错误会沿着后续步骤放大，而且失败往往表现为「转了很多圈仍没结果」而非明确报错。因此工程上必须给循环装上护栏：最大步数、成本上限、重复动作检测、以及无进展时的终止条件。同样重要的是任务分解的粒度——步骤过粗模型容易漏做，过细则步数暴涨，需要按实际任务实测调整。

学习目标

• 能描述自主智能体的循环结构，并指出与单次调用相比新增的风险
• 能实现最大步数、成本上限、重复动作检测与无进展终止四类护栏
• 能分析错误在多步流程中的放大机制，并设计中间校验点
• 能通过实测确定任务分解的合适粒度

核心讲解

实践任务

实现一个带完整护栏的自主循环，构造三类失控情形并验证护栏生效，同时记录成本与步数分布。

• 实现一个自主循环，包含最大步数、成本上限、重复动作检测与连续无进展终止四类护栏。
• 用不少于十个代表性任务运行，记录每个任务的步数、成本与是否完成，统计分布而非仅看平均值。
• 构造三类失控情形：反复调用同一工具、步数超限、成本超限，分别验证护栏触发并返回明确的未完成信息。
• 尝试两种任务分解粒度，对比完成率、平均步数与总成本；把不可逆动作改为产出待确认计划，验证未确认时不执行。

自测与答案

今日完成标准

• 提交四类护栏的实现与三类失控情形的触发记录
• 提交十个以上任务的步数、成本与完成情况分布统计
• 提交两种分解粒度的对比数据，以及不可逆动作待确认机制的验证记录

常见错误与纠正提示

• 只看平均步数与成本，忽略长尾任务的实际消耗
• 把发送、写入等不可逆动作直接放进自主循环
• 无进展时继续循环，最终给出含糊结论而非如实报告未完成

分层任务

关联知识点

• AI Agent
• 提示工程

延伸阅读

• Tool use with Claude（Anthropic 官方文档）
• Model Context Protocol: Getting Started（MCP 官方文档）

本日概要

模型上下文协议要解决的是集成的组合爆炸问题：若每个模型应用都要为每个数据源单独写一遍对接，工作量随两者数量相乘增长。协议把这件事标准化为客户端与服务端的交互——服务端暴露资源、工具与提示模板，客户端按统一方式发现与调用，从而让同一个数据源服务可以被不同应用复用。使用时的关键在于信任边界：接入一个服务端相当于把它提供的工具交给模型调用，因此必须确认服务端来源可信、明确它能访问什么、并对其返回内容按不可信输入处理。

学习目标

• 能说明协议解决的组合爆炸问题，并画出客户端与服务端的交互结构
• 能区分服务端暴露的资源、工具与提示模板三类能力
• 能列出接入第三方服务端时必须确认的信任边界事项
• 能对服务端返回内容实施不可信输入处理并验证防御

核心讲解

实践任务

部署一个本地服务端并接入客户端，记录能力发现与调用过程，并验证对服务端返回内容的注入防御。

• 在本地部署一个服务端并用客户端接入，记录能力发现过程：它暴露了哪些资源、工具与提示模板。
• 调用其中的只读能力与一个模拟的有副作用能力，记录完整的请求与响应，并说明两者的权限差异。
• 为接入的服务端编写信任清单：提供方、可访问的数据与系统范围、声明的工具及其副作用标注。
• 在服务端返回内容中植入指令式文字，验证客户端是否将其作为数据处理；对未拦截的情况补充防御并复验，同时检查调用留痕是否可追溯到具体服务端。

自测与答案

今日完成标准

• 提交能力发现记录，区分资源、工具与提示模板三类
• 提交只读与有副作用能力的调用记录及权限差异说明
• 提交服务端信任清单、注入测试结果与可追溯到服务端的调用留痕

常见错误与纠正提示

• 把接入服务端当作纯粹的功能增强，不审查其可访问范围与工具副作用
• 把服务端返回内容直接当作可信信息或指令处理
• 多服务端并存时不记录调用来源，出问题无法定位是哪个服务端

分层任务

关联知识点

• AI Agent
• AI开发工具链

延伸阅读

• Model Context Protocol: Getting Started（MCP 官方文档）
• MCP: Architecture（MCP 官方文档）
• MCP Specification 2025-06-18（MCP 官方规范）
• Model Context Protocol (MCP)（Anthropic 官方文档）

本日概要

通信网络是较早规模化应用机器学习的行业之一，因为它天然具备三个条件：海量结构化的运行数据、明确的优化目标、以及可量化的成效。典型应用包括告警的关联与压缩（把成千上万条告警归并为少数根因）、流量预测与容量规划、以及故障的自动定位。这类场景的难点不在模型而在数据与流程：告警数据存在大量重复与噪声，网络拓扑随时变化，且运维动作有严格的审批流程。因此可落地的方案通常是「模型给建议、人做决策」，把自动化限制在信息整理与优先级排序上。

学习目标

• 能说明通信运维场景适合应用机器学习的前提条件
• 能设计告警关联与压缩的处理流程，并说明评价方式
• 能识别这类场景中数据与流程方面的主要难点
• 能划定自动化边界，明确哪些环节必须保留人工决策

核心讲解

实践任务

为一个网络运维场景设计模型辅助方案，明确数据来源、模型职责、人工决策点与成效指标。

• 选定一个网络运维场景，列出可用数据来源与各自的质量问题（格式不统一、拓扑变化、标注稀缺）。
• 设计告警关联与压缩流程，说明按什么维度归并、如何给出根因候选与置信度。
• 定义三项互相制衡的指标（压缩比、根因命中率、漏报率），并说明各自的计算方式与可接受范围。
• 画出人机分工图，明确模型负责什么、人工在哪些节点决策、执行走什么审批流程；写出未来放宽自动化边界的前提条件。

自测与答案

今日完成标准

• 提交数据来源清单与逐项的质量问题说明
• 提交告警关联流程设计与三项指标的定义及可接受范围
• 提交人机分工图与自动化边界说明，含未来放宽的前提条件

常见错误与纠正提示

• 只优化压缩比，独立故障被错误归并而不被发现
• 低估数据整理工作量，模型做完了却因数据质量无法上线
• 设计成全自动执行运维动作，与既有审批流程冲突

分层任务

关联知识点

• 网络技术
• 大数据平台
• AI Agent
• 云计算

延伸阅读

• OWASP Top 10 for LLM Applications（OWASP GenAI 官方页面）
• Tool use with Claude（Anthropic 官方文档）
• Google SRE Book: Service Level Objectives（Google SRE Book 官方页面）

本日概要

制造与金融是两类约束很不相同的行业场景，放在一起对比能看清「行业约束如何改变技术方案」。制造侧的典型任务是缺陷检测与设备预测性维护：数据来自传感器与产线相机，难点是正样本（缺陷）极少、产线环境变化会导致分布漂移、且检测必须在节拍时间内完成。金融侧的典型任务是风控与反欺诈：难点是标签滞后（欺诈可能几个月后才确认）、对抗性强（攻击者会主动适应模型）、且监管要求决策可解释、可追溯、可申诉。同样是分类问题，两者的评估方式、更新节奏与合规要求完全不同。

学习目标

• 能说明制造场景中样本不平衡、分布漂移与节拍时间约束对方案的影响
• 能说明金融场景中标签滞后、对抗性与可解释要求对方案的影响
• 能对比两类场景在评估方式与更新节奏上的差异并解释原因
• 能为高风险决策设计可解释与可申诉的流程

核心讲解

实践任务

为制造与金融各选一个任务，对比它们在数据、评估、更新与合规四方面的差异，并各自给出落地方案要点。

• 为制造与金融各选定一个具体任务，写出数据来源、样本量级与标签获取方式。
• 制作四维对比表：数据特点、评估方式、更新节奏、合规要求，逐项填写两个场景的差异并说明原因。
• 为制造任务设计应对少样本与分布漂移的方案，并给出节拍时间约束下的部署形态选择。
• 为金融任务设计标签滞后下的评估方案，以及可解释、可追溯、可申诉的流程；标明哪些是行业通行做法、哪些需向合规部门确认。

自测与答案

今日完成标准

• 提交两个任务的数据来源、样本量级与标签获取方式说明
• 提交四维对比表，逐项说明差异原因
• 提交制造侧的漂移应对与部署形态选择，以及金融侧的评估方案与可解释可申诉流程设计

常见错误与纠正提示

• 在极端不平衡的缺陷检测上用准确率汇报效果
• 忽略节拍时间约束，选择了产线无法承受的模型规模
• 先定技术路线再看合规要求，导致方案无法通过审查

分层任务

关联知识点

• 机器学习基础
• AI金融
• 大数据平台
• 数据治理

延伸阅读

• OWASP Top 10 for LLM Applications（OWASP GenAI 官方页面）
• ONNX: Introduction（ONNX 官方文档）

本日概要

端侧推理要在算力、内存、功耗与延迟四个约束下同时成立，因此模型压缩几乎是必选项。常用手段有量化（降低数值位宽）、剪枝（去掉贡献小的连接或通道）与蒸馏（用大模型指导小模型），三者可以叠加但都要在自己的任务上验证精度损失。部署上还有一层现实问题：端侧硬件与运行时碎片化，同一个模型要在不同芯片上跑，通常需要经过中间表示格式再转换为各平台的推理引擎格式，转换过程本身可能引入算子不支持或数值差异。因此端云协同的划分原则是：延迟敏感、隐私敏感、离线可用的任务放端侧，复杂推理与需要最新知识的任务回云端。

学习目标

• 能说明端侧推理的四类约束及其相互影响
• 能区分量化、剪枝与蒸馏三种压缩手段的原理与代价
• 能完成一次模型格式转换，并识别转换中可能出现的算子与数值问题
• 能按延迟、隐私与离线三个维度划分端云任务边界

核心讲解

实践任务

把一个模型转换为端侧可用格式，测量压缩前后的体积、延迟与精度变化，并给出端云任务划分方案。

• 选择一个小模型，记录原始体积、在目标设备上的推理延迟、内存占用与功耗（或以持续推理下的温度与降频情况替代）。
• 应用一种量化方案，重新测量四项指标，并在评估集上对比精度变化。
• 把模型导出为中间表示格式并转换为端侧引擎格式，记录转换过程中出现的算子不支持问题及处理方式。
• 用一批固定输入对比转换前后的输出差异，设定并验证可接受阈值；最后按延迟、隐私、离线三个维度写出端云任务划分方案。

自测与答案

今日完成标准

• 提交压缩前后的体积、延迟、内存与功耗（或降频情况）四项对比数据
• 提交格式转换记录，含算子不支持问题与处理方式
• 提交转换前后的输出一致性验证结果与阈值，以及端云划分方案

常见错误与纠正提示

• 只报告推理延迟，不测量功耗与持续负载下的降频影响
• 转换后不做一致性验证，线上出现与离线评估不符的结果
• 以「能放端侧就放端侧」为原则，把需要最新知识的任务也放到端侧

分层任务

关联知识点

• AI硬件产业链
• AI开发工具链
• 芯片与制程

延伸阅读

• ONNX: Introduction（ONNX 官方文档）
• LiteRT: On-device machine learning（Google 官方开发者文档）
• 昇腾社区文档中心（华为昇腾官方文档站）
• CANN 异构计算架构（华为昇腾官方产品页）

本日概要

本周收尾把行业落地的共性提炼出来。跨越通信、制造、金融与端侧四类场景后可以看到，决定成败的因素高度一致：数据是否可得且质量可控、评估指标是否与业务后果对齐、自动化边界是否与既有流程和风险承受度匹配、以及方案能否长期维护。技术选型反而是最容易的部分。写行业方案时最实用的结构是：先写清约束（数据、流程、合规、成本），再写方案如何在约束下成立，最后写明未验证的假设与需要在实际环境中确认的事项——诚实标注未知比堆砌确定性更有说服力。

学习目标

• 能提炼行业落地的四个共性成败因素并用于评估一个方案
• 能按「约束—方案—未验证假设」的结构组织行业方案
• 能识别方案中被当作确定性陈述的未验证假设
• 能用统一的检查表对他人方案做结构化评审

核心讲解

实践任务

选择一个行业场景，按「约束—方案—未验证假设」的结构写一份落地方案，并请同伴按检查表评审。

• 选择一个行业场景，按三段式结构起草方案：约束、方案、未验证假设。
• 在约束段为每一项给出数字或范围，并标明来源是实测、访谈还是估计。
• 在方案段把每个设计决策对应到它解决的具体约束，确保没有无来由的设计。
• 用四个共性因素编制检查表，与同伴互评对方的方案，重点检查是否有被当作确定性陈述的未验证假设，并据此修订。

自测与答案

今日完成标准

• 提交三段式方案，约束段每项有数字或范围并标明来源
• 方案段每个设计决策对应到具体约束
• 未验证假设段完整，且附逐项验证计划；提交同伴互评记录与修订说明

常见错误与纠正提示

• 方案通篇确定性陈述，未区分实测数据与估计值
• 先定技术方案再找约束支撑，设计决策无法对应到具体约束
• 忽略可维护性，方案不含监控、重训与回滚机制

分层任务

关联知识点

• AI Agent
• AI教育

延伸阅读

• ONNX: Introduction（ONNX 官方文档）
• MCP: Architecture（MCP 官方文档）
• OWASP Top 10 for LLM Applications（OWASP GenAI 官方页面）