人工智能理论知识 - 主要应用领域

这一篇从任务视角进入现代 AI 的几个核心应用方向，重点讨论自然语言处理、计算机视觉、语音和音频处理、搜索/推荐/广告预估，以及时序建模和时间序列。前一篇已经建立了机器学习、神经网络与深度学习的基本方法，这一篇继续回答这些方法究竟被拿来解决哪些真实任务、每类任务的输入输出结构是什么、经典路线如何演进到今天的主流方案；再往后才会进入 Transformer、大模型与系统层落地。

自然语言处理（Natural Language Processing, NLP）研究的是：如何让机器表示、理解、检索、生成和操作人类语言。它处理的对象既可以是词、短语、句子、段落，也可以是整篇文档、对话、多轮交互与语音转写后的文本。这个方向覆盖的任务非常广，从最基础的分词、句法分析和语言建模，到信息抽取、问答、翻译、摘要、对话和语义推理，都属于 NLP 的核心版图。

下面会按照不同任务逐一展开，说明每类任务到底在解决什么问题、输入输出通常长什么样、为什么它在实际系统中重要，以及它与其他 NLP 任务之间如何衔接。

任务范式	代表任务	核心输入与输出	在系统中的典型作用
表示与匹配	词嵌入、文本相似度、文本聚类、文本分类	输入文本，输出向量、相似分数或类别标签	承担召回、去重、聚类、路由与基础语义匹配
结构化分析	词法分析、句法分析、语义分析、信息抽取、实体链接、关系预测	输入文本，输出边界、树、图、实体、关系或标准化知识单元	把自然语言转成可检索、可落库、可推理的结构
生成与编辑	机器翻译、语法纠错、文本摘要、语言模型	输入源文本或上下文，输出新文本或修订文本	承担生成、改写、压缩、续写和条件编辑
理解与验证	自然语言推理、问答、指代消解、时间处理	输入问题、证据或篇章上下文，输出判断、答案或篇章级解释	承担证据验证、答案生成、篇章一致性和时间线组织
交互与多模态入口	对话、语音识别、词汇正规化	输入口语、噪声文本或多轮上下文，输出标准文本、状态或回复	承担用户入口清洗、会话控制和语音到语言的桥接

从方法论上看，整章内容大致沿着“表示与匹配 - 结构化分析 - 生成与编辑 - 理解与验证 - 交互入口”这几条主线展开。不同任务的表面形式差异很大，但它们在实际系统里往往会被串成同一条流水线：先表示和召回，再抽取和验证，最后生成、编辑或交互输出。

词嵌入（Word Embedding）处理的核心问题是：怎样把离散 token 映射成连续向量，使语义与语法关系在向量空间中变得可计算。若把词表记为 \(\mathcal{V}\)，词嵌入本质上是在学习一个映射 \(e:\mathcal{V}\rightarrow\mathbb{R}^d\)。这个映射一旦建立，模型就不再把单词当成纯符号，而是能在向量空间里比较相似性、组合上下文并进行梯度优化。

早期主线是语境无关（Context-free）词向量。Word2Vec 用 CBOW / Skip-gram 从局部上下文预测词，GloVe 直接分解全局共现统计，fastText 则进一步把子词（Subword）信息纳入表示，因此对未登录词和形态丰富语言更稳。这一路线在 2013 到 2018 年左右几乎是 NLP 标配，但它的根本局限也很明显：同一个词在不同句子里的词义会被压成同一个静态向量。

随后进入语境相关（Contextual）阶段。ELMo 通过双向语言模型让词表示依赖上下文；Flair 使用字符级语言模型表示 token；BERT、XLNet 进一步把上下文表示能力提升到 Transformer 时代。到了这一步，“词嵌入”不再是单独训练一张静态 embedding 表，而是更接近“由编码器按当前上下文即时生成表示”。

到 2026 年，真正主流的并不是单独讨论“词向量”，而是讨论专用嵌入模型（Embedding Model）。语义检索和相似度系统常直接使用 E5、BGE、BGE-M3、jina-embeddings、Qwen3-Embedding 这类专门为句子、段落和文档向量优化的模型，而不是把 Word2Vec 或 GloVe 直接塞进系统中。静态词向量仍有价值，但更多出现在教学、轻量模型、资源受限场景，或作为某些传统系统的初始化手段。

Word2Vec、GloVe、fastText 这条线之所以重要，不只是因为它们“比 one-hot 更好”，而是因为它们第一次让大量 NLP 任务可以在稠密连续向量空间上工作。文本分类会把词向量做平均、卷积或循环编码；序列标注会把词向量喂给 BiLSTM-CRF；信息检索和相似度任务会把句子表示建立在词向量聚合之上。fastText 进一步把子词纳入建模，因此在拼写变体多、形态变化强的语言里格外有用。

这一路线今天并未完全消失，但已经从“系统主干”退到“轻量基线和历史里程碑”。原因很简单：它只能给同一个词一个固定向量，无法区分多义词在不同上下文里的语义角色。对现代问答、信息抽取、检索和对话系统而言，这个缺陷通常过大。

ELMo、Flair、BERT、XLNet 这一代方法真正改变的是：表示不再先验固定，而是由整句上下文共同决定。命名实体识别、词性标注、自然语言推理、阅读理解和文本分类，都因此从“人工特征 + 浅层模型”快速转向“预训练编码器 + 任务头微调”。导图里把 ELMo、Flair、BERT、XLNet 放在词嵌入一侧是成立的，因为在很多下游系统里，它们首先承担的正是表示生成器的角色。

不过，到了这一阶段，“词嵌入”这个词本身已经有些偏窄。更准确的说法通常是 token 表示、上下文化表示或编码器隐藏状态。也正因为如此，后续很多任务文献虽然不再反复强调 embedding，却仍然本质上建立在更强的表示学习之上。

现代嵌入模型通常直接服务于检索、聚类、重排前召回、RAG 和文本去重。最常见的用法是：先用 bi-encoder 把查询和文档独立编码为向量，再做余弦相似度或向量索引召回；若系统还要求更高精度，则在召回后再叠加 cross-encoder 重排。BGE-M3 这类模型甚至把密集检索、稀疏检索和多向量检索统一进同一模型接口；Qwen3-Embedding 一类新模型则更强调多语言与通用语义检索能力。

因此，今天的嵌入模型已经不只是“词表示技术”，而是很多 NLP 系统的第一层基础设施。它们决定了召回质量、聚类几何结构、RAG 证据覆盖率，以及后续大模型究竟能看到哪些上下文。

文本语义相似度（Text Semantic Similarity）研究的是：给定两段文本 \(x_1,x_2\)，怎样判断它们在语义上有多接近。它既可以是回归问题，例如输出 \(s\in[0,1]\) 的相似分数；也可以是分类问题，例如判断是否复述（Paraphrase）、是否语义重复、是否属于同一意图。

这一任务在搜索、推荐、问答召回、重复问题合并、知识库去重和检索增强生成（RAG）中极其关键。真正落地时，很多系统并不直接做复杂推理，而是先问一句：库里哪段文本和当前查询最像。这个“像不像”的基础设施，就是文本相似度模型。

思维导图里提到的 MwAN、DIIN 更偏向句对建模和复述判别时代的代表，它们强调多路注意力、交互式特征融合；GenSen、XLNet 则代表“用更强预训练表示做句对判断”的阶段。这些模型在各自时代都很重要，但今天的主流已经明显转向两条路线：第一条是双编码器（Bi-Encoder）嵌入模型，先把文本各自编码成向量，再做余弦相似度或向量检索；第二条是交叉编码器（Cross-Encoder）重排模型，把两段文本拼接后联合打分。前者适合大规模召回，后者适合小候选集精排。

因此，现代系统往往把“文本相似度”做成两阶段：先用嵌入模型快速召回，再用更重的交叉编码器或 LLM 重新判断。单纯依赖早期句对网络，今天已经不是主流最优解。

复述判别（Paraphrase Identification）是文本相似度里最经典的一支。它要求模型回答的不是“像不像一个主题”，而是“这两句话是否表达了同一个命题”。MwAN、DIIN 这类模型在这一阶段很有代表性，因为它们会显式建模词对词、短语对短语的交互，再把这些交互特征汇总成最终判断。它们很适合中小规模句对任务，但在超大语料召回里代价太高。

若候选库有百万到十亿级文档，系统不可能把查询与每篇文档都拼接后送进重模型。因此，工程上几乎都会先用双编码器把文档离线编码入库，再在向量索引里做近似最近邻搜索。这个阶段的重点是召回率、吞吐、延迟和可扩展性，而不是单对文本判得多细。

这也是为什么文本相似度在现代 NLP 中经常和嵌入模型、向量数据库、RAG 绑在一起讨论。它早已不是孤立 benchmark，而是搜索与知识系统的底层检索能力。

召回之后，系统通常会把前几十到前几百个候选交给交叉编码器、NLI 模型或 LLM 精排。这里的目标已经从“高覆盖找候选”切换成“在小候选集内做高精度判断”。因此，一个成熟的相似度系统常常同时包含两种模型：前端轻、后端重；前端负责广撒网，后端负责最后一锤定音。

如果把现代文本相似度的演进再往前推一步，Sentence-BERT（SBERT）几乎是必须点名的关键节点。它把 BERT 从“适合句对联合编码的模型”改造成“适合独立产出句向量的模型”，直接推动了句向量检索的大规模实用化。随后，SimCSE 进一步说明：仅靠对比学习和 dropout 增广，也能把句向量空间训得非常有判别力。

再往后的检索系统则开始出现多向量路线，例如 ColBERT 这类 late interaction 方法。它不再把整段文本压成单一向量，而是保留更细粒度的 token 级匹配信号，在召回和精度之间取得另一种折中。这说明文本相似度并没有收敛到单一范式，而是在“单向量快召回”和“多向量细匹配”之间持续演化。

自然语言推理（Natural Language Inference, NLI）要求模型判断一对文本之间的逻辑关系。给定前提句 \(p\) 和假设句 \(h\)，模型通常输出三类标签之一：蕴含（Entailment）、矛盾（Contradiction）或中立（Neutral）。这比普通文本分类更接近“句间逻辑判断”，因此长期被视为语言理解能力的重要基准。

NLI 在事实核验、法律文本比对、问答验证、检索精排、对话一致性检查等场景里都有直接用途。很多系统表面上做的是“相似度”或“问答”，底层真正需要的却是更强的蕴含判断。例如“文章是否支持这个结论”“这段证据是否足以回答用户问题”，本质上都更接近 NLI。

思维导图里把 XLNet 和 Transformer LM 放在这一节，是预训练 Transformer 主导 NLI benchmark 的典型阶段。今天的主流仍然是强预训练编码器或指令微调模型，但模型代际已经更新到 RoBERTa、DeBERTa、ModernBERT、T5、以及大量 instruction-tuned LLM。旧的 NLI 竞赛模型并没有失效，但如果目标是工程实用，通常更倾向于：编码器微调做高吞吐分类，LLM 做复杂解释型推理或低资源迁移。

NLI 在工程上很少以“单独上线一个 NLI 产品”的形式存在，更常见的是作为校验模块。事实核验会用它判断证据是否支持结论；检索问答会用它判断候选段落是否真正回答了问题；多轮对话会用它检查当前回复是否与历史事实冲突。也就是说，NLI 经常承担的是语义一致性过滤器的角色。

机器翻译（Machine Translation, MT）研究的是：给定源语言句子 \(x\)，生成目标语言句子 \(y\)，同时尽量保持语义、语气、术语和语法结构的一致性。它是 NLP 中最成熟、最系统化的任务之一，因此也最能看清整个领域从“规则和统计”走向“深度学习与基础模型”的完整演进。

传统主线是统计机器翻译（Statistical MT, SMT），尤其是短语级机器翻译（Phrase-based SMT）。思维导图中提到的 IBM1 到 IBM4、双语对齐、调序模型、短语抽取、语言模型、柱搜索（Beam Search），正是这条路线的核心流水线。IBM1 到 IBM4 负责从双语平行语料中学习词对齐；短语抽取把对齐好的词组织成更长的短语映射；调序模型解决语序差异；语言模型保证目标句流畅；柱搜索则在巨大候选空间里找近似最优译文。

这条路线今天已经不再是工业主流，但并没有“毫无价值”。它仍然是理解对齐、解码、译文流畅性与可解释错误分析的最好教材。在低资源、强术语控制、可解释对齐分析等特定场景中，SMT 思想依然有借鉴意义。

深度学习阶段先由 Seq2Seq 带动。最早的 Seq2Seq 往往由 RNN / LSTM 编码器-解码器构成，随后加入注意力机制；ConvS2S 则尝试用卷积并行建模序列；真正改写主线的是 Transformer。到今天，RNN-Seq2Seq 和 ConvS2S 更像历史里程碑，而不是大规模翻译系统的默认选择。

现代翻译系统的主流已经是 Transformer、mT5 / ByT5 这类文本到文本模型，以及大规模多语言翻译基础模型。例如 NLLB-200 把高质量多语翻译推进到 200 语言量级，MADLAD-400 则代表了更大语种覆盖和大规模多语言翻译训练的方向。Beam Search 仍然没有过时，它在神经机器翻译里依然是常见解码器，只是位置从“统计解码核心”变成了“神经生成阶段的搜索策略”。

因此，今天谈机器翻译时，IBM 对齐和短语 SMT 应归入历史主线与基础知识；真正要落地时，应优先理解 Transformer、多语言预训练、术语约束解码、领域自适应和评测体系。

IBM1 到 IBM4 的价值在于把翻译拆成了一条清晰流水线：先做词对齐，再做短语抽取，再做调序，再用语言模型保证目标句自然，最后靠 Beam Search 在候选空间中搜索高分译文。它之所以曾长期主导工业界，是因为每个环节都能单独分析、替换和调优。缺点同样明显：误差会在流水线中逐级累积，而且很多语言现象需要跨环节协同才能解释。

Seq2Seq、ConvS2S、Transformer 的核心变化，是把原来分散在多个模块中的对齐、重排序和流畅性建模，尽可能收拢进一个端到端神经模型中。RNN-Seq2Seq 解决了“从输入序列生成输出序列”的基本范式，注意力解决了固定长度表示瓶颈，ConvS2S 用卷积换取更强并行性，而 Transformer 最终在长程依赖与训练效率之间取得了最好平衡，因此成为主流。

2026 年的机器翻译系统，重点通常已经不是“能不能翻”，而是低资源语言覆盖、术语一致性、长文档上下文、领域迁移和评测对齐。这也是 NLLB-200、MADLAD-400 一类多语言模型重要的原因。与此同时，传统 Quality Estimation、术语词典约束、人工后编辑和文档级一致性控制并没有消失，反而经常作为神经翻译系统的外围组件继续存在。

词汇正规化（Lexical Normalization）处理的是“非标准写法如何映射回标准写法”的问题。它常见于社交媒体文本、OCR 错误、ASR 转写、用户口语化输入、拼写变体和历史文本处理。典型输入不是一句已经很干净的标准语言，而是像缩写、错别字、方言拼写、口语连写、拼音混杂或英文网络俚语这样的噪声文本。

导图里的 MoNoise、联合词性标注与正规化、基于音节的方法，代表的是社交媒体和噪声文本时代的经典路线。它们强调候选生成、上下文判别、词性线索和发音相似性，尤其适合拼写波动很大的文本。到今天，这类方法仍有现实价值，但多数已不再是最强主线。

现代正规化越来越多地使用字符级、字节级或文本到文本模型，例如 ByT5、mT5、T5 系列编辑模型，以及指令微调 LLM。原因很直接：正规化本质上就是一个局部条件生成或编辑问题，而字节级 / 字符级模型对噪声拼写、形态变化和未登录词更稳。导图里的“基于音节的方法”在特定语言和口语输入里仍有帮助，但已经不是通用主干。

传统词汇正规化一般分成两步：先生成若干可能的标准写法候选，再结合上下文做判别。MoNoise、联合词性标注与正规化、发音相似或音节相似方法都属于这一范式。它们的优势是每一步都较可控，容易接入词典、发音规则和领域知识；缺点则是候选覆盖与上下文建模容易彼此割裂。

文本到文本模型把正规化直接视为序列编辑任务：输入噪声文本，输出标准化文本。这样做的收益是模型可以在一个统一框架里同时处理缩写展开、错拼纠正、形态恢复和局部重写。代价则是输出稳定性更依赖训练数据与解码约束，因此很多生产系统仍会在生成模型外面包一层词典校验或格式规则。

词汇正规化和拼写纠错、语法纠错相邻，但边界并不相同。拼写纠错通常更关心“这个词是不是打错了”；GEC 更关心句法、搭配、时态等整句层面的错误；词汇正规化则更强调把非标准表达映射成标准表达，哪怕原写法对人类完全可理解。例如社交媒体缩写、方言拼写、网络俚语、口语化省略和代码混写，都可能不是“拼错”，却仍然需要正规化。

也正因为如此，正规化常被放在更前的文本清洗层。它的目标不是提升文法优美度，而是把后续分类、解析、抽取和检索所依赖的输入分布拉回训练数据熟悉的范围。

ByT5 一类字节级模型在这个任务上很自然，因为正规化问题经常发生在字符粒度甚至字节粒度。用户可能少打一两个字母、把多个词连写、夹杂表情或外文字符，也可能用语音近似拼写一个词。若模型从词级开始建模，很多噪声在入口就已经被打碎；而字节级或字符级模型可以直接在更细粒度上学习“从噪声表面形态到标准形式”的映射。

这也是为什么词汇正规化在近年经常与多语言字节级模型绑定在一起讨论。它们不仅对未登录词更稳，也更适合社交媒体、OCR 和 ASR 这类高噪声输入。

正规化最直接的收益，是改善下游系统对噪声文本的稳健性。社交媒体情感分析、客服意图识别、OCR 后信息抽取和口语转写后的结构化解析，往往都会因为输入更标准而显著受益。但这个步骤也有风险：如果系统把本来有语用价值的变体都强行“洗平”，就可能丢掉风格、方言、情绪强度甚至身份信号。

因此，现代系统越来越强调任务依赖的选择性正规化。面向检索、分类和解析时，正规化通常应更积极；面向风格分析、作者识别、对话个性保留时，则未必应该把所有非标准写法都抹平。是否正规化、正规化到哪一步，本身就是上游任务设计的一部分。

以“ASR 转写文本做客服工单分类”为例，原始输入里常会出现同音字、口语省略、数字口语化和夹杂英文品牌名。若系统直接把这类文本送进分类器，模型往往会把噪声当成类别特征，导致跨渠道泛化能力很差。更稳的做法通常是：先做轻量正规化，把明显的 ASR 噪声、缩写和常见别名拉回标准表达，再进入分类、检索或抽取模块。

但这一步也不能无限增强。例如用户情绪、方言身份和话语风格本身可能就是业务信号。若把“气死我了真的服了”一律改写成过度标准化文本，情绪强度和用户画像信息就会被抹掉。因此，正规化最好是按任务定制的局部编辑，而不是无条件全量改写。

语言模型（Language Model, LM）回答的是一个看似简单、实际上极其基础的问题：给定前文，下一段语言出现的概率分布是什么。若用序列 \(x_1,\dots,x_T\) 表示一句话，自回归语言模型通常写成

\[p(x_1,\dots,x_T)=\prod_{t=1}^{T}p(x_t\mid x_{<t})\]

这个定义之所以关键，是因为它把“理解语言”和“预测语言”统一到了一个概率框架里。模型若想把下一个 token 预测准，就被迫学习词法、句法、搭配、常识和某些推理结构。

传统语言模型以 n 元语法（n-gram）和 Pitman-Yor 一类平滑概率模型为主，强调局部上下文频率统计。它们今天在主流大模型系统里已经不是核心，但仍然是理解平滑、稀疏性、解码和语言先验的基础。深度学习阶段先后出现 AWD-LSTM、Gated CNN、Transformer-XL 等路线，其中 AWD-LSTM 曾是强语言建模基线，Transformer-XL 用分段记忆缓解上下文长度限制。

到 2026 年，主流显然已经是 Decoder-only Transformer 大语言模型。AWD-LSTM、Gated CNN、Transformer-XL 不应被当成“当前最先进路线”，但它们分别代表了循环网络时代、卷积语言模型时代和长上下文过渡阶段。理解这些模型的意义，在于看清当代 LLM 为什么几乎统一收敛到“大规模预训练 Transformer + 指令对齐 + 外部工具”这一组合。

n-gram 语言模型在历史上是很多系统的“流畅性后验”。语音识别会用它约束转写结果，统计机器翻译会用它筛掉不自然译文，拼写纠错会用它判断哪种候选更像真实语言。Pitman-Yor 这一类方法的重要性则在于它把长尾词汇与平滑问题处理得更系统，因此在语言建模理论史上占据一席之地。

AWD-LSTM、Gated CNN、Transformer-XL 虽然已不是主流终局，但它们分别回答了三个关键问题：循环网络如何把语言模型训稳，卷积是否能替代循环建模局部上下文，以及长上下文能否在不完全重算历史的情况下持续扩展。很多今天看似理所当然的工程细节，例如记忆缓存、长上下文分段、激活正则化，都是在这一阶段被系统打磨出来的。

现代 Decoder-only 语言模型不再只是一个“下一个词预测器”，而是很多 NLP 任务的统一接口。翻译、摘要、问答、信息抽取、文本分类、对话和代码生成，都可以被改写成条件生成问题。这并不意味着传统任务边界消失，而是意味着许多任务开始共享同一种底座与同一套 token 级概率建模机制。

信息抽取（Information Extraction, IE）研究的是：如何把自然语言中的非结构化描述，转成实体、关系、事件、属性和值等结构化结果。它并不要求模型生成长文本，而是要求模型从文本中抽取可落库、可检索、可计算的知识单元。命名实体识别、关系抽取、事件抽取、三元组抽取和名词短语规范化都属于这一大类。

导图里提到的信息抽取分支包括命名实体、三元组抽取和名词短语规范化；三元组抽取下又提到依存句法和知识库方向，以及 BERT、CNN、RNN 这些不同阶段的编码器。这些都属实，但今天如果只把 IE 理解成“先做一个 BERT 分类器”，就太窄了。

当前主流至少有三条。第一条是任务专用抽取头，例如 span-based NER、relation extraction、event extraction。第二条是统一抽取框架，代表如 UIE（Universal Information Extraction），尝试用统一的文本到结构生成范式处理多类 IE 任务。第三条是LLM 指令抽取，即把 schema、字段定义和约束写进 prompt，让模型直接按模板产出结构化结果。前两条更适合高精度、可评测的工程场景，第三条更适合快速扩 schema 和弱监督启动。

因此，CNN / RNN 抽取器和单一依存规则法更适合作为历史阶段代表；现代信息抽取的主线已经明显转向“统一 schema + 强编码器 / LLM + 结构约束 + 后处理校验”。

命名实体识别（Named Entity Recognition, NER）是信息抽取里最基础也最关键的一步。它回答的是：文本里的哪一段 span 是人名、组织名、地名、产品名、时间、金额或领域实体。早期规则系统依赖有限状态自动机、词典和角色规则；后续进入序列标注阶段，常见 IOB、BIOES、IOBES 等标签体系，配合 CRF、BiLSTM-CRF、BERT-CRF 做解码。

再往后，NER 明显从“给每个 token 打标签”走向“直接对实体边界和内部结构建模”。Global Pointer 这一类 span-based 架构直接给起止边界打分，适合嵌套实体和高效率抽取；W²NER 这类 relation/grid-based 架构则显式预测词间结构关系，更适合复杂实体结构和不连续实体。两者都属于现代深度学习 NER 架构，但它们已经不再是传统概率图模型那一路，而是建立在预训练编码器上的神经抽取头。

如果把定义写得更形式化一些，NER 输出的并不是单点标签，而是实体集合

\[\mathcal{Y}=\{(s_k,e_k,c_k)\}_{k=1}^{m}\]

其中 \(s_k\) 与 \(e_k\) 表示第 \(k\) 个实体的起止位置， \(c_k\) 表示实体类型。这个写法直接揭示了 NER 的本质：它最终是一个区间抽取 + 类型判定问题，而不是纯粹的逐 token 分类问题。

Global Pointer、W²NER 不是 BERT、RoBERTa、ModernBERT 这种通用编码器（Backbone / Encoder），也不是 HMM、CRF 那类经典概率图模型；它们更准确的定位是接在编码器之上的 NER 专用任务头或结构化解码架构。系统链路通常可以概括为：

\[\text{Text}\rightarrow \text{Tokenizer}\rightarrow \text{Encoder}\rightarrow \text{NER Head}\rightarrow \text{Entities}\]

其中编码器负责把原始文本转成上下文化表示 \(H=[h_1,\dots,h_n]\)，而 NER head 决定如何把这些表示转成实体集合。若任务头选的是逐 token 分类，输出就更接近 BIO 标签；若任务头选的是 span 打分或词间关系建模，输出就更接近实体区间本身。Global Pointer 和 W²NER 的差别，主要就体现在“实体应该怎样从隐藏表示中被读出来”这一层。

层级	主要作用	典型例子
编码器（Backbone）	把文本编码成上下文化向量表示	BERT、RoBERTa、ModernBERT、BiLSTM
任务头（Task Head）	把隐藏表示转成实体边界和类型预测	Token Classification、CRF、Global Pointer、W²NER
输出形式	决定模型最终返回 BIO 标签还是实体 span 集合	B-ORG / I-ORG / O，或 \((s,e,c)\)

把 NER 当作序列标注有一个很自然的优点：实现简单，训练直接，和 token 级监督天然对齐。但它也有明显边界。第一，实体在语义上是一个整体区间，而序列标注把问题拆成逐位置判断，再依赖标签体系和解码规则把局部标签拼回实体，这会引入“局部预测正确但整体边界不稳”的误差。第二，当数据里存在嵌套实体（Nested Entity）时，例如较长实体内部还包含较短实体，单层 BIO 标注就会开始变得别扭。第三，若实体跨度很长，模型需要通过一串连续标签间接表达“这一整段属于同一个实体”，而不是直接对整个 span 打分。

因此，深度学习时代的很多 NER 方法开始直接面向 span 建模。核心想法是：与其先预测每个 token 的局部标签，再回头拼边界，不如直接让模型回答“从第 \(i\) 个位置到第 \(j\) 个位置，是否构成某一类实体”。这样，实体边界就从隐式结构变成了显式建模对象。Global Pointer 正是这条路线里非常典型的方法。

Global Pointer 的核心思想是：把每一种实体类型都看成一个“起点 - 终点匹配问题”。给定编码器输出 \(H=[h_1,\dots,h_n]\)，模型先把每个位置投影成适合做起点查询和终点键值匹配的向量，再对每种实体类型的每一对位置 \((i,j)\) 计算一个 span 分数。若这个分数足够高，就认为“从 \(i\) 到 \(j\) 的片段属于该类型实体”。

一种简化写法是：

\[q_i^{(c)}=W_q^{(c)}h_i,\qquad k_j^{(c)}=W_k^{(c)}h_j\] \[\mathrm{score}_c(i,j)=\big(q_i^{(c)}\big)^\top k_j^{(c)},\qquad i\le j\]

这里 \(c\) 表示实体类型， \(q_i^{(c)}\) 表示位置 \(i\) 作为该类实体起点时的表示， \(k_j^{(c)}\) 表示位置 \(j\) 作为终点时的表示。很多实现会进一步加入 RoPE（Rotary Position Embedding）一类位置编码，使相对位置信息直接进入打分过程。

这个结构的关键优势有三点。第一，它天然输出 span，而不是先输出 BIO 标签再回拼实体，因此边界目标与任务定义更一致。第二，它对嵌套实体非常自然：同一个起点可以与多个终点形成不同 span，不同类型之间也互不冲突。第三，它对长实体更友好，因为模型直接给 \((i,j)\) 这一对边界打分，不必靠一长串内部标签层层传递“这是同一个实体”的信号。

从工程角度看，Global Pointer 也是很受欢迎的一类 NER 头。它的实现相对简洁，主要开销来自构造每种类型的 \(n\times n\) 打分矩阵，训练与推理都比较直接。它因此特别适合需要嵌套实体支持、但又希望结构尽量简单的场景。

W²NER（通常写作 W2NER）走的是另一条路线：它把 NER 视为词与词之间关系的二维建模问题。与其直接给一个 span 打分，它更关心“两个位置之间是什么关系”，再通过这些局部关系把完整实体组装出来。也就是说，模型不是直接回答“ \((i,j)\) 是不是实体”，而是先在一个 \(n\times n\) 的词对关系网格上预测关系标签。

它常见地使用两类关系标签：

• NNW（Next-Neighboring-Word）：表示一个实体内部相邻词之间的连接关系。
• THW-{type}（Tail-Head-Word）：表示某个实体的尾词和头词之间闭合成一个特定类型实体。

在这个框架里，模型先构造词对表示，再用 biaffine、条件层归一化（Conditional Layer Normalization, CLN）、二维卷积（2D Convolution）等模块在整个关系网格上做局部模式建模。最终，实体不是由一次 span 打分直接得出，而是由一条词间关系链和一个闭合关系共同定义出来。

这条思路的最大价值在于表达力更强。因为模型显式建模的是词与词之间的结构关系，所以它不仅能处理嵌套实体，还更容易扩展到不连续实体（Discontinuous Entity）或更复杂的局部结构。代价也同样明显：它的关系网格更重，中间表示更大，计算和显存开销通常高于较轻量的 span 打分方法；同时，二维卷积式建模也让工程实现和调参复杂度明显上升。

二者都属于深度学习时代的 NER 架构，但它们的设计哲学并不相同。Global Pointer 更像“直接给候选实体区间打分”；W²NER 更像“先预测实体内部关系，再把实体结构拼出来”。前者更直接、更轻量，后者结构表达更强。

维度	Global Pointer	W²NER
基本单位	实体 span \((i,j)\)	词对关系 \((i,j)\)
核心问题	这个起点和终点能否构成某类实体	这两个词之间是什么结构关系
嵌套实体	天然支持	天然支持
不连续实体	通常不作为强项	更容易扩展支持
长 span 处理	更直接，因为直接做边界对打分	更依赖关系网格中的结构传播
工程复杂度	较低	较高
更像什么	span-based / pointer-based 抽取头	grid-based / relation-based 抽取架构

因此，若任务重点是常规实体抽取、嵌套实体支持和较好的工程效率，Global Pointer 往往是更干净的设计；若任务存在复杂实体结构、关系链式表达或不连续实体，W²NER 一类 relation/grid 方法会更有吸引力。它们没有谁在所有场景中绝对更强，差异主要来自任务结构本身。

关系抽取（Relation Extraction）要求模型在识别实体之后，进一步判断实体之间存在哪一种关系；三元组抽取则把结果组织成 \((h,r,t)\) 形式。传统路线常结合依存句法、模板规则或 CNN / RNN 编码器做句级分类；BERT 时代之后，则更常见 span pairing、table filling、pointer 网络或联合抽取框架。

事件抽取又再往前一步，不只抽“谁和谁有什么关系”，还要抽“发生了什么事件、谁是论元、时间地点在哪里”。这也是为什么现代 IE 很强调统一 schema 和结构约束：不同子任务虽然形式不同，但本质上都在把自然语言映射成结构化记录。

导图中提到的名词短语规范化（Noun Phrase Normalization），本质上是在解决“表面写法不同，但是否应归并到同一个标准概念”这一问题。它和实体链接相邻，但更偏向文本内部或领域词表内部的规范化，而不一定要求链接到外部百科实体。医学术语归一、商品名称归并、日志字段规范化，都属于这一类。

这条路线在现代系统里常和 NER、EL、术语词典、向量检索放在一起做。原因很直接：只有把抽出的 mention 进一步规范化，后续统计、检索和知识入库才真正可用。

UIE 这类统一框架的重要性，在于它不再把 NER、RE、事件抽取完全拆成彼此独立的数据格式和训练头，而是尝试用统一的结构化生成接口覆盖多类 IE 任务。这样做的收益是 schema 扩展更容易、任务迁移更自然；代价则是解码与评测都更复杂。

LLM 指令抽取则把这一路线继续推向更灵活的方向。做法通常是把字段定义、输出 JSON schema、约束规则和示例直接写进 prompt，让模型输出结构化结果。它的优势是启动快、跨 schema 成本低；缺点是稳定性、边界一致性和可验证性通常不如专用抽取模型。因此，高要求生产系统常采用“LLM 负责快速泛化，专用抽取器负责高精度主干”的混合模式。

在真实系统里，NER、实体规范化、关系抽取、事件抽取和实体链接很少孤立运行。一个更完整的链路通常是：先找出 mention，再把 mention 归一到标准实体或术语，再判断实体之间的关系或事件角色，最后把结果写入知识库、检索索引或下游规则系统。也就是说，信息抽取真正交付的不是若干分散标签，而是一套可以被数据库、搜索和推理系统消费的结构化记录。

这也是为什么 IE 的误差会级联传播。上游 NER 边界一旦偏掉，后续关系抽取、实体链接和事件论元识别都会被拖偏；反过来，若系统能利用知识库约束、schema 校验和下游一致性反馈，上游抽取结果也能被部分纠正。因此，现代 IE 越来越像一条带反馈的结构化流水线，而不是几个彼此隔离的小任务。

问答（Question Answering, QA）研究的是：给定问题 \(q\) 与可能的知识来源，如何输出正确答案 \(a\)。真正的差异不在“有没有问题和答案”，而在于答案来自哪里、是否允许外部知识、是否需要长文检索、是否要跨文档推理。

导图把 QA 分成基于知识、基于检索、阅读理解和完形填空四类，这是非常经典的划分。基于知识的问答常围绕知识图谱和实体关系做推理，过去会用 Gated Graph Neural Networks、Bidirectional Attentive Memory Networks 一类结构；基于检索的问答强调先找证据再回答，Denoising QA、DecaProp 属于早期深阅读器时代；阅读理解里，Gated-Attention Reader、AoA Reader、XLNet 代表的是抽取式 / 阅读器模型的不同阶段；完形填空则更接近“填空推理”基准。

到 2026 年，问答的真正主线已经是检索增强生成（RAG）与长上下文问答。很多系统不再把“问答模型”独立训练成单一 reader，而是用检索器找证据，再交给 LLM 生成和引用答案。知识图谱问答依旧存在，但不再是唯一核心路线；阅读理解型模型也仍有价值，但更多转化成“作为专用 reader 或 reranker 的组件”。因此，传统 Reader 模型并没有完全过时，但它们今天更像 QA 系统里的模块，而不是系统本体。

知识库问答（Knowledge-base QA, KBQA）通常要求模型把自然语言问题映射到知识图谱查询路径、逻辑形式或候选实体关系组合。Gated Graph Neural Networks、记忆网络一类模型之所以重要，是因为它们代表了“在图结构上做推理”的阶段。这条路线今天仍有价值，尤其在高精度企业知识库、医疗知识库和金融知识图谱中。

抽取式阅读理解模型解决的是：答案就在给定段落中，系统只需找出正确 span。AoA Reader、Gated-Attention Reader、XLNet 阅读器等都属于这一路。它们在 benchmark 上曾非常强，也塑造了“question + passage -> answer span”这一经典范式。今天它们更多承担 reader、reranker 或 teacher 的角色，而不是完整 QA 系统本体。

现代问答系统的核心通常是“先证据，后答案”。检索器负责召回，重排器负责压缩候选，LLM 负责综合、归纳、生成并引用证据。若上下文窗口足够长，还可以把多段证据一起送入模型完成跨文档回答。这使 QA 从“单段抽取”升级为“检索、证据组织、推理、生成”一条完整链路。

完形填空（Cloze-style QA）和早期阅读器模型之所以在发展史上重要，不只是因为它们是早期 benchmark，而是因为它们迫使模型显式学习“从上下文恢复缺失信息”。Reading Strategies Model、Hidden Coherence Model 这类方法今天已经明显不是主流系统，但它们代表了阅读理解任务从浅层词匹配走向深层语义建模的过渡阶段。

问答系统表面上像一个单独任务，实际上经常站在多项 NLP 能力的交汇点上。检索负责把相关证据找出来，信息抽取负责把文档中的实体、事件和结构化事实整理清楚，NLI 或 reranker 负责判断哪些证据真的支持答案，摘要或生成模块再把证据组织成最终回答。若缺少这些中间环节，系统很容易要么答非所问，要么生成看似流畅但缺乏依据的答案。

因此，现代 QA 更适合被理解为一个任务编排层。它并不总是靠某个单独 reader 或 LLM 一步完成，而是依赖检索、抽取、排序、验证和生成协同工作。也正因为如此，问答的上限通常不只取决于生成模型本身，还取决于前面各层证据组织得是否足够干净。

实体链接（Entity Linking, EL）处理的是：文本里出现的某个实体提及（Mention），究竟对应知识库中的哪一个真实实体。它的难点不在于发现“这里提到了一个名字”，而在于做消歧（Disambiguation）。例如“Jordan”可能是国家、姓氏或篮球运动员；“Apple”可能是水果，也可能是公司。

导图里提到 DeepType、ELDEN、联合实体识别与消歧、WAT，代表了实体消歧和端到端 EL 的几个典型阶段。WAT 这类 Wikipedia-based linking 工具曾经非常实用，但若从今天的主流看，它已经更像传统成熟系统，而不是最前沿方案。

当前实体链接的强主线是检索 + 精排。BLINK 这类系统先用 bi-encoder 在向量空间检索候选实体，再用 cross-encoder 细排；GENRE 这类方法则把链接问题转成“生成实体名称或唯一标识”的 constrained generation。再往前一步，很多 LLM 应用会把 EL 与检索、知识库调用和 schema 约束整合起来。也就是说，纯规则或纯局部分类式 EL 今天已经明显偏旧，现代 EL 更像“候选召回 + 全局上下文消歧 + 知识库约束”的组合系统。

实体链接几乎总是分成两步。第一步是候选生成（Candidate Generation），也就是先把可能对应的实体缩到几十个甚至几个；第二步是实体消歧（Entity Disambiguation），利用上下文、局部语义和知识库结构做最后判断。若没有第一步，搜索空间太大；若没有第二步，系统很容易只凭表面字符串做错决策。

GENRE 一类方法出现后，实体链接开始从“多分类 / 排序问题”扩展成“受约束生成问题”。模型不再只在固定候选里二选一，而是直接生成实体名称、页面标题或唯一标识，再由解码约束保证输出合法。这种方法在开放域和超大知识库场景下很有吸引力，但它通常仍需要检索、别名库和知识库约束配合，不能把它理解成彻底摆脱候选集。

实体链接里最典型的错误，并不是模型完全不理解上下文，而是候选集一开始就召回错了。如果候选生成阶段没有把正确实体放进候选池，后面的精排器再强也无从挽回。别名缺失、缩写歧义、跨语言拼写差异和长尾实体冷启动，都是这一层最常见的来源。

另一类错误发生在上下文消歧上。系统看到了正确候选，却没有真正理解当前语境中的实体角色。例如“Apple 发布财报”与“苹果富含果胶”共享同一个表面字符串，但上下文语义完全不同。也正因为如此，实体链接的误差分析通常必须把召回失败与消歧失败拆开看，否则很难判断问题究竟出在检索、别名库还是上下文建模。

实体链接通常是知识系统的入口对齐层。信息抽取负责把 mention 找出来，实体链接负责把 mention 对到知识库中的唯一实体，后续关系推理、知识图谱查询和事实聚合才能真正建立在同一个对象上。若没有这一层，系统很容易把同一实体的不同别名拆成多份记录，或把不同实体错误合并。

因此，EL 很少单独作为终点任务交付，更常作为检索、知识库、问答和推荐系统里的基础设施存在。它把开放文本里的表面字符串，转换成数据库里可被唯一索引的实体标识，这正是知识系统能稳定扩展的前提。

关系预测（Relation Prediction）在导图语境里更接近知识图谱补全（Knowledge Graph Completion）或链路预测（Link Prediction）：给定头实体 \(h\)、关系 \(r\)、尾实体 \(t\) 中的部分信息，预测缺失边是否存在，或哪一个关系最合理。

TransE、ConvE、ConvKB、KBAT 都是这一方向的典型模型。TransE 用平移假设 \(h+r\approx t\) 建模关系，是最经典的知识图谱嵌入基线；ConvE、ConvKB 用卷积操作增强三元组交互；KBAT 则引入图注意力。到今天，这些模型仍然经常作为 benchmark baseline 出现，但已经不能被视为“当前知识推理系统的全部”。

现代路线至少多了两层扩展。第一层是更强的知识图谱嵌入与图神经网络；第二层是把 KG 与 LLM 结合，用文本语义、路径推理和外部知识共同预测缺失关系。也就是说，导图里这些模型没有错，但它们更像经典 KGE 主线，而不是 2026 年全部主流。

TransE 代表最早的几何平移建模思想，结构简单、解释直接；ConvE、ConvKB 试图用更强的非线性交互提升表达力；KBAT 则把图结构邻域显式纳入建模。它们的共同前提是：知识已经以三元组形式存在，模型的任务是从结构中补全缺失边，而不是直接从原始自然语言中抽知识。

若把这条线再补完整，DistMult、ComplEx、RotatE 也是必须知道的代表模型。DistMult 用双线性打分，是最经典的张量分解式基线之一；ComplEx 通过复数空间解决对称关系表达不足的问题；RotatE 则用复平面旋转刻画关系变换。这几类模型一起构成了知识图谱嵌入从“平移”到“更强代数结构建模”的主干。

现代知识系统很少只依赖图结构本身，因为大量关系证据其实散落在原始文本、文档描述和外部检索结果中。于是，关系预测开始越来越像“知识图谱结构 + 文本语义 + 检索证据 + LLM 推断”的混合问题。传统 KGE 在封闭图谱 benchmark 上仍有价值，但面对开放世界知识更新时，单靠静态嵌入往往不够。

关系预测最常见的误判之一，是把图中共现误当成真实关系。某些实体因为在图谱中高频出现，会让模型学到“它似乎和很多东西都能连上”，从而在评测集上看起来不错，但一到开放世界或冷启动实体就迅速失真。静态图嵌入在这一点上尤其明显，因为它们更擅长记住结构统计，而不一定真的理解关系语义。

另一个常见问题是封闭图谱假设过强。很多 benchmark 默认实体和关系集合是固定的，但真实业务里知识会持续增长，文本证据也会不断出现。若系统只依赖既有图结构，而不把文档语义、别名变化和新事实注入进来，就会在知识更新场景里很快退化。

关系预测与关系抽取并不是同一件事，但在现代知识系统里两者越来越紧密。关系抽取从原始文本中发现候选事实，关系预测则在知识图谱结构和文本证据上判断哪些边应被补全、强化或修正。若把两者结合起来，系统就不再只是“从文本抽三元组”，而是能够持续把文本世界的新增事实并入图谱世界。

因此，关系预测在今天越来越像一个知识融合层：上游接文本抽取、实体链接和检索证据，下游接图谱补全、问答和推荐。它的价值不只在 benchmark 上补对几条边，而在于让知识图谱随着外部世界变化持续更新。

语法纠错（Grammatical Error Correction, GEC）要求模型把含有语法、拼写、搭配、时态或词法错误的句子，改写为更符合标准书面语言的版本。它本质上是一个“受约束文本编辑”任务，而不是开放式生成任务：模型既要改对，又不能无故改动本来正确的部分。

导图里的 Copy-Augmented Transformer、CNN Seq2Seq + Quality Estimation、Transformer，都代表了从“序列到序列改写”走向“更受控编辑”的过渡阶段。尤其是 copy 机制，在 GEC 中很自然，因为绝大多数 token 其实应该原样保留。

今天的主流更偏向 T5、mT5、BART 这类 encoder-decoder 文本编辑模型，以及 LLM 驱动的纠错器。CNN Seq2Seq 已明显过时，更多作为历史阶段代表；纯通用 Transformer 也通常不会直接裸用，而是会配合差分标注、最小编辑目标、错误类型建模或后验置信度校准。若系统要求可解释和高精度，还会加入语言规则、置信度过滤和多候选 rerank。

GEC 和摘要、开放式写作不同，它的最优输出通常离输入很近。也正因为如此，copy 机制、最小编辑距离目标、差分标注和受控解码在这一任务里格外重要。一个好的纠错器不仅要会改错，还要会尽量少改，否则很容易把本来正确的表达也改坏。

现代 GEC 系统通常会把生成模型与后验筛选结合起来：模型先生成候选改写，再结合语言规则、质量估计、置信度阈值或多候选 rerank 选出最稳的版本。若场景对可解释性要求高，例如教育批改，还会额外输出错误类型和修改依据，而不是只给最终改写句。

GEC 的核心难点并不只是“识别错误”，而是控制修改边界。很多模型在训练后会出现过度修改（Over-correction）：它们把风格差异、可接受变体甚至作者有意保留的表达都改成自己更熟悉的形式。这样得到的句子可能更像标准语料，却不一定更符合用户真正需要。

因此，GEC 的高质量系统往往必须额外监控两类指标：一类是错误纠正率，另一类是无错句保持率。若只盯着改对多少错句，而不管原本正确句子被误改多少，系统在真实使用中往往会显得“很积极，但不可信”。

语法纠错在教育批改、写作辅助、客服质检和文本清洗里都很常见，但不同场景的目标并不相同。教育场景需要错误类型和解释，写作辅助更强调流畅与风格建议，客服质检可能只关心是否满足模板规范，训练数据清洗则更看重低风险批量修复。也正因为如此，同样叫 GEC，系统输出可以是改写句、差分标注、错误标签或多候选建议，而不一定只有一种形式。

这也解释了为什么很多系统不会让 GEC 模型直接“改完即落地”。更稳的做法通常是：模型给出候选修改，规则与置信度模块筛掉高风险改写，再由用户确认或下游流程决定是否接受。换句话说，现代 GEC 更像受控编辑器，而不是完全自动重写器。

对话（Dialogue）不是单一任务，而是一组彼此耦合的子任务集合。导图中列出的对话行为分类、对话状态跟踪、检索式聊天机器人、生成式聊天机器人、意图分类、槽填充，本质上共同构成了传统对话系统的技术栈。

若是任务型对话（Task-Oriented Dialogue），系统通常先做意图分类（Intent Classification）和槽填充（Slot Filling），再通过对话状态跟踪（Dialogue State Tracking, DST）维护用户目标。Neural Belief Tracker、自注意力 DST、CRF-ASN、BiLSTM-CRF 都是这一代方法的代表。若是开放域聊天，历史上往往分检索式与生成式：Poly-encoder、BERT、ELMo 更偏检索匹配；TransferTransfo、Seq2Seq 更偏生成。

到 2026 年，对话系统的中心已经显著转向LLM 驱动的统一对话代理。这并不意味着意图分类、槽填充和 DST 失效了，而是它们经常被吸收到更大的系统里，作为工具、状态缓存、结构化约束或评测子项存在。传统模块化对话系统仍然适用于高可控、高合规、流程稳定的客服和交易场景；而开放式、多工具、多轮任务对话则几乎都在向“LLM + memory + retrieval + tool use”的路线收敛。

任务型对话的关键不是“聊得自然”，而是把用户目标稳定推进到可执行状态。因此它天然重视意图分类、槽填充、DST、策略学习和接口调用。导图里的 CRF-ASN、BiLSTM-CRF、Neural Belief Tracker 等模型，正对应传统任务型对话系统的典型子模块。今天在强流程、高合规场景里，这条路线依然有效。

开放域聊天和多工具对话则更强调上下文理解、长期记忆、外部检索和工具协作。这里的核心不再只是单轮回复质量，而是多轮一致性、任务分解、工具调用正确性和用户状态持续跟踪。也正因为如此，现代对话系统越来越像一个由 LLM 驱动、但周围包裹记忆、检索、函数调用和安全控制的系统，而不是一个单独的“聊天模型”。

指代消解（Reference Resolution）处理的是：文本中的代词、名词短语或省略表达，究竟指向哪个先行项。更狭义的共指消解（Coreference Resolution）关注同一实体在文档中的多次提及，例如“OpenAI 发布了新模型。它……”，其中“它”指回“OpenAI”或“新模型”，就需要结合上下文判断。

导图中把它分成共指、回指、所指，按方法又区分规则系统和统计方法，这是经典教科书式划分。规则系统里，Hobbs 算法和知识库规则曾经非常重要；统计阶段则经历了 Mention Pair、Mention Ranking、Entity-Mention 等一系列建模范式。后来深度学习又把问题统一成端到端 span 推断，例如 end-to-end neural coreference 与后续 SpanBERT 路线。

今天规则法已经不是主流最优，但在小数据、强格式文本和高可解释场景里仍有生命力。真正的主线是端到端 span 模型 + 预训练编码器，以及近两年的 LLM 辅助共指消解。值得注意的是，LLM 虽然能做不少指代任务，但在长文档一致性和幻觉控制上并不天然完美，所以共指消解并没有因为 LLM 出现而“自动解决”。

规则法之所以在早期有效，是因为很多指代现象确实和句法位置、性数一致、语义类别约束强相关。统计阶段的 Mention Pair、Mention Ranking、Entity-Mention 则逐步把问题从“写规则”转成“学习哪些候选更像同一实体”。这几代方法虽然已不是前沿，但仍然决定了今天端到端 span 模型的评价方式和候选组织逻辑。

现代大模型能在短上下文里做不少共指判断，但长文档、多实体交织和跨段落所指漂移依然容易出错。也正因为如此，共指消解至今仍是很多文档理解、法律文本分析和长篇问答系统的重要中间模块，而不是一个已经“被 LLM 顺手解决”的旧任务。

时间处理（Temporal Processing）研究的是：如何从文本中识别时间表达、恢复时间值、推断事件先后关系，以及估计文档的成文时间。它不仅关心“2026 年 4 月”这种显式时间实体，也关心“上周五”“三个月后”“发布前一天”这类相对、模糊或依赖上下文的时间表达。

导图里提到文档时间标记和时间提取两个方向，这是很好的切分。NeuralDater、BurstySimDater 属于文档时间推断阶段的代表；时间提取则通常包括时间实体识别、时间实体链接 / 归一化、时间表达合成和时间值补全。这里真正困难的地方往往不是识别出“这是一个时间片段”，而是把它映射成统一、可计算的时间值。

现代时间处理仍然保留很强的规则 + 学习混合特征。原因是时间正规化对格式和日历知识高度敏感，纯神经网络不一定比规则安全；但时间识别、文档定年和跨句时间推理又越来越依赖强编码器与 LLM。因此，这个方向并没有被某个单一大模型彻底替代，而是长期保持 hybrid 风格。

时间处理至少包含两层不同问题。第一层是识别：找出文本中哪些片段在表达时间；第二层是归一化：把“明天下午”“上个季度”“发布前三天”这类表达映射成统一时间值或时间区间。第一层更像实体识别，第二层则更依赖日历规则、基准时间和上下文推断。

NeuralDater、BurstySimDater 这类方法关注的是整个文档大概写于何时，或者文中事件时间如何组织。这类任务常需要把局部时间表达、主题词汇、事件背景和文档风格一起纳入判断，因此比简单时间实体识别更接近高层语义推断。

时间正规化至今仍大量依赖 HeidelTime、SUTime 一类规则系统，原因不是这个方向“还不够现代”，而是时间表达本身高度格式化、依赖日历知识，并且错误代价很高。学习模型擅长召回和上下文推断，规则系统擅长最后一步标准化，这正是时间处理长期保持 hybrid 风格的根本原因。

时间处理里一个经常被忽略的重点是：模型最后到底要把时间表示成什么。TIMEX3 和 ISO-TimeML 提供的是经典标准化框架，它们让系统能够把“2024 年底”“两周后”“此前一天”这类表达写成统一注释格式，便于不同系统共享数据与评测。HeidelTime 之所以长期有生命力，也和它紧贴 TIMEX3 规范有关。

不过，传统 TIMEX3 表示在面对组合式、事件相对型和多片段时间表达时会显得偏紧。近年的时间正规化研究开始更多借助SCATE 这类更接近语义组合的表示，把时间表达理解成可执行的语义构造，而不是只生成一个表面规范字符串。这条线本质上让时间正规化越来越像语义解析任务，而不只是模式匹配。

时间处理不只关心单个时间片段，还关心事件之间的先后、重叠和包含关系。例如“签约后一个月交付”“开庭前提交证据”“发烧三天后住院”，真正决定业务含义的往往是事件与时间、事件与事件之间的相对次序。因此，Temporal Relation Extraction 和事件时间排序常与时间实体识别共同组成一套系统，而不是互相独立。

这类任务比时间实体识别更难，因为它需要跨句、跨段落乃至跨文档整合证据。模型既要知道哪些词是事件，又要知道它们如何被时间信号词、时态、语气和篇章结构共同约束。也正因为如此，时间关系推理往往是时间处理里最接近高层语义理解的一块。

时间处理在实际系统里常出现在时间线构建、医疗病程整理、法律事实排序、新闻事件追踪、文档检索过滤和时效问答里。很多系统真正需要的并不是“找出一个时间 mention”，而是把它绑定到统一时间轴上，再与事件记录、数据库字段或搜索索引对齐。这里一旦时间归一化错了，后续检索、排序和分析都会系统性偏移。

因此，现代时间系统常采用分层结构：前段用规则与模型联合做时间识别和归一化，中段做事件-时间对齐与关系推理，后段再把结果注入检索、问答或知识库模块。LLM 可以提高覆盖和解释能力，但最终落库的时间值仍然往往需要规则或可执行语义层做最后校验。

时间处理里的典型错误，往往不是“完全没识别出时间”，而是识别对了 mention，却归一化错了值。例如“下周一”必须相对于文档创建时间解析；“第三季度”必须结合业务日历；“术后三天”甚至需要先找出手术事件发生点。模型若把这些表达直接映射成表面日期字符串，而没有绑定正确参考系，最终结果会在时间线上整体漂移。

另一类常见错误发生在事件排序上。句子里同时出现多个事件、多个时间锚点和跨句照应时，系统很容易把“复诊后三天再次住院”理解成“住院后三天复诊”。这类错误在医疗、法律和新闻场景里代价很高，因此时间处理的误差分析通常必须同时检查 mention 检出、归一化和关系推理三层，而不能只看实体识别 F1。

词法分析（Lexical Analysis）处理的是句子进入更高层语义与句法建模之前的基础语言单位处理。它关心的通常不是整句含义，而是文本如何被切分、归一、标注成更适合后续处理的符号序列。导图中列出的分词、词干提取、词形还原、词性标注、命名实体识别，确实常在传统 NLP 流程图里被放在这一级。

分词（Tokenization / Word Segmentation）在中文和英文里的问题形态并不相同。英文天然有空格，因此基础 tokenization 常从空格和规则切分开始，再处理标点、缩写和复合词；中文没有显式词边界，因此需要额外决定“哪些字应该组成一个词”。中文分词的经典路线包括：基于词典的 Trie / DAT / AC 自动机，配合正向最长、逆向最长、双向最长等扫描规则；基于统计的 n 元语法 + 最短路径 / N 最短路径；以及基于深度学习的序列标注。

到 2026 年，深度学习时代讨论“分词”时，很多场景已经转化成了子词切分（Subword Tokenization）问题。英文里，BPE、WordPiece、Unigram Language Model 和 SentencePiece 比传统有限状态切分更重要；中文里，大模型通常直接采用统一 tokenizer，而不再把传统中文分词作为唯一入口。也就是说，传统中文分词并没有消失，但在大模型系统里，它不再是唯一中枢。

英文侧若回到更传统的 NLP 管线，还会见到有限状态自动机（Finite State Automaton, FSA）和规则分词器。它们在今天的大模型训练里不再是主角，但在工业文本清洗、词法分析器和需要强规则控制的场景里仍然常见。

中文分词之所以长期是独立问题，是因为汉语书写天然不提供稳定词边界，而很多后续任务又需要比“单字”更高一级的词汇单位。基于词典的方法本质上是在字符串流上做高效匹配，Trie、双数组字典树（DAT）和 AC 自动机解决的是“如何快速找到候选词”；正向最长、逆向最长、双向最长解决的是“当词典里有多个可匹配长度时如何选边界”。这一路线速度快、实现稳、易于接入领域词典，但对新词和上下文歧义无能为力。

统计分词把切分看成路径搜索或序列概率最大化问题。做法通常是先构造词图，再用 n 元语法、最短路径或 N 最短路径寻找最优切分。与纯词典法相比，它能利用上下文偏好解决部分歧义，例如“研究生命起源”应切成“研究 / 生命 / 起源”还是“研究生 / 命 / 起源”。深度学习路线则进一步把问题改写成字级序列标注或 span 预测，让模型直接学习“字与字之间是否应该断开”。到了预训练模型时代，中文分词甚至可以被吸收到更大的表示学习框架中，不再必须先手工做干净切分。

英文表面上“有空格就够了”，但真正进入模型前仍需解决大量边角问题，例如缩写、连字符、URL、数字、标点、特殊符号、大小写和多语言混杂。传统规则切分器和 FSA 在这一步很强，因为它们能精细控制清洗行为；但在现代预训练系统里，真正决定词法入口的往往是子词算法。BPE、WordPiece、SentencePiece 和 Unigram Language Model 的核心目标都不是还原语言学上的“真实词”，而是在词表大小、未登录词鲁棒性和序列长度之间做工程折中。

因此，今天很多 NLP 模型的第一步已经不是“先分词再建模”，而是“按 tokenizer 规则把文本编码成 token 序列”。这也是为什么传统中文分词、英文规则切分和现代 tokenizer 不能混为一谈。前两者更偏语言学和预处理，后者则直接决定模型输入空间本身。

词干提取（Stemming）和词形还原（Lemmatization）都在解决“不同表面形态如何映射到更稳定的词汇单位”这一问题。波特词干算法（Porter Stemmer）属于典型规则式词干提取；词形还原则更依赖词典和词法知识，例如把 went 还原成 go。词干提取更粗糙，词形还原更语言学化。

词性标注（Part-of-Speech Tagging, POS）则是给每个 token 赋予语法类别，例如名词、动词、形容词。早期系统常用 HMM、CRF；深度学习阶段出现了 Meta-BiLSTM、Flair 等模型；今天多数高质量 POS 系统已经建立在强预训练编码器之上。需要注意的是，POS 在大模型时代没有“消失”，只是很少再作为独立明星任务出现，而更多是下游结构化分析的一部分。

至于 NER，虽然很多传统课程把它挂在词法分析旁边，但从任务本质看，它更适合归入信息抽取，因此本文主体也放在信息抽取一侧理解。

词干提取和词形还原经常被混用，但它们解决的问题并不完全相同。词干提取追求的是把多个形态变体压缩成可聚合的表面核心，因此允许输出一个并非真实单词的“词干”；词形还原追求的则是恢复词典意义上的规范词元，因此通常需要结合词性和词法规则。信息检索时代大量使用 stemming，是因为它可以提高召回；而高质量语言分析更偏好 lemmatization，因为它保留了更强的语言学一致性。

在现代 NLP 管线里，POS 很少再单独成为最终产品，却经常作为隐式中间结构存在。句法分析器会利用词类信息稳定局部结构判断；信息抽取和关系抽取在某些低资源场景下也会把 POS 作为辅助特征；语法纠错与教学反馈系统则仍然需要显式输出词性标签。HMM 和 CRF 代表的是“局部发射 + 转移约束”的经典序列标注时代，BiLSTM、Flair 和预训练编码器代表的是“上下文表示更强，显式特征工程更少”的阶段。今天若只谈 POS 标签集而不谈编码器，往往已经不够贴近实际系统。

传统 NLP 往往把词法分析看成严格前置流水线：先分词、再词形还原、再词性标注、再进入句法和语义模块。现代大模型系统中，这种刚性的前后级联已经明显减弱，因为大量词法信息会被预训练编码器隐式吸收。但词法分析并没有消失，它只是从“每个系统都要显式暴露的一连串步骤”变成了“在 tokenizer、预处理器、结构化分析器和数据清洗器里各自承担不同角色”的基础层。

真正落地时，是否显式做词法分析，取决于任务边界。如果目标是训练一个通用编码器，往往只需要稳定 tokenizer；如果目标是做中文检索、领域规则抽取、教育批改、法律文书结构化或高质量句法分析，显式的分词、词形还原和 POS 仍然会显著影响系统上限。也正因为如此，词法分析不能被简单理解成“旧时代遗产”，它依然是许多高精度系统的入口控制层。

句法分析（Syntactic Parsing）研究的是：一个句子的结构应该怎样被组织起来。它通常分成短语结构分析（Constituency Parsing）和依存句法分析（Dependency Parsing）两大主线。前者更关心句子如何被递归切成词组、短语和从句；后者更关心词与词之间谁依附谁、主谓宾修饰关系怎样组织。

短语结构分析的经典路线是概率上下文无关文法（PCFG）与 CKY 动态规划。PCFG 让规则带概率，CKY 负责在句子上做高效 chart parsing。之后出现了判别式和深度学习阶段，例如递归神经网络语法器、自注意力编码器语法器，以及 Self-Attentive Encoder + ELMo 这类代表模型。今天若追求高精度，强预训练编码器和自注意力句法器显然比纯 PCFG 更常见，但 PCFG 和 CKY 仍然是理解语法解析的基础。

短语结构树的价值，在于它直接保留了“短语由哪些更小成分构成”的层级信息。例如名词短语、动词短语、从句边界和附着位置，在 constituency tree 中都能被显式表达。因此，它在语言学分析、句法驱动生成、教育语法反馈和某些高精度语义解析任务里仍然很重要。PCFG 解决的是“在文法规则给定时如何估计一棵树的概率”，而 CKY 解决的是“如何在指数级候选树空间里做可计算的动态规划搜索”。

深度学习时代的 constituency parser 则把“树结构评分”交给神经编码器完成。递归神经网络语法器强调沿树组合表示，自注意力语法器则更擅长利用全局上下文。到了预训练模型阶段，parser 往往不再自己从零学习词法和局部组合，而是直接站在强编码器隐藏状态之上做 span 打分或 chart 打分。这意味着 PCFG 仍然是理论骨架，但现代高精度系统的打分函数已经明显神经化。

依存分析的经典划分是基于图（Graph-based）与基于转移（Transition-based）。图方法把整棵依存树看成全局优化问题，典型算法包括项目树场景下的 Eisner 算法，以及非项目树场景下的最大生成树与 Chu-Liu-Edmonds；转移方法则通过 Arc-Standard、Arc-Eager、Arc-Swift 一类转移动作逐步构树。静态规范（Static Oracle）和动态规范（Dynamic Oracle）则属于训练策略，不应与解码算法混成一层。

深度学习阶段最有代表性的路线是Biaffine Parser。它用强编码器得到词表示，再通过 biaffine 打分 head-dependent 关系。到今天，预训练编码器 + biaffine head 依然是句法分析的强主线。导图里部分“Eisner / BiAffine / 生成式”关系有些混杂，实际应区分：Eisner 和 Chu-Liu-Edmonds 是解码算法，Biaffine 是神经打分头，二者解决的问题不同。

图方法的优势在于全局最优视角。模型先为候选弧 \((h,m)\) 或带标签弧打分，再在全句范围内搜索满足树约束的最高分结构。这使它在整体一致性上通常更稳，也更容易与强打分头结合。转移方法则更像在线决策过程：解析器维护栈、缓冲区和部分弧集合，通过一连串动作逐步把句子变成依存树。它的优势在于速度和增量构树自然，特别适合流式或局部决策分析。

Arc-Standard、Arc-Eager、Arc-Swift 这些名称说的不是不同损失函数，而是不同的构树动作系统。Arc-Standard 更偏保守、构树动作整洁；Arc-Eager 允许更早地建立依存关系；Arc-Swift 进一步通过更大跨度动作减少决策步数。静态规范与动态规范则回答另一个问题：训练时，到底用“唯一标准动作序列”监督，还是允许模型在偏离正确路径后仍获得合理指导。把这些概念拆开，依存句法的结构才会清晰。

Biaffine parser 的关键不在于“用了一个新层”，而在于它把依存弧打分写成了适合现代编码器的参数化双线性形式。编码器先为每个词产生上下文化表示，再把“作为 head 的表示”和“作为 dependent 的表示”分别投影，最后用 biaffine 分数建模它们之间的方向性关系。这样一来，句法分析的难点就被集中到两个地方：一是编码器是否真的学到了句子结构线索，二是解码算法能否把局部弧分数组装成合法整树。

这也是为什么“Eisner 很强”或“Biaffine 很强”这种说法都不完整。前者是结构约束下的搜索器，后者是局部打分器；真正高性能 parser 是二者与预训练编码器共同组成的系统，而不是某一个名字单独决定一切。

虽然大模型可以在不显式输出句法树的情况下完成很多任务，但句法分析并没有失去价值。信息抽取会用依存结构缩短实体关系路径，文本纠错会用句法边界限制改写范围，语义角色标注和 AMR 解析也常把句法作为辅助约束。对于法律、医学、教育和语言学场景，显式句法树仍然提供了预训练模型隐表示难以直接替代的可审计结构。

因此，今天的句法分析更像一个高价值结构化中间件。它不一定每次都站在系统最前台，却仍然在需要可解释结构、精细边界控制和复杂语义映射的任务里发挥作用。

语义分析（Semantic Analysis）讨论的是：句子到底表达了什么意义，而不仅仅是它在词法或句法层面长什么样。导图把这一章拆成词义消歧、语义角色标注、语义依存分析、抽象语义表示、问句转 SQL，这种拆法很合理，因为它们正好对应从局部词义到全句结构语义，再到可执行结构表示的几条主线。

词义消歧（Word Sense Disambiguation, WSD）要求模型判断一个词在当前上下文里究竟是哪一个义项。传统监督法常用互信息、贝叶斯、最大熵；无监督方法包括 ShotgunWSD、MCS Estimation；知识库方法则依赖词典定义、Yarowsky 路线或结构树信息。深度学习阶段出现了 Att-BiLSTM、ELMo 等模型。今天 WSD 仍是一个真实问题，但它已不像早年那样作为独立核心 benchmark 被频繁单独强调，因为强预训练模型在很多下游任务里已经隐式承担了部分消歧工作。

语义角色标注（Semantic Role Labeling, SRL）则关注“谁对谁做了什么”。早期方法常依赖短语结构树、依存句法树或语块边界；现代方法更多使用预训练编码器、span 预测和联合谓词-论元学习。换句话说，语法信息仍然重要，但已经不再总是以手工管线方式显式注入。

WSD 的本质是把一个词面形式映射到正确义项，因此它天然会围绕三类信息展开。第一类是监督数据，也就是人工标注过的“这个上下文里是哪个 sense”；第二类是分布信息，即同一义项在什么上下文里更常出现；第三类是外部词典或知识库，把定义、同义词、上位词和例句作为先验。互信息、贝叶斯、最大熵、Yarowsky、ShotgunWSD 这些方法虽然分属不同年代，但都在尝试回答同一件事：上下文中哪些证据最能决定义项。

强预训练模型出现后，WSD 的讨论方式发生了变化。模型不一定显式输出 WordNet sense id，但在阅读理解、问答、检索和翻译中已经隐式完成了大量消歧工作。这也是为什么 WSD 在现代论文里不再像早期那样处于舞台中央，却依然是很多错误分析中的核心因素。

SRL 的目标不是画出句法树，而是明确事件语义里的参与者结构。例如一个谓词对应的施事、受事、工具、地点和时间，往往比单纯主谓宾更贴近任务语义。早期系统严重依赖句法树，因为句法边界提供了天然候选论元；现代系统虽然可以用预训练编码器直接做 span 分类或 token 级角色标注，但语法与谓词框架知识仍然经常以隐式或显式方式进入模型。

也正因为如此，SRL 长期被视为连接“句法结构”和“事件语义”的中间层。问答、信息抽取、事件抽取和摘要若想真正理解谁做了什么，往往都会从 SRL 式表示中获益。

语义依存分析（Semantic Dependency Parsing）试图构建比句法依存更贴近语义关系的图结构。导图里提到基于图的 BiAffine + BERT 和基于转移的 list-based Arc-Eager + Tree RNN，这恰好对应两大经典路线。当前主流仍然是强编码器配合图结构预测，传统转移式语义依存已明显不如图方法常见。

抽象语义表示（Abstract Meaning Representation, AMR）把句子语义编码成图。早期的 JAMR、CAMR、AMREager、Sequence-to-Graph Transducer 都是重要里程碑；而现在更强的路线已经扩展到 seq2seq AMR 解析器与 LLM 微调。旧方法不能说“没用”，但更适合理解 AMR 发展史，而不是视为今天唯一主干。

问句转 SQL（Text-to-SQL）则属于可执行语义解析。最早系统多用语义分析器和 Seq2Seq；后续出现了 schema-aware parser、RAT-SQL、PICARD 等更强系统；到 2025 到 2026 年，LLM-based Text-to-SQL 已经成为最活跃主线，重点转向 schema linking、约束解码、工具调用和数据库执行反馈。导图里只写 Seq2Seq 和语义分析器，历史上没错，但今天显然不够覆盖主流。

语义依存分析和 AMR 都在追求“比句法更贴近意义的结构”，但它们不是同一种任务。语义依存通常仍紧贴原句 token，把语义关系建在词级节点之间；AMR 则进一步走向概念图表示，允许一个句子被抽象成与表面词序不完全同构的语义图。前者更像“在句法树上做语义增强”，后者更像“把句子翻译成概念图语言”。这也是为什么 AMR 解析往往更接近图生成或 seq2seq 任务，而语义依存更接近结构预测任务。

Text-to-SQL 之所以难，不只是因为要生成 SQL 语法，而是因为模型必须同时解决自然语言理解、数据库模式理解、字段对齐和执行约束。用户问“上季度销量最高的华东区域产品前三名”，系统不仅要理解聚合、排序、时间范围和地域过滤，还要知道这些语义应该落到数据库里哪些表和列上。这就是 schema linking 的核心难点。

Seq2Seq 是最早把问题端到端写成“自然语言到 SQL”的统一框架，但它对复杂 schema 的对齐能力有限。RAT-SQL 这类模型通过关系感知编码把库表结构显式纳入建模，PICARD 则把 SQL 语法约束直接并入解码过程，减少非法输出。到了 LLM 时代，模型在少样本泛化上更强，但执行一致性、表结构歧义和高风险 SQL 约束仍然需要工具化约束与数据库反馈闭环。

如果说词法分析解决的是“语言单位怎样切出来”，句法分析解决的是“结构怎样组织起来”，那么语义分析解决的就是“这些结构最终表达了什么”。它的任务边界天然最宽，因此也最容易被强预训练模型“部分吸收”。但被吸收不等于问题消失。WSD、SRL、AMR、Text-to-SQL、语义依存这些任务仍然在要求模型输出显式语义结构，而不是只在隐空间里“懂了”。

在工程实践里，语义分析经常出现在高价值接口层。知识问答需要把自然语言转成可执行查询，信息抽取需要把句中角色和事件结构抽出来，企业数据助手需要把口语问题映射成数据库操作，法律和医疗系统需要可审计的语义关系。这些场景共同说明：显式语义结构并没有因为 LLM 普及而过时，反而在高风险、高精度应用里变得更重要。

文本聚类（Text Clustering）要求在没有明确标签的情况下，把语义相近的文本自动分到同一组。它本质上是无监督学习问题，因此关键不只是聚类算法本身，还包括文本如何表示。导图里提到“聚类算法”和“特征提取”两支，这是正确的，因为向量表示常常比具体聚类器更决定上限。

传统阶段，文本通常先做分词、停用词过滤、特征选择，再用词袋或 TF-IDF 表示，随后接 K-Means、重复二分法、DBSCAN、层次聚类。聚类数量常借助 Gap Statistic、平方误差和（WCSS）或轮廓系数（Silhouette）估计。今天这些方法仍然有用，尤其在轻量场景和解释性要求较高时。

现代路线则越来越多地使用句向量或文档向量，再在嵌入空间聚类。例如“embedding + UMAP + HDBSCAN + topic labeling”已经成为短文本发现主题的常见工作流。严格说这已经和主题模型发生了交叉，因此很多 2026 年的“文本聚类系统”本质上更像嵌入驱动的语义分群，而不是单纯稀疏向量上的 K-Means。

文本聚类里最关键的变化，是“难点从聚类算法本身前移到了表示学习”。在 TF-IDF 时代，K-Means、层次聚类和 DBSCAN 的差别固然重要，但更大限制通常来自稀疏词袋无法稳定表达同义改写、长距离语义相似和短文本语义压缩。进入嵌入时代后，只要文档向量本身足够好，很多看起来普通的聚类器也能得到比旧系统更合理的簇结构。

这也是为什么现代文本聚类讨论越来越频繁地和 embedding model 绑在一起。今天若只列 K-Means、DBSCAN、层次聚类而不讨论向量表示，往往已经抓不住真正决定效果的主因。

K-Means 假设簇大致呈球状，适合簇规模相近、聚类数可预设、向量空间较规整的场景；DBSCAN 更强调基于密度发现簇，不要求预先指定类别数，也更能识别噪声点，但对高维空间和参数敏感；层次聚类则保留了簇的多层结构，适合做探索式分析和可视化解释。没有任何一个聚类器能在所有文本几何结构下都占优，因此算法选择必须与表示空间形状一起考虑。

现代文本聚类里非常常见的一条工作流是：先用句向量模型把文本编码到稠密语义空间，再通过 UMAP 等降维方法整理局部几何结构，随后用 HDBSCAN 一类密度聚类器发现簇，最后再为每个簇生成关键词或标签。BERTopic 之所以流行，就是因为它把这条流程工程化了：前面用 embedding 捕捉语义相似，后面再用 c-TF-IDF 为每个簇生成可解释主题词。

这一流程说明，现代文本聚类不再只是“给每个点分个组”，而是同时追求语义几何结构、噪声点处理和簇级解释。也正因为如此，聚类与主题发现的边界越来越模糊，很多系统最终交付的其实是“簇 + 标签 + 代表文档”的完整探索结果。

文本聚类的困难之一，在于它没有监督学习那样直接清晰的正确标签。轮廓系数、Davies-Bouldin、Calinski-Harabasz 这类内部指标可以评价簇内紧致度和簇间分离度，但它们未必等价于“语义上真有意义”。如果手头有少量人工标签，还可以用 ARI、NMI 等外部指标做辅助评估；若没有标签，很多时候必须结合人工审阅、代表样本查看和下游任务收益一起判断。

因此，聚类系统的交付往往不应该只有一个分数。更有价值的输出通常是：每个簇的规模、关键词、代表文本、离群点比例，以及这一聚类结果能否真正支持运营分析、主题发现、知识整理或数据清洗。

文本聚类常被用于工单归类探索、舆情主题发现、搜索日志归并、问答库清洗、异常文本发现和训练数据审计。它最大的价值并不总是“最终分类”，而是帮助人先看清数据里自然形成了哪些模式。因此，在很多真实系统里，文本聚类不是终点模型，而是建标签体系、做数据治理和发现长尾问题的上游分析工具。

进入 LLM 时代后，聚类之后再用大模型生成簇标签、总结簇差异和抽取代表问题，也成为越来越自然的工作流。此时，聚类负责组织结构，LLM 负责生成解释，两者结合往往比单独依赖其中一方更稳。

文本聚类最常见的误判有两类。第一类是表面词重合但语义不同，例如都出现“退款”但一个在投诉物流、另一个在讨论账单系统；若表示学习不够强，系统会把它们错误合并。第二类是语义相近但表面词差异大，例如“登录不上去”“账号一直转圈”“验证码过期”其实都属于访问失败主题，但 TF-IDF 类表示可能把它们拆散。

还有一个经常被忽略的问题是簇规模不平衡。真实业务数据里往往存在一个超大通用簇和大量细小长尾簇，如果仍然机械使用固定 \(k\) 的 K-Means，就容易把长尾问题淹没进大簇中。因此，文本聚类的失败模式往往不是算法“算错了”，而是表示空间、聚类假设和业务目标本来就没有对齐。

文本分类（Text Classification）要求把文本映射到预定义标签空间 \(\mathcal{C}\)，例如新闻主题、垃圾邮件、风险等级、工单类别、法务标签或用户意图。它是 NLP 里最基础、最常落地的任务之一，因为大量业务问题最后都能被写成“这段文本属于哪一类”。

传统流水线是：分词、停用词过滤、特征选择、词袋向量，再接线性分类器。导图里提到的卡方检验和互信息，是很典型的特征选择方法。这个路线今天并没有完全消失，在小数据、强解释、低资源和高吞吐场景里仍然实用。

深度学习阶段经历了 ULMFiT、BERT、XLNet 等代表模型；今天主流则是预训练编码器微调、参数高效微调（PEFT），以及在少样本条件下直接使用 instruction-tuned LLM 做 zero-shot / few-shot 分类。也就是说，BERT 和 XLNet 仍然是应知应会的主线，但若追求最新工程效果，通常还要把 LLM 分类器、检索增强分类或多标签约束一起纳入考虑。

传统文本分类之所以长期有效，是因为很多业务标签本来就和词项分布高度相关。垃圾邮件识别、主题分类、工单路由、舆情监控，这类任务即使用 TF-IDF + 线性模型也往往有很强基线。它的优势在于训练快、解释清楚、部署轻；劣势则是对同义改写、跨领域迁移和长上下文语义组合能力有限。

BERT、XLNet、ModernBERT、T5 等模型让文本分类从“词项匹配”升级成“上下文语义判别”。在高质量标注数据充足时，编码器微调通常仍然是吞吐和精度都很稳的方案；在标注数据很少、标签定义变化频繁时，LLM 的 zero-shot / few-shot 分类则更灵活。很多系统最终会结合两者：先用 LLM 帮忙定义标签边界或生成弱标注，再训练专用分类器承接高吞吐上线。

情感分析（Sentiment Analysis）本质上是文本分类的一个重要子集，但它关注的不是主题归属，而是文本的主观极性、态度和情绪取向，例如正面、负面、中性，或更细粒度的愤怒、喜悦、失望、讽刺等。

从技术上看，情感分析既可以直接复用文本分类框架，也可能比普通分类更难。原因在于情感经常依赖否定、反讽、上下文立场、领域词义漂移和目标对象。例如“这家餐厅排队两小时，菜倒是很普通”与“这家餐厅普通得让我想哭”在词面上都不激烈，但情绪极性不同。

因此，现代情感分析通常会区分句级情感、方面级情感（Aspect-based Sentiment Analysis, ABSA）和多模态情感。导图里把它视作文本分类子集是合理的，但若真正展开工程实践，它常常值得单独建模，而不是简单看作“普通分类任务换个标签名”。

句级情感分析回答的是“这段话整体偏正面还是负面”；方面级情感分析则更细，要求模型回答“用户对哪个方面持什么态度”。例如一条评论可能同时包含“物流很快，但客服态度很差”，此时整体情感并不等于对每个方面的情感。ABSA 之所以长期是独立方向，正是因为它需要同时建模目标对象与情绪极性。

情感表达高度依赖语境、立场对象和修辞。否定、让步、反讽、双关和领域词义变化都会让简单关键词方法迅速失效。因此，现代情感系统往往不仅做分类，还会显式建模目标实体、方面词、情绪触发词和上下文关系。也正因为如此，它虽然可归入文本分类，但在实际工程里常常需要专门的数据设计与误差分析。

文本摘要（Text Summarization）要求模型在尽量保留关键信息的前提下，把长文本压缩成更短、可读性更高的表示。它通常分为抽取式（Extractive）和生成式（Abstractive）两类：前者从原文中挑句子或片段，后者重新组织语言生成新摘要。

导图里的抽取式部分分得很完整：无监督的 TextRank、LexRank，监督学习的二分类、序列标注、回归排序，以及深度学习模型。这里的旧模型名里有一些已经明显不再是主流，例如某些早期 RNN 摘要器、GAN 摘要器和特定数据集专用网络，今天更多属于阶段性代表。真正仍有持续影响力的是“抽取式排序 / 句子选择”这一大思路本身。

生成式摘要的现代主线已经非常清晰：BART、PEGASUS、T5、LongT5、指令微调 LLM 与长上下文模型。GAN、KIGN、DCA 一类旧生成摘要器现在基本不是主流第一选择。若是新闻摘要、会议纪要、长文档摘要或多文档摘要，今天几乎都会优先考虑强 encoder-decoder 模型或长上下文 LLM，再配合事实一致性与引用校验。

抽取式摘要的核心不是“重新写”，而是“选得准”。TextRank、LexRank 用图排序估计句子重要性，监督式方法则把句子选择写成排序或分类问题。它的优势在于事实忠实度通常更高，因为输出直接来自原文；缺点是可读性和压缩灵活性有限，尤其在需要跨句融合时更受约束。

生成式摘要追求的是重写能力：模型可以融合多句信息、压缩冗余并重组表达。代价是事实漂移风险更高，因此现代摘要系统往往会把事实一致性校验、引用对齐和长文切块策略放到与模型本身同等重要的位置。旧式 GAN 摘要器在今天已明显偏历史阶段，真正主流已经转向 BART / T5 / PEGASUS / 长上下文 LLM 这一线。

如果把生成式摘要的发展再补一块，Pointer-Generator Network 是很关键的过渡模型。它把“从词表生成新词”和“从原文复制关键信息”结合起来，显著缓解了早期生成式摘要中事实词汇漂移严重的问题。今天它已不是最强主线，但在摘要发展史上是从纯 Seq2Seq 走向更可控生成的重要桥梁。

到了长文档摘要阶段，问题又不只在生成能力，而在于上下文预算与文档结构利用。LongT5、分块摘要、层次摘要和长上下文 LLM 的出现，正是在回答“当输入不再是一篇短新闻，而是一整份报告、会议记录或多文档材料时，摘要系统该怎样组织证据”。

主题模型（Topic Modeling）试图在没有显式标签的前提下，发现文档集合中的潜在主题结构。经典问题不是“这篇文章属于哪一个给定类别”，而是“这些文档内部自然长出了哪些主题簇，它们各自由哪些高频语义词汇构成”。

概率模型主线包括潜在语义分析（Latent Semantic Analysis, LSA）和隐狄利克雷分配（Latent Dirichlet Allocation, LDA）。LSA 通过奇异值分解（SVD）在词-文档矩阵中寻找主方向；LDA 则用层次贝叶斯生成过程，把文档看作主题混合、把主题看作词分布，并常借助吉布斯采样或变分推断求解。LDA 到今天仍是最经典的可解释主题模型之一，但已经不再代表全部前沿。

深度学习阶段出现了自动编码器、受限玻尔兹曼机（RBM）、语义哈希等路线；而近年的强主线则明显转向嵌入驱动主题建模，例如 BERTopic 通过 Transformer embedding、聚类和 class-based TF-IDF 组织主题。也就是说，LSA / LDA 仍然是基础，BERTopic 和各种 neural topic model 则更贴近 2026 年的常用实践。

LSA 和 LDA 的价值主要在于可解释性和理论清晰度。LDA 尤其适合回答“一个文档由哪些主题混合而成、每个主题又由哪些词分布构成”这类问题，因此在社会科学、数字人文和需要审计的分析任务里仍然常见。它的问题在于对短文本、语义改写和深层语义相近但词面不同的文本不够敏感。

BERTopic 一类方法把现代嵌入模型直接引入主题发现流程。文档先被编码到语义空间，再用聚类找到簇，最后用 c-TF-IDF 或关键词抽取给每个簇生成可解释标签。这种路线在短文本、跨领域语料和语义近义表达丰富的场景里更强，也正因为如此，它已经成为很多现代主题发现系统的默认起点。

计算机视觉（Computer Vision, CV）处理的是：如何把像素、视频帧和图像区域转成可计算的语义结构。它和 NLP 的差别，不只是输入模态不同，更在于视觉任务天然要处理空间结构、局部纹理、尺度变化、遮挡关系和几何一致性。因此，同样是“识别一个对象”，视觉里往往还要回答它在哪、轮廓是什么、动作是什么、与其他对象如何组合。

从任务视角看，视觉系统的输出粒度可以从粗到细展开：最粗的是整张图的类别，进一步是图中的目标框，再进一步是像素级分割、实例级分割、关键点和三维结构。也正因为如此，计算机视觉不是一个单一任务，而是一整组围绕“从视觉信号恢复结构化世界表示”的任务簇。

图像分类（Image Classification）要求模型判断整张图主要属于哪个类别。它是视觉中最基础的任务之一，因为它回答的是最粗粒度的语义问题：这张图里最重要的是什么。LeNet、AlexNet、VGG、ResNet、EfficientNet 到 Vision Transformer（ViT），都曾把图像分类作为核心 benchmark。

分类任务看似简单，实际上承担了视觉表示学习的“预训练入口”角色。大量检测、分割、检索和多模态系统，最早都建立在分类 backbone 上。到了基础模型阶段，图像分类不再只是终点任务，更像是视觉表示质量的最小检验：若连整图语义都难以稳定提取，更细粒度任务通常也很难做好。

从业务视角看，图像分类通常对应商品识别、质检分档、医学影像初筛、内容审核、遥感地物分类等“整图判断”任务。它的难点并不只在类别数目，还在于细粒度差异、类间相似、类内变化、多标签共存和开放集识别。也正因为如此，现代分类系统经常会区分单标签分类、多标签分类、细粒度分类和开放词汇分类，而不是把所有问题都压成一个 softmax。

在技术路线上，经典 CNN 通过局部卷积和层级感受野提取纹理到语义的递进表示，ViT 则把图像切成 patch 后用自注意力建模全局关系。到了开放词汇阶段，CLIP 一类视觉-语言预训练模型进一步把“图像分类”扩展成“图文对齐后的零样本识别”，这使分类任务从固定标签预测走向可迁移视觉语义理解。

图像分类最核心的技术演进，首先体现在特征提取骨干的变化上。LeNet、AlexNet、VGG 代表卷积网络早期阶段；ResNet 通过残差连接解决深层网络难训练问题，长期成为最重要的视觉 backbone 之一；EfficientNet 则强调在宽度、深度和分辨率之间联合缩放。进入 Transformer 阶段后，ViT、Swin Transformer 等模型把视觉 token 化处理，显著提高了大规模预训练的可扩展性。

今天若是做常规分类任务，CNN 并没有被彻底淘汰。中小数据集、边缘设备和低延迟场景里，卷积模型仍然有很强实用价值；而在大规模预训练、跨任务迁移和统一多模态建模中，Transformer 与视觉-语言编码器已经成为更强主线。

很多真实分类问题并不是“每张图只有一个互斥标签”。商品图可能同时包含品类、材质、风格和品牌；医学影像可能同时出现多种征象；遥感图像也可能包含多类地物。这就把问题从普通单标签分类扩展为多标签分类、层级分类和细粒度分类。

细粒度分类尤其依赖局部判别区域和部件级差异，例如鸟类品种、车型版本、工业缺陷等级。这里常见的技术包括注意力机制、局部区域对齐、度量学习和 part-based 建模。它们的目标不是把整图压成一个粗语义向量，而是显式利用“哪些局部细节区分了高度相似的类别”。

到 2026 年，图像分类最重要的变化已经不是再刷新固定封闭标签集上的 top-1，而是把分类能力嵌入更一般的视觉-语言表征中。SigLIP 2 一类视觉-语言编码器在 2025 年继续强化了零样本分类、检索以及对下游定位和稠密预测的迁移能力，说明现代分类 backbone 正在向统一视觉语义编码器收敛。传统只针对 ImageNet 风格封闭分类优化的模型仍然重要，但已不再代表全部前沿方向。

因此，这一任务今天更应理解为视觉基础表示的入口，而不是孤立终点。分类模型既服务于直接判别任务，也服务于检索、检测、分割和多模态理解等更复杂任务的初始化与特征抽取。

目标检测（Object Detection）要求模型同时回答两件事：图里有什么，以及它们各自在哪里。输出通常是边界框（Bounding Box）加类别标签，因此它比图像分类多了一层空间定位问题。Faster R-CNN、YOLO、SSD、RetinaNet 和 DETR 系列，分别代表了两阶段检测、单阶段检测和集合预测检测几条主线。

检测任务在工业中极其重要，因为很多真实系统并不满足“整张图只有一个核心对象”。安防、自动驾驶、零售盘点、工业检测、仓储机器人和内容审核，真正需要的往往是多目标定位而不是整图分类。检测系统的难点也集中在这里：小目标、密集目标、遮挡、长尾类别和实时延迟约束会同时出现。

从方法演进看，两阶段检测先生成候选区域，再做分类和框回归，精度通常较高；单阶段检测直接在特征图上输出类别和框，更强调速度；DETR 一类集合预测方法则把检测写成对象 query 到目标集合的匹配问题，减少了手工 anchor 设计。三条路线长期并存，本质上对应的是不同的精度、延迟和工程复杂度权衡。

检测系统的评估也比分类复杂得多。它不仅看类别是否正确，还看定位框是否足够贴近目标，因此会同时受到 IoU 阈值、召回率、误检率和延迟指标影响。很多业务里，漏掉一个小目标的代价远高于多报几个框，因此真正上线时往往要围绕类别阈值、NMS、误报成本和业务容忍度做细致调参。

两阶段检测以 Faster R-CNN 为代表，先提出候选区域，再在候选上做分类和框回归，长期是高精度场景的重要方案。单阶段检测以 YOLO、SSD、RetinaNet 为代表，直接在特征图上预测目标位置和类别，结构更适合实时部署。DETR 系列则把检测改写为集合预测问题，用 bipartite matching 统一训练和解码流程，显著减少手工 anchor 设计和启发式后处理。

这些路线都没有被彻底淘汰。实时视频监控、边缘设备和工业相机仍然大量使用 YOLO 系谱；强调极致精度的离线分析系统依然偏好更重的高精度检测器；而 DETR 路线在统一建模和与多模态接口兼容方面具有更好扩展性。

检测领域这几年的关键变化，是任务正从封闭标签检测走向开放词汇检测（Open-Vocabulary Detection）和文本驱动 grounding。用户不再只能让系统识别预定义的几十或几百类，而是可以直接用自然语言描述目标，例如“穿红衣服的人”“灭火器”“桌上的蓝色马克杯”。

这一方向的代表工作包括 OWLv2、Grounding DINO 以及后续将视觉-语言模型知识迁移到检测头的路线。它们共同利用图文预训练带来的开放语义空间，使检测器不再完全依赖人工框标注类别表。对于长尾类别、机器人感知和通用视觉助手，这条线已经成为 2026 年最重要的检测前沿之一。

当前检测系统越来越像“通用定位接口”。一方面，开放词汇检测通过视觉-语言预训练显著扩展了类别空间；另一方面，统一视觉基础模型正在让检测与 grounding、分割、跟踪和问答共用更接近的表示。闭集检测器仍然在高可靠工业任务中占据主流，但从研究与平台能力建设的角度看，检测已经不再只是框回归问题，而是在向“语言可指定、跨任务可迁移的通用视觉定位”演进。

语义分割（Semantic Segmentation）要求对每个像素赋予语义类别，也就是把“这是什么”细化为“图上每个位置分别属于什么语义区域”。它的输出不是几个框，而是一张像素级标签图。FCN、U-Net、DeepLab 和后来的 SegFormer 等模型，都是这一方向的重要代表。

分割之所以重要，是因为很多任务需要的不只是粗框，而是区域级理解。医学影像要求精确勾出病灶区域，遥感要求识别道路、水体和建筑边界，自动驾驶要求区分车道、路缘、行人区域。只做检测，很多边界与面积信息会丢失；做语义分割，系统才真正具备了像素级空间理解能力。

语义分割的核心难点在于同时兼顾局部边界和全局语义。模型既要识别大范围上下文，知道一块区域为什么属于道路而不是阴影，又要保住细边界，不把车道线、病灶边缘和文本轮廓抹平。因此 encoder-decoder、空洞卷积、多尺度特征融合和跳跃连接会长期出现在分割模型里。

从业务形态看，分割任务常常不是“只有一个统一标签图”这么简单。很多系统还要进一步输出面积占比、轮廓长度、区域拓扑或边界置信度，因为真正的下游问题通常是测量、监控和决策，而不仅仅是把像素染色。也正因为如此，分割系统在工程上常与后处理、连通域分析和几何约束一起部署。

FCN 首次系统性地把分类 CNN 改造成像素级预测网络，奠定了现代语义分割的基本框架。U-Net 强调编码器与解码器之间的跳跃连接，在医学影像等数据量较小、边界极重要的任务中影响尤其深远。DeepLab 系列则通过空洞卷积与多尺度上下文模块强化大感受野建模，长期是高质量语义分割的重要主线。

这些模型今天依然值得保留，因为它们不是简单的历史名词，而是三种非常稳定的设计思想：全卷积密集预测、编码器-解码器重建细节、多尺度上下文聚合。后续很多 Transformer 分割模型，实际上也仍在复用这些思想，只是把编码器与全局建模机制换成了新的骨架。

分割方向在 2023 年以后出现了明显结构变化。SAM 把“给定点、框或粗提示，分割出目标”做成了通用接口；SAM 2 又把这件事扩展到了图像与视频统一的 promptable segmentation，并通过流式记忆机制支持实时视频分割。到 2025 至 2026 年，SAM 3 一类工作开始把任务进一步推进到 concept-level segmentation，即不只是响应点和框，还能响应短语和概念描述。

这意味着，语义分割的前沿不再只是在固定标签集上追求 mIoU，而是在向“可提示、可泛化、可与语言接口对接”的方向移动。传统监督分割仍然是自动驾驶、遥感和医疗的主力，但 foundation model 正在重新定义分割任务的接口形式。

到 2026 年，最合理的判断不是“传统分割被 SAM 取代”，而是分割出现了双主线。业务里对固定类别、严格标注和高可靠边界要求极高的任务，仍然主要依赖专门监督模型；而交互式标注、跨域迁移、开放概念分割和下游多模态系统，则越来越依赖 promptable segmentation 与视觉基础模型。两条路线会并存很长时间。

语义分割能告诉系统“哪些像素属于人”，但无法区分“这是第一个人还是第二个人”。实例分割（Instance Segmentation）正是在此基础上继续细化：它要求系统为每个对象实例分别给出独立掩码。Mask R-CNN 是这条主线最经典的代表之一。

再往前一步，全景分割（Panoptic Segmentation）试图把语义分割和实例分割统一起来：既要标出可数目标的实例，也要标出天空、道路、墙面这类不可数背景区域。它更接近机器最终需要的场景理解形式，因为真实世界本来就同时包含“一个个对象”和“连续背景材质”。

实例分割的业务场景通常集中在“需要知道每个对象边界且对象彼此相邻”的问题上，例如工业零件计数、仓储抓取、细胞分析、零售货架盘点和自动驾驶障碍物理解。这里检测框通常不够，因为框会把相邻实例混在一起；语义分割也不够，因为它不区分具体个体。实例级掩码正是为了补上这个粒度缺口。

全景理解进一步强调“一个场景应由对象与背景共同组成统一表示”。这让视觉系统更接近机器人和自动驾驶真正需要的世界模型，因为决策系统既关心“前方有几辆车”，也关心“当前位置是不是可通行区域”。从这个角度看，全景任务不是简单把两个 benchmark 拼起来，而是在逼近更完整的场景语义表达。

实例分割早期最有代表性的路线，是在检测器基础上增加掩码预测分支。Mask R-CNN 正是这一思路的经典实现：先定位对象，再在 RoI 内预测像素级掩码。这种设计的好处是充分继承成熟检测器的定位能力，因此在实例级边界抽取上非常稳定。

后续也出现了 query-based 实例分割与 one-stage 掩码方法，使实例分割逐渐从“检测的附属任务”走向更统一的目标集合预测框架。但无论结构如何变化，核心问题始终不变：同类目标必须被分开，且边界要足够精细到能支撑下游计数、抓取和测量。

全景分割要求模型同时处理 things 与 stuff 两类视觉实体。things 指可数对象，例如人、车、箱子；stuff 指不可数背景区域，例如道路、天空、草地。把这两类输出统一到一张场景图里，是场景理解比普通分割更进一步的地方。

这类任务对于自动驾驶、机器人和数字孪生系统尤其关键，因为它们的决策依赖既包括“对象实例”，也包括“环境区域”。因此，全景理解不仅是一个 benchmark，而是在逼近下游系统真正使用的环境表征形式。

实例与全景方向当前也在向开放词汇和 promptable mask prediction 收敛。Open-Vocabulary SAM、基于 CLIP/SAM 组合的开放概念实例分割，以及更通用的 VLM-based detection and segmentation 路线，都在说明：实例分割不再局限于封闭标签表，而是开始与开放语义空间打通。对需要长尾对象识别的真实系统而言，这一变化比单纯再提升几个 benchmark 点数更重要。

关键点检测（Keypoint Detection）与姿态估计（Pose Estimation）要求模型输出对象内部的结构点，例如人体关节、面部特征点、手部骨架或工业零件的定位基准点。它关心的不是“一个人在哪”，而是“这个人的身体结构如何展开”。

这类任务广泛出现在动作分析、手势交互、AR/VR、运动捕捉、驾驶员监测和人机交互系统中。其难点在于，模型必须处理视角变化、遮挡、多人交叠和快速运动；输出形式也常从单帧关键点扩展到时序姿态轨迹，因此它天然和视频理解、跟踪以及三维重建相连。

从方法上看，关键点估计常分为 top-down 和 bottom-up 两类。前者先检测对象，再在每个对象内部预测关键点，精度通常更高；后者直接在整图上定位关键点并做分组，更适合多人密集场景。进一步往三维姿态和多视角重建发展后，问题又会从二维热力图预测扩展到几何约束和跨相机一致性。

这类任务的系统价值在于，它输出的是结构化运动信息而不是静态类别标签。一个动作识别系统若能显式利用骨架轨迹，就更容易理解“举手”“跌倒”“挥拍”这类与姿态变化强相关的事件。因此，姿态估计常被当作上游中间表示，为行为分析、康复评估、体育分析和机器人模仿学习服务。

二维人体姿态估计长期围绕两条路线展开。top-down 先检测人框，再在框内预测关键点，精度高但计算成本随人数增长；bottom-up 直接在整图上预测关键点和连接关系，对多人密集场景更友好。两者并无绝对替代关系，而是服务于不同密度与实时性约束。

关键点回归本身也有两类常见范式：直接坐标回归和热力图回归。热力图方法通过空间概率分布表达不确定性，长期更稳定；直接回归则在轻量模型和端侧部署里更有吸引力。

一旦任务从二维扩展到三维，问题就不再只是“点落在哪个像素”，而是“这个结构在空间里如何展开”。三维姿态需要结合相机几何、多视角一致性或人体先验约束；手部与面部关键点则更强调局部高精度和细粒度遮挡处理。这些任务常常共享骨干网络，但损失函数、后处理与先验建模差异很大。

也正因为如此，姿态估计不是一个单独小分支，而是连接视觉理解、动作建模、AR 交互和三维重建的重要桥梁任务。

到 2026 年，关键点和姿态估计越来越多地作为更大系统的中间表示使用。例如动作分析、手势控制、体育分析和机器人模仿学习，往往不是最终关心关键点本身，而是关心由关键点轨迹编码出的结构化运动模式。因此，这个方向的价值正在从“单独 benchmark”转向“为下游时空理解提供可解释结构”。

OCR（Optical Character Recognition）研究的是：如何从图像或扫描文档中检测文本区域并识别字符内容。传统 OCR 曾高度依赖版面规则、字符切分和语言后处理；深度学习阶段则逐步收敛到“文本检测 + 文本识别 + 版面理解”的组合系统。

今天的文档视觉早已不止是“把图片里的字读出来”。发票解析、表单理解、版面分析、图文混排文档检索、票据审计和知识入库，都要求系统同时理解文字内容、阅读顺序、表格结构和视觉布局。也正因为如此，OCR 现在通常更适合放在“文档智能（Document Intelligence）”这条更宽的任务线上理解。

从任务分解看，文档视觉通常包含文字检测、文字识别、版面分析、表格结构恢复、字段抽取和文档问答等子问题。很多错误并不来自字符本身认不出来，而是来自阅读顺序错乱、跨栏合并失败、表格单元格边界识别不准，或者字段和值没有正确对齐。因此，文档视觉的关键不是孤立字符识别，而是二维布局与语义结构的联合建模。

现代文档模型也已经从“先 OCR，再单独做 NLP”逐渐走向联合编码。LayoutLM、Donut 以及更广义的文档多模态模型，都会把文本内容、位置坐标和视觉 patch 一起输入模型，使系统直接学习“这个词出现在什么区域、与哪些框相邻、在版面上承担什么角色”。这条路线尤其适合票据理解、合同解析和复杂表单抽取。

把 OCR 讲清楚，至少要分三层。第一层是文本检测，解决“文字在哪”；第二层是文本识别，解决“写了什么”；第三层是结构理解，解决“这些文字在文档中如何组织”。很多系统只把前两层叫 OCR，但在现代业务里，第三层往往才决定系统是否真正可用。

例如表格解析、表单抽取和合同理解，核心难点并不只是字符识别，而是单元格之间、标题与字段之间、段落与图表之间的关系建模。也正因为如此，文档视觉必须显式利用二维布局与阅读顺序。

传统 OCR pipeline 把检测、识别、版面分析和信息抽取分成多个模块，优点是可解释、可替换、可局部优化；缺点是误差会在模块之间层层传递。2024 至 2026 年，文档智能明显转向端到端 Vision-Language Model。Florence-2 展示了统一 prompt-based 视觉任务接口；Ocean-OCR、PaddleOCR-VL 等模型则进一步表明，文档解析可以在一个较统一的视觉-语言框架中同时处理文本、表格、公式和图表。

这条线的价值在于，它不再把文档理解视为“先 OCR，再做 NLP”的串行流水线，而是直接把页面理解成多模态结构预测问题。

到 2026 年，文档视觉最明显的趋势是统一化和多语言化。PaddleOCR-VL 把文档解析压缩到一个相对紧凑的 VLM 中，并覆盖上百种语言与复杂元素；Ocean-OCR 则强调 MLLM 也可以具备专业 OCR 能力。纯规则版面系统和传统 OCR 仍然在很多生产场景中长期存在，但前沿已经明显从“单点字符识别最优”转向“端到端文档理解最优”。

人脸识别（Face Recognition）和生物特征验证（Biometric Verification）关注的不是通用类别，而是身份一致性。它们更常把输入映射到嵌入空间（Embedding Space），再通过距离判断“是不是同一个人”。FaceNet、ArcFace 一类方法的核心价值，就是把“看起来像不像”转成可度量的向量相似度。

这类系统的工程要求通常比普通分类更苛刻，因为它面对的是开放集（Open-set）识别：系统不只是要在固定几类中选一个，而是要应对大量从未见过的身份、跨设备成像差异、伪造攻击和极低误识率约束。手机终端中的 Face ID、本地门禁、支付风控和公共安全，都属于这一任务线的典型落地场景。

人脸任务通常至少区分验证、识别、检索和聚类四种形式。验证回答“两张脸是否同一人”，识别回答“这是谁”，检索回答“库里最像的是谁”，聚类则回答“哪些样本应归为同一身份”。它们共享嵌入表示，但阈值设置、误报代价和评估协议并不相同，因此不能被简单视为同一个分类问题。

现代生物特征系统还必须显式处理活体检测、呈现攻击和隐私合规。也就是说，真正的系统目标不是把相似脸分开这么简单，而是在低误识率、低拒识率和高安全性之间维持平衡。对于终端解锁、支付认证和门禁系统而言，伪造攻击防御往往和识别精度同等重要。

人脸识别最关键的技术范式，是把人脸映射到判别性嵌入空间，再用距离或相似度进行验证和检索。FaceNet 用 triplet loss 推动同人更近、异人更远；ArcFace、CosFace 等 margin-based loss 则进一步强化了类间可分性，长期成为现代人脸系统的核心训练范式。

这与普通闭集分类有本质不同。人脸系统最终面对的是开放集身份空间，因此训练阶段的分类器通常只是学习判别 embedding 的工具，而不是上线时真正的输出接口。

生物特征验证从来不是“相似度大于阈值”这么简单。真实系统必须同时处理照片翻拍、视频回放、面具攻击、跨设备成像差异和环境光变化。于是，活体检测、呈现攻击检测、分布外样本拒识和阈值校准都会成为完整链路的一部分。

从工程意义看，一个极高精度但无法抵御攻击的人脸模型并不真正可用。安全性、误受理率和误拒识率共同定义了人脸系统的质量。

近两年这一方向的一个重要发现是，foundation model 并不会自动在 face recognition 上直接最优。FRoundation 的结论显示，通用 foundation model 原始状态往往不如专门训练的人脸模型，但在数据有限场景下，通过适当 fine-tuning 可以取得很有竞争力的结果。这说明人脸识别虽然受益于大规模预训练，但任务专用数据分布、损失设计和安全约束仍然不可替代。

因此，2026 年的人脸识别主线不是“完全交给通用视觉基础模型”，而是“以 foundation model 为起点，再做任务专用适配、安全增强与阈值校准”。

视频理解（Video Understanding）把视觉任务从静态图像推进到时序视觉信号。它研究的是：一段视频里发生了什么，哪些对象在如何运动，动作何时开始和结束，事件之间怎样衔接。动作识别（Action Recognition）、时序定位、视频问答、视频检索和多目标跟踪，都是这一方向的重要子任务。

与图像相比，视频多了一条时间轴，因此模型不仅要理解空间结构，还要处理运动模式与跨帧一致性。早期方法用双流网络、3D CNN、时序池化等方式捕捉动态信息；后续主线逐步转向视频 Transformer、时空注意力和视频基础模型。视频任务的难点通常来自长时依赖、帧冗余、计算成本和标注昂贵。

从业务角度看，视频理解既包括“整段视频是什么行为”这类粗粒度任务，也包括“异常事件何时开始”“某个动作在哪一秒出现”“一个对象在多帧中如何持续跟踪”这类细粒度任务。安防巡检、赛事分析、交通监控、内容审核和短视频理解，对时间粒度的要求完全不同，因此模型设计也会在 clip-level 表示与 frame-level 定位之间切换。

视频基础模型的出现，使这条线越来越接近多模态理解。系统不再只预测动作标签，还会回答视频问答、生成描述、根据文本检索视频片段，甚至结合音频和字幕做统一事件理解。也正因为如此，视频理解正在从“纯视觉动作分类”扩展成“时空多模态语义建模”。

视频理解最早的重要路线，是通过双流网络分别建模 RGB 外观和光流运动信息；随后 3D CNN 把时间维直接并入卷积核，形成统一时空特征提取。进入 Transformer 阶段后，模型逐渐转向时空 token 和注意力机制，能更灵活处理长时依赖和跨帧关系。

这些路线的差别，不只是网络结构不同，而是对“视频中什么最重要”的假设不同。双流强调显式运动线索，3D CNN 强调局部时空模式，Transformer 则更强调长距离依赖与统一建模能力。

视频理解不是单一 benchmark。动作识别关注整段 clip 的主行为标签；时序动作定位关注行为开始和结束时间；视频问答则要求把视频内容转成可推理的语义表示；视频检索与视频字幕生成又分别强调检索匹配和自然语言生成。因此，一个“视频模型”并不能自动覆盖所有子任务。

理解这一点很重要，因为不同任务需要的时间粒度完全不同。短动作分类可能只需几十帧；长视频事件理解则可能需要跨分钟甚至更长时间的多模态上下文。

到 2026 年，视频理解最重要的研究变化，是从“专门视频架构”转向“视频基础模型与多模态统一理解”。近期综述表明，视频 foundation model 已覆盖十余类视频任务，而一个值得注意的结论是：纯图像 foundation model 经过适配后，在不少视频任务上依然很强；更进一步，融合图像、视频、音频和文本的 universal model 在视频任务上往往更有优势。这说明视频理解的真正上限，越来越依赖跨模态统一建模，而不只是视频专用编码器本身。

视觉生成任务不再问“图里是什么”，而是问“能否生成一张符合条件的新图”。它包括图像生成、图像修复、超分辨率、风格迁移、图像到图像翻译和受控编辑。GAN 曾长期是这条线的主角，随后扩散模型（Diffusion Model）把高质量、可控生成推到新的主线位置。

在系统层面，视觉生成的价值不只在创作，还在于数据增强、设计辅助、内容编辑、工业缺陷模拟和交互式视觉工具。它与传统视觉理解任务的关系也越来越紧：现代视觉系统往往同时需要“看懂图像”和“按条件修改图像”，这正是视觉基础模型不断走向统一接口的重要原因。

这类任务内部也有明显分工。无条件生成追求逼真样本分布，条件生成强调按文本、草图、分割图或参考图控制输出，图像编辑则要求在“保留原图主体结构”和“精确修改局部属性”之间取得平衡。ControlNet、Inpainting、Image-to-Image、超分辨率和局部重绘，本质上都在回答“怎样把生成能力约束到用户真正需要的方向上”。

从业务落地看，视觉生成已经不只是内容创作工具。商品图生成、广告素材改写、设计草图上色、工业仿真数据合成、医学图像增强和隐私保护合成数据，都会使用生成模型。但这条线也天然伴随可控性、版权、水印、事实一致性和安全审核问题，因此真正可上线的生成系统通常需要严格的内容约束与后处理机制。

GAN 阶段的核心贡献，是第一次把高保真图像生成推到可用水平，并带动了图像翻译、超分辨率和风格迁移等大量任务。扩散模型随后成为主线，因为它在样本质量、训练稳定性和条件控制方面展现出更强优势。再往后，Diffusion Transformer（DiT）把扩散生成与 Transformer 骨架结合，使大规模预训练与统一多模态接口更自然地接轨。

因此，GAN 在今天更接近历史里程碑和部分特定场景工具，而 diffusion / DiT 已经成为生成与编辑的默认主干。若只把视觉生成理解成 GAN，就已经落后于当前主线。

图像编辑任务看似只是“生成模型 + 指令”，实际上比无条件生成更难。系统必须同时满足三件事：正确理解编辑指令、只修改该修改的局部、保持人物身份与场景结构不被无关破坏。也正因为如此，视觉编辑长期围绕 inpainting、mask-guided editing、ControlNet、reference-guided editing 和 instruction-based editing 展开。

一个编辑模型是否优秀，关键不只是生成好不好看，而是编辑是否精准、保真是否稳定、多轮编辑是否可控。这些要求比单次文本到图像生成严格得多。

到 2026 年，视觉生成的前沿重点已经明显转向“高质量基础生成模型之上的可控编辑”。2024 至 2025 年的综述表明，扩散编辑已形成完整技术谱系；而 2025 年的 In-Context Edit 则进一步展示，大规模 DiT 可以通过 in-context editing 和极少参数更新，在指令编辑上取得很强效果。这意味着当前竞争焦点已不只是能不能生成，而是怎样以更少数据、更少参数、更高控制精度完成编辑。

在工程层面，这也解释了为什么生成模型越来越像通用视觉接口的一部分：它们不仅负责“造图”，还要负责按自然语言、草图、参考图和结构约束进行交互式视觉操作。

语音和音频处理研究的是：如何从连续波形中恢复语言内容、说话人信息、环境事件和声学结构。它和 NLP 的关系很紧，但本体并不属于 NLP，因为这里首先要处理的是声学信号本身，而不是离散 token 序列。语音系统真正面对的输入是采样点、频谱和时频结构，因此它天然要解决噪声、混响、口音、重叠说话和实时延迟等问题。

从任务角度看，这一方向可以分为语言内容恢复、说话人建模、声学净化、事件识别和声音生成几条主线。它们共享的底层问题是：连续信号怎样被编码成更高层的结构表示；但最终输出可以是文字、声纹向量、增强后的波形、事件标签或新的合成音频。

语音识别（Automatic Speech Recognition, ASR）研究的是：如何把连续语音信号转写为离散文字序列。它在系统角色上和 NLP 强相关，因为很多对话、语音助手、会议纪要和多模态系统，都会先把语音变成文本，再交给后续 NLP 模块处理。

传统 ASR 往往由声学模型、发音词典和语言模型构成。前端会用傅里叶变换、倒谱均值归一化（CMVN）、声道长度归一化（VTLN）等技术提取和校正声学特征；后端则常用 HMM 和 n 元语法做解码。这条路线今天不再是最热前沿，但在工业和教学中仍非常重要，因为它清楚展示了声学、发音和语言约束如何组合。

深度学习阶段先经历 CNN、LSTM-HMM、神经网络语言模型，再逐渐过渡到端到端 ASR。当前主线包括 CTC、Attention、RNN-T、Conformer、自监督预训练（如 wav2vec 2.0）以及大规模弱监督语音模型（如 Whisper）。Conformer 和 RNN-T 在实时 ASR 中非常强，Whisper 则代表了“超大规模弱监督、多语言、零样本鲁棒转写”的基础模型方向。

因此，导图里的 CNN、LSTM-HMM、神经网络语言模型都应该保留，因为它们是历史关键节点；但若要说明今天真正主流，就必须把端到端 Conformer / RNN-T、预训练声学表示和 Whisper 类基础模型补进来。传统发音词典在纯端到端系统里不再总是必需，但在高精度行业语音和混合系统中仍然经常保留。

端到端 ASR 并不是单一做法。CTC（Connectionist Temporal Classification）擅长在未显式对齐的条件下学习声学到文本的对齐关系，结构简洁、训练稳定；Attention Encoder-Decoder 更强调直接条件生成，在离线高质量转写中很强；RNN-T 和其后续变体则更适合流式实时识别，因为它们能够边听边输出。理解这三条线的差别，有助于看清为什么实时语音助手、会议转写和离线高精度转录常常不会使用同一套 ASR 架构。

wav2vec 2.0、HuBERT、后续 Conformer 化声学编码器，以及 Whisper 这一类大规模弱监督模型，共同推动了 ASR 从“任务专用声学模型”走向“可迁移语音基础模型”。前者强调先学通用声学表示，再在少量标注数据上微调；后者则进一步把海量弱标注语音直接并入训练，使模型具备更强的多语言和噪声鲁棒性。

传统 ASR 的声学模型、发音词典和语言模型并不是三个松散部件，而是明确分工的系统结构。声学模型负责把连续声学特征映射成更接近音素或状态的概率；发音词典负责把单词拆成音素序列，承担“声音如何对应词”的桥梁；语言模型负责在候选词序列里偏向更自然、更可能的组合。只有三者联合起来，系统才能把含噪连续波形稳定转写成文本。这也是为什么传统 ASR 的可解释性很强，错误能清晰地归因到声学混淆、发音歧义或语言先验不足。

LSTM-HMM、CNN-HMM 这类混合系统处在一个很关键的过渡位置。它们保留了 HMM 解码框架，但用神经网络替代传统 GMM 声学建模，从而显著提升了表示能力。再往后，CTC、Attention Encoder-Decoder 和 Transducer 才真正把“声学建模、对齐和文本生成”逐步并入统一神经模型。这个演进过程说明，端到端 ASR 并不是突然出现的，而是在混合系统长期积累之上完成的架构收敛。

ASR 在工程上必须区分流式（Streaming）与离线（Offline）两类场景。语音助手、实时字幕、车载交互要求模型边听边出结果，因此偏爱 RNN-T、流式 Conformer 或 chunk-based 架构；会议纪要、媒体转录、长音频归档则更看重最终转写质量，可以使用更重的双向编码器、Attention 解码器或 Whisper 一类离线大模型。两者的最优架构往往不同，因为延迟约束会直接改变模型可利用的上下文范围。

wav2vec 2.0、HuBERT 和 Whisper 这类模型的重要性，不只是 benchmark 指标更高，而是它们改变了数据依赖方式。自监督模型先从海量无标注语音中学通用表征，再在少量标注语音上微调，因此特别适合低资源语种、口音多样或标注昂贵场景；Whisper 这类弱监督大模型则进一步通过海量带噪转写数据获得多语言鲁棒性，使零样本迁移成为现实。

在现代语音系统里，这些基础模型通常不会孤立存在。它们常与语音活动检测、说话人分离、热词偏置、标点恢复、术语后处理和下游 LLM 理解模块一起工作。也就是说，ASR 的输出虽然是一串文本，但真正可用的语音系统往往是一整条“音频前处理 + 识别 + 后处理 + 语言理解”的复合流水线。

到 2025 至 2026 年，语音理解已经明显从“纯 ASR 模型”延伸到 Speech LLM 与更广义的 Spoken Language Model。新的主线不只是把音频转成文字，而是希望模型直接利用语音中的韵律、情感、重音和非语言线索完成理解、对话和推理。因此，ASR 正在从独立前端模块，逐步变成更大语音智能系统中的一个子能力。

同时，基础 ASR 模型也暴露出新的工程问题。Whisper 及其变体在多语言、弱监督和离线转写上表现很强，但流式延迟、资源占用和幻觉转写风险也越来越被正视。2026 年的实际系统设计里，识别精度已经不是唯一目标，可靠性、拒答能力、术语稳定性和部署成本同样是主线约束。

语音合成（Text-to-Speech, TTS）研究的是：如何把文字、音素序列或更高层语义表示生成为自然、可懂、可控的语音波形。它不只是“把文字念出来”，还要决定韵律、停顿、语速、情感和说话人风格，因此本质上同时涉及语言规划和声学生成。

传统 TTS 常由前端文本分析、声学模型和声码器组成；深度学习阶段则经历 Tacotron、FastSpeech、WaveNet、HiFi-GAN 以及后来的语音生成基础模型。今天的主流重点已经从“是否能发声”转向“是否像真人、是否稳定、是否可控”，因此零样本音色克隆、情感控制、多语种一致性和低延迟推理成为关键工程问题。

从任务拆解看，TTS 通常包含文本规范化、音素或发音表示生成、韵律建模、声学特征生成和神经声码器合成几个阶段。很多听感问题并不来自音色本身，而来自重音落错、停顿不自然、数字和专名读法错误，或者长句韵律塌陷。因此，一个高质量 TTS 系统既是生成模型，也是语言与发音规则系统。

近年的语音生成基础模型把 TTS 推向了更强的说话人可迁移与风格控制能力。系统可以只用几秒参考音频完成音色克隆，也可以按情感、语速和场景风格控制输出。这让 TTS 从“固定播报器”逐渐走向“可编排声音接口”，广泛进入客服、车载助手、有声内容、无障碍辅助和数字人系统。

TTS 的经典深度学习路线可以拆成两部分：上游声学模型负责把文本或音素映射到梅尔频谱等中间表示，下游神经声码器负责把这些中间表示还原为最终波形。Tacotron 推动了端到端语音合成的普及，FastSpeech 通过显式时长建模提高了稳定性与速度，WaveNet、WaveRNN、HiFi-GAN 等声码器则决定了最终听感质量。

这条路线今天仍然非常重要，因为它清楚表达了 TTS 的系统分工：语言侧负责发音和韵律，声学侧负责音色与波形细节。很多商用系统即使已经采用 foundation model，也仍然在内部保留类似分层结构。

近年的 TTS 竞争重点，已经从“自然度够不够”转向“控制力够不够”。零样本音色克隆要求系统只看极少参考音频就能复现说话人音色；可控 TTS 要求系统显式调节情感、语速、重音、风格和语种切换；更进一步，Metis、Spark-TTS 一类工作开始把语音生成视为更统一的 foundation model 问题，不再局限于单一 TTS 任务。

这类模型通常依赖语音 codec token、LLM 式自回归建模或更统一的离散 token 生成接口，使文本到语音、语音到语音转换、说话人迁移和语音编辑之间开始共享更接近的生成骨架。

到 2026 年，TTS 的关键问题已经不只是 MOS 还够不够高，而是系统是否真的可控、可评估、可安全上线。近年的综述已经把 controllable TTS 单独作为主题展开，说明情感、音色、风格和自然语言指令控制正在成为主线；与此同时，零样本 voice cloning 的快速进展也让深度伪造、授权与责任评测成为必须正视的问题。

因此，现代 TTS 既是生成任务，也是安全任务。一个高质量系统除了自然度，还必须处理身份授权、滥用检测、可解释评测和风格失真控制。

说话人识别（Speaker Identification）和声纹验证（Speaker Verification）关注的是“这是谁在说话”，而不是“他说了什么”。系统通常会把语音片段映射到声纹嵌入空间，再比较向量距离或相似度。x-vector、ECAPA-TDNN 及其后续嵌入模型长期是这一方向的重要技术基线。

这类任务广泛用于身份认证、会议分轨、通话质检和说话人聚类。其难点来自跨设备录音条件、背景噪声、短时语音片段和伪造攻击。也正因为如此，现代声纹系统往往要把活体检测、反欺骗和跨域校准一起纳入，而不是只做一个单纯分类器。

从业务形式上看，说话人任务通常还包括说话人分离与说话人日志（Diarization），即回答“谁在什么时候说话”。会议纪要、法庭记录和客服通话分析，不仅需要转写内容，还需要把不同说话人的发言切分出来。于是声纹嵌入、分段、聚类和 ASR 往往会在同一条流水线上协同工作。

声纹系统的工程难点在于阈值极度敏感。开放场景里，误受理和误拒识的代价往往都很高，因此系统常需要按设备、场景和语种做校准，并配合活体检测、回声抑制和前端增强模块。也就是说，声纹验证不是孤立的 embedding 相似度问题，而是完整语音安全链路的一部分。

现代说话人验证的核心范式，是先把变长语音片段压缩成固定长度 speaker embedding，再在 embedding 空间里做相似度判别。x-vector 奠定了这一主流范式；ECAPA-TDNN 则通过更强的通道注意力、层间聚合和多尺度时序建模，长期成为说话人验证的强基线。

这类模型之所以稳定，是因为它们把“谁在说话”从具体内容中相对剥离出来。系统不需要逐词理解语义，只需提取稳定的声道与说话习惯特征。

声纹任务不能只理解为“比两个 embedding 像不像”。会议、客服和法庭记录里更常见的问题是 diarization，即在长音频中标出“谁在什么时候说话”。这要求系统把分段、嵌入、聚类、重叠说话处理和 ASR 联合起来，而不仅是做单对单验证。

因此，说话人技术的真正系统形态通常是：前端做语音活动检测与可能的分离，中间做说话人嵌入与聚类，后端把说话人标签与转写结果绑定到时间轴上。

近两年的一个重要趋势，是声纹系统越来越强调跨语种和跨场景泛化，而不只是在单一英文数据集上刷分。已有工作专门分析了语言相似性对跨语种 non-target speaker verification 的影响，说明说话人验证并不会天然摆脱语言分布变化的干扰。与此同时，语音深度伪造和 replay attack 使反欺骗、活体检测和校准评测进一步前置。

这意味着，2026 年的声纹主线是“embedding + 安全链路”，而不是“孤立的验证模型”。

语音增强（Speech Enhancement）和语音分离（Speech Separation）处理的是“听不清”和“同时有人说话”这两类基础问题。增强任务试图从带噪、带混响语音中恢复更清晰的目标说话声；分离任务则试图把多个重叠说话源拆开。它们往往是 ASR、会议系统和远场交互的前置模块。

传统方法多依赖频谱减法、维纳滤波和统计掩码估计；深度学习阶段则出现了时频掩码网络、Conv-TasNet、DPRNN、SepFormer 等路线。今天的主流趋势是把增强、分离和下游识别协同优化，因为“增强后波形听起来更好”并不一定等于“识别效果一定更好”。

增强、分离和降噪虽然经常一起出现，但目标并不完全相同。增强更强调提升目标语音可懂度与清晰度，分离更强调把多个源拆开，降噪则是更广义地去除背景干扰。不同任务的最优损失函数和评价指标也不同，听感质量、字错率改善和说话人保持度往往不能被同一个指标完全覆盖。

在真实系统中，这类模块常用于会议转写、耳机通话、远场麦克风阵列、车载交互和工业录音清洗。阵列波束形成、回声消除、语音活动检测和后续 ASR 通常会一起部署，因为单独追求“更干净的音频”并不足够，系统最终还是要服务于识别、理解或通信质量目标。

传统增强和分离长期在频谱域操作，依赖噪声估计和掩码预测；深度学习阶段的一个关键变化，是模型开始直接在时域或更接近原始波形的表示上操作。Conv-TasNet、DPRNN、SepFormer 一类方法推动了语音分离对“鸡尾酒会问题”的建模能力显著提升，也让增强与分离的边界变得更接近。

这条演进的意义在于，系统不再只是“对频谱做滤波”，而是能够更完整地重建源语音结构和相位信息。

增强和分离在工程上几乎从不作为独立终点。会议转写、远场交互、助听设备和车载系统最终关心的是字错率、通话质量或用户可懂度，而不是某个离线音频指标单独更好。因此，现代系统越来越强调端到端协同：前处理模块必须为后续 ASR、声纹或通信链路服务。

也正因为如此，增强模型的评测也在发生变化。参考信号可得时可以用传统失真指标；真实场景里则越来越需要无参考评价和下游任务驱动评价。

2024 至 2025 年的 URGENT 挑战和近期分离综述都说明，这一方向正在从“单失真、单数据集优化”走向“通用增强与分离”。语言依赖、多失真类型、采样率变化和真实噪声条件都被放进统一评测框架中。同时，ReFESS-QI 一类工作表明，无参考语音分离评估正在成为必要能力，因为真实混合音频往往根本没有干净真值可用。

这意味着，2026 年这条线真正难的不是模型再堆多深，而是怎样获得跨场景稳健性，以及怎样在没有参考音频时仍然可靠评估系统质量。

关键词检测（Keyword Spotting, KWS）与语音唤醒（Wake Word Detection）要求系统在持续监听中及时发现特定短语，例如“嘿 Siri”或“OK Google”。它和完整语音识别不同，因为它更强调低延迟、低功耗和极低误唤醒率，而不是完整转写整句内容。

这类任务通常部署在端侧设备上，因此模型容量、推理稳定性和噪声鲁棒性比离线精度更关键。很多系统会先用轻量 KWS 模型做前门，再在唤醒后启用更重的 ASR 与语言理解模块，这样可以在功耗、实时性和体验之间取得平衡。

KWS 的技术核心是“在非常长的负样本背景中可靠抓到极短目标片段”。因此它尤其关注误唤醒率、漏唤醒率、持续监听功耗和设备端鲁棒性。家庭环境、车载环境和会议室环境的噪声模式差别极大，一个实验室里效果不错的唤醒词模型，到了真实空间里往往要重新做前端和阈值设计。

很多现代端侧系统还会把 KWS、VAD 和小型流式 ASR 串成分层触发结构。第一层只判断“有没有唤醒迹象”，第二层再确认短语内容，第三层才启动完整理解链路。这种分层架构的价值不在模型更复杂，而在于它能把低功耗常驻监听与较重的后端推理隔离开来。

KWS 的第一原则不是追求最大模型精度，而是在极低功耗和极小内存预算下稳定工作。也正因为如此，小模型设计、量化、蒸馏、特征压缩和 TinyML 部署始终是这一方向的核心问题。近年的 small-footprint KWS 综述进一步把这一点说得很清楚：端侧约束不是附加条件，而是任务定义本身的一部分。

这使 KWS 与很多其他音频任务不同。它的最佳方案常常不是最强大的 foundation model，而是经过蒸馏和硬件共设计后的轻量系统。

唤醒词任务的另一个关键难点，是环境变化会迅速破坏模型稳定性。家居噪声、口音差异、麦克风位置变化和设备回声，都可能显著拉高误唤醒率。AdaKWS 一类工作开始把 test-time adaptation 引入 KWS，说明鲁棒性问题已经不再只是训练集扩增能完全解决的。

与此同时，公平性也开始成为明确问题。2026 年已有工作直接讨论 wake word detection 的 demographic bias，说明唤醒系统不能只在平均指标上看起来不错，而必须关注不同性别、年龄和口音人群之间的性能差异。

到 2026 年，KWS 的主线已经非常清楚：第一，继续做更小、更省电的前门模型；第二，用分层触发把唤醒检测与后端 ASR / LLM 解耦；第三，把鲁棒性、公平性和设备端时延纳入同一目标函数。它不是一个“简化版 ASR”，而是端侧语音交互的系统门卫。

音频事件检测（Audio Event Detection）研究的是：一段声音里发生了什么事件，例如玻璃破碎、警报、犬吠、机器异常、咳嗽或交通噪声。它关心的不是语音语言内容，而是声学场景和事件类别，因此更接近“听觉版分类与检测”任务。

这类任务常用于安防监测、工业巡检、智能家居、车载感知和医疗辅助。技术上，系统既可以做整段分类，也可以做时间轴上的事件定位。难点在于背景噪声复杂、事件持续时间差异大、同类事件跨场景变化强，因此它常常需要时频表示、弱监督标注和多实例学习一起配合。

从任务层级看，环境声音理解通常包含声学场景分类、事件检测、事件分段和多标签识别。一个录音片段里可能同时存在雨声、引擎声和人声，也可能只有一次短暂的撞击事件，因此系统既要建模整体背景，也要捕捉瞬时异常。频谱图、对数梅尔特征、卷积编码器和音频 Transformer 是这里最常见的技术骨架。

这类任务近年来也越来越依赖预训练音频表示。大规模音频基础模型可以先学习通用声音模式，再迁移到工业异常、医疗咳嗽检测或野外生物声监测等小数据任务。与语音识别类似，这条线的收益不只在指标更高，还在于跨任务迁移能力显著增强。

音频事件检测长期默认闭集设定，即系统只检测固定类别表中的声音事件。由于精确逐帧标注昂贵，很多工作会结合弱标签、多实例学习和伪标签传播，让模型在只有片段级标签或部分强标签时仍能学习时间定位能力。这也是为什么 SED 一直比普通音频分类更难。

因为真实音频场景中事件经常重叠、边界模糊、类别长尾，单一 hard label 很难完整描述声音世界。

近两年的关键变化，是音频事件检测开始明显向开放词汇和音频-文本建模移动。Audio-Language Model 综述已经把这一趋势系统化：自然语言监督比固定标签更适合描述复杂真实音频。具体到 SED，近期工作开始直接使用文本查询、机器生成 caption 或多模态 query 来指导事件检测，这让“Detect Any Sound”一类开放词汇设定成为现实方向。

这与开放词汇视觉检测的变化非常相似，说明环境声音理解也在从闭集分类器转向语言可查询的通用音频理解接口。

到 2026 年，环境声音理解的前沿已经不再只是固定 10 类、20 类事件的检测分数，而是开始关心零样本迁移、开放类别、文本查询、噪声鲁棒性与推理能力。Large Audio-Language Model 的兴起也使评测本身成为问题：不仅要测分类和定位，还要测知识、推理、安全与可信度。因此，这条线正在迅速向“通用音频理解”靠拢。

音乐与音频生成任务不再问“声音里发生了什么”，而是问“能否生成新的声音内容”。它包括音乐生成、伴奏生成、风格迁移、语音克隆、音效生成和音频修复。技术路线既可以从符号音乐入手，也可以直接在波形或潜空间中生成连续音频。

这条线的难点与图像生成不同，因为音频天然是时序信号，长程一致性、节奏稳定性和细节纹理都必须同时处理。也正因为如此，音乐和音频生成通常要在“局部音色质量”和“长时间结构组织”之间做复杂权衡。

从表示形式上看，音乐生成至少有两条大路线。符号音乐生成在音符、和弦和节拍层面建模，更容易控制结构与编曲；直接音频生成则面向波形或压缩后的音频 token，更强调真实音色和制作质感。两者常常结合使用，因为结构控制和最终听感通常不由同一层表示单独决定。

音频生成在业务上覆盖背景音乐、配音、游戏音效、影视后期、交互式创作和数据扩增，但其约束比图像更苛刻。轻微的节奏崩坏、爆音和相位异常就会明显破坏体验，因此真实系统常把生成模型与后处理、母带质量控制和版权检测一起使用。

音乐生成最基本的技术分裂，是生成符号序列还是直接生成音频。符号音乐方法更容易控制和弦、节拍、结构和编曲，因此在作曲辅助和可编辑场景中很重要；直接音频生成则更接近最终可听结果，适合生成完整音色、演唱与制作细节。

很多现代系统实际上会组合两层表示：先在高层决定结构，再在低层合成真实声音。这与 TTS 中“语言规划 + 波形生成”的分层逻辑非常相似。

近年的音乐生成已经明显 foundation model 化。YuE、ACE-Step、AudioX 一类工作表明，文本到音乐、长时歌词到歌曲、跨模态控制和多任务音频生成正在逐渐被统一到更一般的音频 token 生成框架中。这里最大的难点不是局部音色，而是长时间结构是否仍然连贯、歌词和旋律是否对齐、风格控制是否稳定。

这也解释了为什么音乐生成研究越来越重视长时一致性、多模态条件和统一评测，而不只是若干秒短音频的主观试听。

音乐与音频生成在 2025 至 2026 年的一个突出问题，是生成能力上涨很快，但评测体系明显滞后。新的综述和 benchmark 工作都在反复强调，客观指标与人类偏好之间常常并不一致，长程结构、情感表达、创造性和版权风险也很难被单一自动指标捕捉。因此，这一方向未来不只是更强生成模型的竞赛，也是在补齐可靠评测、可控生成与合规机制。

搜索、推荐和广告预估处理的是同一类工业问题：在海量候选文档、内容、商品或广告中，如何为当前用户挑出最值得展示的少数结果。三者都不只是做一个静态分类器，而是在解决召回、排序、价值预估、约束满足与在线策略优化共同存在的决策链。差别主要在于用户意图的来源不同：搜索由 query 显式表达意图，推荐更多依赖历史行为和上下文推断意图，广告则还要把商业出价、预算和拍卖机制纳入同一系统。

从系统结构看，这三个方向本质上都可以概括为“理解需求 - 生成候选 - 精排重排 - 在约束下完成最终展示”。搜索系统需要理解 query 与文档相关性，推荐系统需要理解用户兴趣与内容匹配，广告系统则要在相关性与商业价值之间做动态平衡。因此，三者虽然业务目标不同，但底层技术长期共享向量召回、学习排序、重排、多目标优化、校准与策略控制等一整套方法栈。

搜索（Search / Information Retrieval）处理的是：用户带着一个明确问题、需求或目标词串进入系统，系统如何在海量语料里找出最相关的结果。它与推荐最核心的区别在于，推荐更多是在“没有明确 query 时”推断用户想看什么；搜索则是围绕显式 query 展开，因此 Query Understanding、文档匹配和排序相关性成为系统主轴。

一个现代搜索系统通常至少分为四层：查询理解、候选召回、排序重排和结果组织。查询理解负责把用户输入转成可计算的检索意图，例如分词、纠错、改写、意图识别、实体识别、同义词扩展和 query embedding；召回层负责从超大文档库里先捞出一批高潜候选；排序层进一步判断哪些结果更相关、更权威、更新或更满足业务目标；结果组织则决定最终页上的展示方式，例如直答、摘要片段、高亮、聚合卡片和多路结果混排。

搜索是 AI 应用的重要方向，因为它天然要求模型同时理解语言、语义匹配、用户行为反馈和系统约束。一个好搜索系统需要判断文档是否真正回答了 query、是否符合当前上下文、是否应该优先展示某类垂直结果，并在高并发、低延迟场景下稳定输出；关键词命中只是其中最基础的一层。

传统搜索的第一性原理是倒排索引（Inverted Index）与词项匹配。文档被切成词项并建索引，query 到来后先查哪些文档包含这些词，再用 TF-IDF、BM25 一类相关性函数做初步排序。这一路线极其重要，因为它速度快、可解释、对精确词面匹配非常强，直到今天仍是大多数搜索系统的底座。

但词面匹配并不能充分表达语义等价、长尾表达和上下文含义，因此现代搜索几乎都会加入语义检索。做法通常是把 query 与 document 编码成 embedding，在向量空间中做近似最近邻（ANN）搜索，从而召回词面不同但语义接近的候选。双塔编码器、Sentence-BERT、dense retrieval、dual encoder reranker 等路线，本质上都在把“相关性”从字符串共现扩展到表示空间邻近。

真实工业系统通常不会在“词法检索”和“语义检索”之间二选一，而是采用混合召回（Hybrid Retrieval）。倒排索引负责高精度命中精确词项、品牌词、数字和稀有实体，向量召回负责补充同义改写、语义近邻和长尾表达。这样做的原因很直接：纯词法系统容易漏掉语义等价表达，纯向量系统又可能牺牲可控性、可解释性和硬约束匹配能力。混合召回把两者的强项叠加起来，是近年搜索系统的主流工程形态。

搜索排序（Learning to Rank）要解决的是：候选已经召回出来后，哪些结果应该出现在最前面。这里的相关性不再只是“像不像”，而是更细粒度的综合判断，包括主题匹配、答案性、权威性、时效性、点击后满意度和位置偏差。经典做法包括 pointwise、pairwise、listwise 三类学习排序方法；模型上则经历了从手工特征 + GBDT/LambdaMART，到 BERT cross-encoder、late interaction 和多阶段 reranker 的演化。

重排层通常会用更贵但更准的模型，对前几十或前几百个候选做深度语义交互。Cross-Encoder 把 query 和 document 拼成一段输入，让 Transformer 直接建模逐 token 交互，因此相关性判断通常更强；代价是吞吐低，无法在全库上直接跑。这就形成了搜索里的经典多阶段结构：第一阶段用倒排或双塔快速召回，第二阶段用更强的交互模型精排，必要时再加业务规则、多样性和去重层做最终重排。

生成式搜索则是在此基础上的进一步演化。大语言模型（Large Language Model, LLM）可以参与 query 改写、答案抽取、结果摘要、Multi-Hop 检索和 Retrieval-Augmented Generation（RAG），让搜索从“返回文档列表”扩展到“在文档支持下生成结构化回答”。与此同时，检索系统的重要性反而更高了：只要召回文档不对、排序证据不稳，生成答案就会连带失真。因此生成式搜索的主线应理解为检索、排序与生成的协同工作。

从系统抽象看，搜索、推荐和广告其实都可以写成“从超大候选集合中做检索与排序”的问题。搜索的显式意图最强，目标是回答 query；推荐的隐式意图更强，目标是预测用户此刻最可能消费什么；广告则在相关性之外额外叠加出价、预算、转化价值和拍卖机制。也就是说，三者的差异首先是目标函数不同，其次才是模型形态不同。

这也是为什么很多底层技术会反复跨领域复用。ANN 检索既能做搜索语义召回，也能做推荐召回；学习排序既能用于网页搜索，也能用于推荐 feed 和广告竞价；校准、多目标优化和重排，三者同样都离不开。放在同一章里理解，能更清楚地看到它们共享的是一条“retrieve, rank, optimize under constraints”的统一工程主线。

召回（Retrieval / Matching）要解决的是：在数百万到数十亿候选里，先快速筛出一小批“值得进一步细排”的候选集合。它的核心目标是保证高潜力内容不要在第一层就被漏掉，而把最终精细排序留给后续层完成。协同过滤、双塔模型（Two-Tower Model）、向量检索和图召回是这一层最常见的路线。

召回系统的关键点在于“广而不乱”。候选太少会漏掉好内容，候选太多又会把后续排序层拖垮。也正因为如此，现代推荐系统常会并行运行多路召回：基于兴趣相似、基于内容相似、基于热门趋势、基于图邻接和基于规则保底，然后再统一交给后续排序层整合。

从系统角色看，召回层更像一个高速过滤器。它通常要求毫秒级响应和极高吞吐，因此模型结构必须足够轻，且能够与 ANN 检索、倒排索引或图搜索深度耦合。双塔模型之所以长期流行，就是因为它把用户和物品分别编码成向量，使“离线建库 + 在线近邻搜索”成为可能。

召回问题的真实难点还在于覆盖长尾与新内容。若系统只依赖历史点击共现，高质量但尚未被看见的新内容几乎无法进入候选池。因此很多工业系统会显式保留探索召回、内容理解召回和规则保底召回，让召回层先具备基本多样性，再把精细判断交给排序层完成。

推荐召回最经典的工业范式，是把“候选空间极大”转化为“近邻检索问题”。早期协同过滤和矩阵分解通过用户-物品共现学习潜在表示；深度学习阶段的双塔模型则把用户和物品分别编码到向量空间中，再通过近似最近邻（ANN）索引实现高速检索。这条路线之所以长期有效，是因为它在吞吐、延迟和可扩展性之间取得了非常稳定的平衡。

即便到了 foundation model 时代，双塔也没有失去价值。因为只要线上系统仍要在毫秒级从海量库中筛候选，向量化检索就是最自然的工程接口。

真实推荐系统很少只依赖单一路召回。图召回利用用户、物品、作者、主题和社交关系之间的高阶连接，适合发现协同结构；内容召回依赖文本、图像和多模态特征，适合新内容与长尾内容；热门召回和规则保底则保证系统不会过度塌缩到窄兴趣空间。多路召回的本质，是在召回阶段先把“覆盖率”做出来，再让排序去做精细取舍。

也正因为如此，召回阶段的关键指标从来不只是离线精度，而是覆盖、去重、多样性、冷启动能力与后续排序承压能力的综合平衡。

到 2025 至 2026 年，召回领域出现了两个明显方向。第一是图基础模型（Graph Foundation Model）与图-语言融合模型开始进入推荐，试图把用户物品图结构与文本语义统一进更可迁移的表示；第二是生成式推荐开始把召回理解成“从统一语义空间生成或选择下一个候选”的问题，而不只是 ID 近邻搜索。对于跨域推荐和冷启动，这类路线尤其有吸引力。

不过，工程上最现实的判断仍然是：生成式和 foundation model 更像是在增强召回表示与跨域泛化，而不是短期内完全取代高吞吐双塔检索。

排序（Ranking）关心的是：在召回出来的候选里，哪几个应该排在最前面。它通常是推荐系统最直接影响用户体验的一层，因为最终展示顺序几乎完全由这里决定。经典路线从逻辑回归、GBDT、Wide&Deep、DeepFM 一直到多任务排序网络和 Transformer 式序列排序器，基本都在这条线上演进。

重排（Reranking）则是更靠后的精细优化层，它会在较小候选集合上显式考虑位置偏差、多样性、去重、探索、业务约束和列表级目标。随着系统复杂度提升，排序越来越接近“在整个列表层面组织一个满足多约束的展示结果”，而不再只是给每个候选打一个孤立分数。

排序建模既可以是 pointwise，也可以是 pairwise 或 listwise。前者把每个候选单独打分，工程实现最直接；后两者更强调“谁应该排在谁前面”或“整个列表质量如何”。在真实系统里，这几类方法常常混合出现，因为训练目标、线上排序器和最终业务指标未必天然一致。

重排层的重要性在于，它第一次显式面对列表级体验问题。连续出现相似商品、同质短视频或重复广告，会明显伤害用户感受，即便每个单项分数都不低。因此，重排往往会把去重、多样性、公平曝光、商业约束和探索策略统一纳入，而不再把推荐看成若干独立样本的排序问题。

排序层的工业主线非常清晰。逻辑回归和 GBDT 奠定了大规模点击预估与排序的可解释基线；Wide&Deep、DeepFM、DCN 等模型把稀疏 ID 特征、交叉特征和深度表示结合起来，长期成为 CTR/CVR 排序系统的中坚方案。这些模型之所以常青，不是因为它们最时髦，而是因为它们稳定、易训、易扩展、易与生产特征系统对接。

因此，很多平台即使在探索 Transformer 和 LLM 方案，核心线上排序器仍然大量保留这条经典工业栈。

排序目标的差异会直接影响模型学到的偏好。pointwise 训练关注单个样本的点击或转化概率；pairwise 强调相对顺序；listwise 则试图让整个列表质量与用户体验更一致。近期的一些工作，如 Hierarchical Group-wise Ranking，也在继续尝试把更强的排序损失并入 CTR/CVR 训练，以缩小“分类目标”和“排序目标”之间的错位。

重排层则把问题从“给每个候选打分”进一步推进到“把这份列表组织成用户更愿意看的样子”。这里多样性、去重和位置偏差往往比单点概率本身更重要。

2025 年以后，推荐排序的研究焦点之一，是如何把更大的 Transformer 或 LLM 式模型真正用于判别式排序任务。近期工作已经开始探索用生成式预训练支撑 CTR/CVR 等判别任务，缓解大模型在稀疏推荐数据上容易过拟合的问题。同时，也有框架尝试把预训练语言模型适配到工业级推荐排序。

但到 2026 年，最稳妥的判断仍然是：大模型在推荐排序里更像增强器和研究前沿，而不是已经全面替代传统深度排序器的成熟工业标准。

推荐系统长期的一条主线，是怎样把用户历史行为压缩成可更新的兴趣表示。早期方法更依赖统计特征和聚合特征；后续出现了 DIN、DIEN、BST、SASRec、Transformer4Rec 一类模型，把点击序列、停留序列和会话上下文直接做时序建模。

这类任务的难点在于兴趣并不是静态向量，而是会漂移、分裂和受上下文触发。用户昨天在看婴儿车，未必意味着长期兴趣都转向母婴；用户今晚在搜酒店，也可能只是一次性出行需求。因此现代推荐中的用户表征，越来越强调短期兴趣、长期偏好、场景上下文和跨域行为的联合建模。

从特征来源看，用户表征通常同时吸收 ID 特征、内容特征、行为序列、社交图关系和实时上下文。现代系统很少再满足于“一个静态 user embedding”，而是会根据当前页面、当前时刻、当前候选集和最近行为重新计算条件化兴趣表示。这也是序列模型和注意力机制在推荐中持续重要的根本原因。

用户兴趣建模的另一个核心问题是可迁移性与可更新性。大型平台常希望同一用户表示同时服务首页推荐、广告、搜索和通知触达，但不同场景对兴趣的时间尺度和噪声容忍度完全不同。因此，统一用户表征与场景专属表征之间的分工，是推荐架构设计中的长期主题。

用户表征的演进，核心是从“一个用户一个静态向量”走向“一个用户在当前上下文下的动态兴趣状态”。DIN 强调目标感知的局部兴趣激活，DIEN 引入兴趣演化，BST、SASRec、Transformer4Rec 等模型则更明确地把用户行为当作序列来建模。这一演进反映的不是模型时髦程度，而是对用户兴趣本质的认识更精细了。

因为兴趣本身具有时序性、阶段性和条件触发性，静态 embedding 很难长期承担全部表达任务。

现代平台记录的用户行为远不止点击。曝光、停留、收藏、加购、购买、分享和跳出都在表达不同强度的偏好，因此多行为推荐成为明确方向。2025 年的多行为推荐综述已经把这一点系统化：输入建模、编码方式和训练策略都会因为行为类型不同而改变。与此同时，文本、图像和视频内容也在进入用户表征，使兴趣建模不再只是 ID 共现问题。

这意味着，用户表征越来越像“行为图 + 内容语义 + 场景上下文”的联合编码器，而不是单一行为序列模型。

当前一个非常明显的前沿，是尝试用 foundation model 处理序列推荐与跨域推荐。例如 RecGPT 试图摆脱传统 ID-only 表征，直接从文本特征构建 item 表示，以获得更强的零样本和跨域泛化能力。这条路线对冷启动尤其有吸引力，因为它正面回答了“新物品没有交互历史怎么办”。

但到 2026 年，ID 信号仍然没有消失。更现实的趋势是：强表征模型越来越多地同时吸收 ID、文本、图像和图结构，而不是简单宣布某一类信号过时。

点击率预估（CTR Prediction）、转化率预估（CVR Prediction）和价值预估，本质上是在回答“展示一个候选之后，用户后续会发生什么行为”。它们是排序与广告系统最核心的监督信号来源，因为展示决策最终都要落到点击、加购、购买、停留和长期价值上。

这类预估任务看似只是二分类或回归，实际上有大量特有难点：样本选择偏差、曝光偏差、延迟反馈、极端正负不平衡和归因问题。也正因为如此，推荐领域的模型设计往往不只围绕结构本身，还要围绕校准（Calibration）、样本构造、负采样和反事实纠偏展开。

CTR、CVR 和价值预估在链路中的分工也不同。CTR 更接近“用户是否愿意点开”，CVR 更接近“点开之后是否会转化”，价值预估则进一步把价格、利润、时长或长期收益纳入。很多工业系统会显式构造多阶段漏斗模型，例如先预估点击，再在点击条件下预估转化，避免把不同阶段的数据偏差混在一起。

此外，这类模型常常不仅要“排得对”，还要“概率可信”。如果输出分数被用于出价、预算分配或自动决策阈值，校准误差就会直接变成业务损失。因此，推荐和广告系统会比普通分类任务更重视概率校准、延迟标签回填和线上 A/B 实验中的稳定性监控。

CTR、CVR 和价值预估本质上对应用户行为漏斗的不同层级。CTR 关注是否点开，CVR 关注点击后是否完成转化，价值预估则把金额、利润、时长或长期收益继续纳入。把这些任务硬合并成单一标签往往会损失信息，因此工业系统更常采用分层建模、多任务学习或条件概率分解。

这也是为什么推荐预估模型通常不只是一个二分类器，而是一组围绕行为漏斗设计的联合模型。

预估任务最棘手的部分，不在网络结构本身，而在数据是被旧策略选择出来的。曝光偏差、样本选择偏差、延迟反馈和极端不平衡，都会让模型学到“日志里的相关性”而不是真正的用户倾向。因此，propensity modeling、IPS、Doubly Robust、负采样设计和概率校准在这条线上都非常关键。

特别是在 CVR 与广告出价场景里，校准问题会直接影响业务收益。近期关于不确定性校准和 propensity calibration 的工作，正是在补这一块基础设施。

一个值得注意的新变化，是更大的 Transformer 和生成式预训练开始被拿来增强判别式推荐任务。2025 年已有工作专门研究如何用 generative pretraining 支撑 CTR/CVR 这类 discriminative recommendation，核心动机是缓解数据稀疏条件下大模型直接训练容易过拟合的问题。这说明生成式方法在推荐里并不只服务于对话或内容生成，也开始反过来增强传统点击预估。

真实推荐系统很少只优化单一目标。用户体验希望提高满意度和留存，商业侧希望提高 GMV、广告收入和库存周转，平台治理又要求控制重复曝光、内容安全和公平性。因此，多目标优化（Multi-objective Optimization）几乎是推荐系统的常态，而不是例外。

工程上常见做法包括多任务学习、加权打分、约束重排和列表级优化。关键难点不在于“写几个损失函数”，而在于不同目标天然冲突：极致点击不一定带来长期留存，极致广告收益不一定带来用户满意，极致个性化又可能牺牲内容多样性。因此，推荐系统真正难的是怎样在多目标之间维持稳定平衡。

从优化视角看，多目标问题通常可以写成显式加权，也可以写成主目标加约束。前者更容易工程落地，后者更容易表达“某些指标绝不能跌破底线”。例如广告收入可以提升，但内容安全和用户投诉率必须受控；点击可以提高，但重复率和生态多样性不能失衡。推荐系统的策略层，往往就是在把这类业务规则转成可执行优化问题。

这一层还常与因果推断和反事实评估结合。因为当系统策略改变后，数据分布本身也会随之改变，模型很容易把“被展示过”误当成“本来就更优”。因此，多目标推荐不是纯粹的监督学习扩展，而是包含反馈回路与策略干预效应的动态优化问题。

多目标推荐最常见的三种工程形式，是多任务学习、显式加权打分和约束优化。多任务学习适合共享表征并联合学习多个行为信号；加权打分最易上线，便于快速调节业务策略；约束优化则更适合表达“收入可以提升，但投诉率或重复率不能越线”这类硬约束。三者经常同时存在，而不是彼此替代。

因此，多目标优化的难点从来不只是模型结构，而是目标之间的可交易性和组织层面的策略选择。

当目标从单项点击扩展到多样性、留存、公平性和生态健康时，列表级优化会越来越重要。近期关于 generative AI 时代多目标推荐的综述已经明确指出，推荐系统的目标早已超过单纯 accuracy，生成式模型与 agent 式推荐为联合优化提供了新的接口。这类方法试图不只给单个 item 打分，而是直接组织更符合全局目标的候选列表。

不过，这条路线也带来了可控性和评估复杂度问题，因为生成式策略更容易把目标耦合到黑箱决策中。

到 2026 年，一个非常明确的变化是：推荐系统越来越少把单一精度指标当作总目标，而越来越多把满意度、收入、多样性、公平性和长期价值放到统一框架里看。这并不意味着准确率不重要，而是准确率已经被降级为更大系统目标中的一部分。

冷启动（Cold Start）处理的是“新用户、新物品和新广告缺少历史数据”这一问题。若系统只依赖既有交互统计，就会天然偏向老内容和老用户画像，新内容几乎没有被看见的机会。这正是推荐系统必须引入探索（Exploration）的根本原因。

进一步看，很多收益并不会在一次展示后立刻体现。例如一个内容今天点击一般，却可能显著提升用户长期留存；一个广告今天看似收益高，却可能长期伤害平台体验。这使推荐系统天然和强化学习、因果推断、bandit 方法以及长期价值建模相连。也正因为如此，“短期点击最优”通常不是推荐系统真正的终局目标。

冷启动的解决方式通常包括内容特征建模、跨域迁移、元学习式快速适配和显式探索流量分配。新物品至少要先被正确表征，系统才能知道它可能与哪些用户匹配；新用户至少要通过少量交互快速建立初始画像。于是，内容理解模型、用户 onboarding 问卷、短序列兴趣建模和 bandit 探索会共同参与冷启动链路。

长期价值问题则要求系统从“这次曝光赚了多少”扩展到“这次曝光对未来行为有什么影响”。停留、留存、复访、满意度和生态健康都属于长期信号。真正成熟的推荐系统不会只看一跳指标，而会通过长期奖励建模、因果归因和阶段性约束，避免系统陷入只追逐短期反馈的局部最优。

冷启动之所以难，是因为传统协同过滤几乎完全依赖历史交互，一旦没有历史就会失明。因此，冷启动系统通常必须引入内容特征、用户属性、知识图谱、跨域行为和显式探索流量。2025 年关于 cold-start recommendation 的综述也表明，LLM 与更强内容理解能力正在显著改变这条线，因为它们能更好利用文本描述、商品元数据和跨域语义先验。

这意味着，冷启动的现代解法越来越偏向“用内容和语义补足交互稀缺”，而不是只等待日志积累。

探索和长期价值是同一类问题的两个侧面。若系统永远只推最确定会点的内容，就很难发现新偏好，也很难获得长期收益信号。因此，bandit、强化学习和因果推断会在这条线上持续出现。它们共同回答的是：怎样在当前收益与未来学习收益之间做平衡。

长期价值建模也要求系统重新定义 reward，不再只看单次点击，而是把留存、满意度、复访和生态健康纳入目标。

foundation model 和生成式推荐确实在改进冷启动，尤其是在文本充分、跨域丰富的场景里更明显；但它们并没有让探索问题消失。因为即便模型能更好理解新物品语义，它仍然需要真实用户反馈来校准平台特定偏好和长期效应。到 2026 年，更现实的路线仍然是“强内容表征 + 探索机制 + 长期价值建模”的组合，而不是幻想单一大模型自动解决冷启动。

广告系统与内容推荐共享很多基础技术，但它额外引入了出价（Bidding）、预算（Budget）、归因（Attribution）和流量约束，因此更接近“机器学习 + 在线市场机制”联合系统。模型不只要判断用户会不会点，还要判断这一展示值多少钱、是否值得消耗预算、是否应当在当前流量时段出价更积极。

因此，广告预估的真正系统目标通常是“预估 + 排序 + 竞价 + 节奏控制（Pacing）”的联合优化。CTR、CVR、eCPM、ROI、LTV 和预算完成率不会天然一致，模型稍微偏一点，系统收益和广告主体验就会同时受影响。这也是为什么广告系统常常比普通推荐系统更强调校准、稳定性和策略解释。

在广告拍卖链路中，模型分数通常会直接进入排序或出价公式，例如用 pCTR、pCVR、预估价值与 bid 共同形成最终竞争分数。因此，广告预估模型并不是一个孤立分类器，而是市场机制的一部分。分数稍有偏差，就可能导致高价值广告被低估、预算过早打满，或者后段流量投不出去。

预算控制与节奏控制进一步把问题变成动态资源分配。系统不仅要知道“这次值得不值得投”，还要知道“今天剩余预算应当怎样随时间分配”“不同流量时段应不应提高或压低出价”。因此，广告系统通常需要把预测模型、竞价策略、预算 pacing 和归因反馈放在统一控制闭环中理解。

广告排序和内容推荐虽然共享很多建模技术，但目标函数有本质区别。广告系统必须同时考虑用户点击、转化、广告主 ROI、平台收入和预算约束，因此排序分数往往直接进入拍卖机制。也就是说，广告模型输出的不是纯粹的“喜欢概率”，而是影响真实市场分配的 scoring signal。

这就是为什么广告系统会比普通推荐更敏感于校准误差、延迟标签和竞价机制变化。

近年的广告研究明显转向 autobidding 和 auction design。相关综述已经把这一方向单独系统化，说明自动出价正在成为广告生态核心接口。与此同时，预算 pacing 也不再只是一个老工程细节，而是整个投放系统的关键控制器，因为预算花太快、太慢或分布不均都会直接影响收益和广告主体验。

近期的基准和方法工作也说明，这一方向越来越强调离线 benchmark、约束优化和策略可评估性，而不只是在线黑箱调参。

到 2025 至 2026 年，广告系统也出现了明显的大模型化趋势。例如面向广告推荐与 auction scoring 的大规模训练基础设施、面向 auto-bidding 的生成式模型，以及专门为广告推荐设计的 foundation model 适配框架，都说明这一领域正在吸收 foundation model 能力。

但广告场景比内容推荐更难放任黑箱模型自由发挥，因为预算、ROI、CPC、节奏控制和拍卖公平性都是硬约束。也正因为如此，广告系统的大模型化大概率会长期呈现“强模型 + 强约束 + 强校准”的形态。

时序建模和时间序列任务处理的是：当数据按时间顺序展开时，模型如何利用过去信息理解当前状态并预测未来变化。它和一般表格学习的根本差别在于，样本之间不是互相独立同分布的点，而是被趋势、季节性、周期性、突变和滞后关系串起来的动态过程。

这类任务广泛出现在金融行情、传感器监控、设备运维、能源负荷、交通流量、用户行为序列和医学监测中。它们共同要求模型尊重顺序、处理非平稳性，并面对一个长期存在的现实问题：未来的数据分布很可能和过去并不完全相同。

时序预测（Time Series Forecasting）要求模型根据历史观测预测未来值。它是最经典的时间序列任务，典型输出可以是未来一个点、多个时间步，或一个概率区间。ARIMA、指数平滑、状态空间模型代表传统统计路线；LSTM、TCN、Temporal Fusion Transformer、PatchTST 等则代表深度学习阶段的重要主线。

预测任务真正难的地方，不只是拟合历史曲线，而是处理趋势变化、节假日扰动、外部变量和概念漂移。也正因为如此，现代预测系统越来越强调多变量建模、概率预测和不确定性估计，而不是只输出一个单点数值。

从业务角度看，预测任务既可能是短期滚动预测，也可能是中长期规划预测。库存调度、能源调峰、产能规划和交通调度，对预测 horizon 和误差容忍度的要求完全不同。因此，单步预测、多步直接预测、递归预测和概率区间预测会在不同场景下分别占优。

现代时序预测还越来越重视全局模型与局部模型的分工。过去很多系统为每条序列单独建模；今天则更常见用一个共享模型同时学习成千上万条相关序列，再用个体特征或静态协变量进行条件化。这种“跨序列共享统计强度”的思路，是深度时序模型相对传统逐序列建模的重要优势之一。

时序预测的第一条主线，是统计建模。ARIMA、指数平滑、卡尔曼滤波与更一般的状态空间模型，依靠对趋势、季节性、噪声和滞后结构的显式假设来做预测。它们的优势在于参数可解释、数据需求小、在短数据和规则业务场景里很稳；不足在于面对复杂非线性、多变量交互和跨序列共享时，表达能力有限。

即便到了 2026 年，这条线也没有过时。很多高价值场景依然把统计模型作为强基线、集成组件或可解释 fallback，而不是被完全替代。

深度学习阶段把时序预测从“单序列局部拟合”推进到“跨序列共享表示”。LSTM 和 TCN 先解决了非线性时序依赖与长程建模问题；Temporal Fusion Transformer（TFT）进一步把静态协变量、已知未来特征和注意力机制统一到一个框架里；PatchTST 则把时间序列切成 patch 后再建模，显著提升了长窗口预测能力。

这些模型之所以成为主线，不只是因为精度更高，而是因为它们更适合现代工业数据形态：多变量、长历史、跨实体共享和复杂外部特征。

近两年的最大变化，是 forecasting 已经明显 foundation model 化。TimesFM 把 patched decoder 风格带入 zero-shot 预测；Chronos 通过量化和 tokenization 把数值序列转成类似语言建模问题；Timer-XL、Moirai-MoE、Moirai 2.0 则继续把统一预测、长上下文和大规模预训练推进到更强的泛化范式。到了 2025 年后，这条线已经不再只是“能不能 zero-shot”，而是在比较不同 foundation model 的概率预测、效率和跨域泛化能力。

更进一步，Chronos-2 已开始明确处理多变量和带协变量 forecasting，说明时间序列 foundation model 正在从单变量 zero-shot 走向更接近真实业务的统一预测接口。

时序分类（Time Series Classification）研究的是：给定一段时间序列，它属于哪种状态、设备类型、故障模式或行为类别。例如心电序列诊断、设备振动模式分类、行为轨迹识别和金融形态识别，都属于这一方向。

和普通分类不同，时序分类的判别依据不只是特征值大小，还包括随时间展开的模式形状、局部子序列、相位偏移和持续时间。传统路线常用动态时间规整（DTW）和距离度量；现代路线则更依赖 CNN、RNN、TCN 和 Transformer 编码器把整段序列压成判别性表示。

这类任务的关键难点在于时间对齐并不总是稳定。同一种故障或生理模式，可能只是出现得更早、更晚、更快或更慢；若模型只盯逐点位置，很容易把本质相同的模式判成不同类别。这也是 shapelet、DTW 和时序卷积长期重要的原因，它们都在试图捕捉“形状相似”而非“逐时刻完全重合”。

很多时序分类系统还会把原始序列与频域特征、统计量和事件级特征结合起来。例如心电诊断往往同时使用波形形状、心率变异和频谱信息；工业故障诊断则会结合振动信号的时域和频域表示。也就是说，时序分类并不排斥特征工程，而是更强调表征与序列结构的联合设计。

时序分类最早的强基线并不是深网，而是距离度量与判别子序列。DTW 通过弹性对齐处理速度和相位差异，shapelet 则显式寻找最有区分力的局部片段。这些方法的价值在于，它们直接针对时序分类最核心的问题发力：模式可能相同，但发生得更早、更晚、更长或更短。

因此，即使深度学习已经成为主流，DTW、shapelet 和频域/统计特征工程仍然是理解时序分类问题结构的重要参照系。

现代时序分类更多依赖可学习表示。CNN 擅长抽取局部形状模式，RNN 擅长序列状态传递，Transformer 则更容易统一长程依赖与多变量交互。很多系统还会把时域、频域、事件级特征与原始序列共同编码，因为在医疗、设备诊断和生理监测中，单一视角往往不足以稳定区分类别。

也正因为如此，时序分类越来越像“多视角表征学习”问题，而不只是把一串数字塞进分类头。

Foundation model for time series 的综述已经把 classification 作为重要下游任务之一，但这一方向和 forecasting 不同，尚未形成像 TimesFM 或 Chronos 那样一统天下的标准接口。更现实的趋势是：预训练时序 backbone 正在成为通用特征提取器，而具体分类任务仍然强依赖领域先验、数据规整程度和标签定义。对于 irregular time series，PYRREGULAR 与 Time-IMM 这类基准也在提醒一个事实：真实分类数据远比标准 benchmark 更脏、更稀疏、更异步。

时序异常检测（Time Series Anomaly Detection）要求系统发现时间轴上“不应该出现”的模式，例如设备突发故障、传感器漂移、交易异常、网络流量攻击或病理生理异常。它和静态异常检测不同，因为异常可能表现为单点突刺，也可能表现为趋势漂移、周期破坏或跨变量联动失衡。

这类任务通常需要同时建模局部短时异常和长期基线变化。也正因为如此，很多方法会把预测误差、重建误差、密度估计和变点检测结合起来，而不是只依赖一种分数。实际系统里，异常检测还必须控制误报，因为一个高召回但误报极多的报警系统通常无法真正落地。

异常检测的另一个难点是标注稀缺且异常定义随业务变化。很多系统几乎拿不到完整异常标签，只能依赖正常样本建模、弱监督标签或人工审核回流。因此，重建式自编码器、预测式模型、对比学习表示和在线阈值更新会同时出现，目的都是在标注极少的条件下维持可用性。

从业务流程看，异常检测从来不是“算出一个分数”就结束。系统通常还需要解释异常来源、聚合同类告警、控制告警风暴，并把检测结果回写给运维或业务规则引擎。一个无法解释、无法抑制重复噪声的异常模型，即便离线分数再高，也很难长期部署。

时序异常检测最经典的三条主线，是预测式、重建式和变点检测式。预测式方法假设正常模式可预测，异常会导致未来偏离；重建式方法假设正常模式可压缩重构，异常重建困难；变点检测则直接寻找统计分布发生突变的时刻。三者各有盲点，因此工业系统往往不会只押一类分数。

例如某些异常不是突发尖峰，而是缓慢漂移；某些复杂正常模式本身难预测，容易被误判为异常。正是这些失败模式使单一方法很难长期独立承担生产告警。

异常检测最麻烦的地方，是异常标签天然稀少、定义动态变化，而且误报成本往往极高。一个报警系统若每天触发数千条低质量告警，最终通常会被业务团队忽略。因此，检测模块之外还必须有告警聚合、相似事件去重、优先级分层和人工反馈回流机制。

也就是说，异常检测从一开始就不是纯模型问题，而是模型、规则和运维流程共同构成的系统问题。

近年的 foundation model 综述已经把 anomaly detection 纳入时间序列 FM 任务图谱，但这一方向也暴露出明显困难。Towards Foundation Models for Zero-Shot Time Series Anomaly Detection 指出，许多 TSAD foundation model 仍然依赖 reconstruction-style pretraining，而这会造成目标错位：模型可能把复杂正常模式当异常，也可能忽略微弱异常。TimeRCD 一类路线正是在试图修正这种预训练与检测目标之间的不匹配。

因此，2026 年的关键问题不是“能否把 anomaly 也塞进 foundation model”，而是“预训练目标是否真正服务异常检测”。

有些时序任务关心的不是未来值，也不是整段类别，而是“某个事件在什么时候开始、什么时候结束”。这类任务可以概括为序列分割（Segmentation）与事件检测（Event Detection），例如设备工作阶段切换、睡眠阶段划分、故障开始点定位和行为片段检测。

它和视频时序定位很相似，本质上都是在一条时间轴上找结构边界。模型既可以做逐时刻标签预测，也可以直接回归事件区间。难点在于边界通常模糊、标注不稳定，而且不同事件持续时间可能相差很大，因此它常常需要局部感受野和长时上下文同时存在。

从方法上看，这类任务既可以视作序列标注，也可以视作变点检测或区间提议问题。前者强调逐时刻分类，适合边界较密的任务；后者更强调直接发现状态切换点或事件片段，适合阶段结构明显的场景。不同业务会在“时间分辨率”和“边界解释性”之间做不同取舍。

事件检测类任务通常还面临标签定义主观的问题。一个故障究竟从轻微波动开始算，还是从明确超阈值开始算，不同专家的标准可能不同。因此，序列分割系统往往需要和规则、人工审阅和后验平滑结合，而不是完全依赖端到端模型一次性裁决。

序列分割与事件检测至少有三种常见建模视角：逐时刻标注、区间提议和变点检测。逐时刻标注适合边界较密、类别较清晰的任务；区间提议更像视频时序定位，适合持续事件；变点检测则更强调统计结构何时发生变化。这三类方法在业务里常常混用，因为真实事件既有类别属性，也有边界和持续时间属性。

这也是为什么事件检测很难只靠一个分类头解决，它天然带有定位结构。

序列边界常常带有人为主观性。一个故障、睡眠阶段或生理事件究竟从哪个采样点开始，本身就可能存在专家分歧。因此，边界建模越来越重视后验平滑、不确定性和结构性解释。近期的 causal discovery-driven change point detection 也说明，在多变量场景里，变化不仅是“数值变了”，还可能是变量间因果关系变了。

这让 change point detection 从简单阈值问题，逐步推进到更接近结构变化分析。

到 2026 年，序列分割和事件检测的一个明显趋势，是从“找出边界”走向“理解边界意味着什么”。在工业、医学和气候应用里，系统越来越被要求说明变化的来源、涉及哪些变量、是暂时波动还是机制改变。因此，这一方向正在与 anomaly detection、causal modeling 和根因分析更紧密地连起来。

真实时间序列几乎不可能完全规整。传感器会掉点，日志会延迟，医学监测会中断，用户序列会稀疏。因此，缺失值补全（Imputation）与插值（Interpolation）本身就是独立的重要任务，而不是简单预处理步骤。

补全任务的难点在于，缺失机制本身可能带有信息。例如某设备在高负荷时更容易丢包，这时“缺失”本身就是异常信号。也正因为如此，现代时序补全越来越强调显式建模观测掩码、采样不规则性和跨变量依赖，而不是机械地做线性插值。

在技术路线上，简单插值适合短缺口和平稳信号，但在长缺失段、多变量强耦合或不规则采样场景中往往不够。卡尔曼滤波、Gaussian Process、BRITS 一类循环补全模型，以及基于注意力的不规则时间编码方法，都是为了更好地利用时间间隔和跨变量关联。

补全质量对下游影响极大。若补全结果被继续输入预测、诊断或告警系统，错误的插值不仅会模糊真实异常，还可能制造虚假模式。因此，成熟系统通常会同时输出补全值和不确定性，甚至保留“哪些点原本缺失”的掩码供下游模型继续使用。

补全问题最早依赖线性插值、样条插值、卡尔曼滤波和 Gaussian Process 等统计工具。它们在短缺口、平稳数据和噪声较轻场景中依然很强，因为这些方法天然带有平滑性或状态转移假设，且不需要大规模训练数据。

这条路线今天仍然不可忽视，尤其是在数据量小、需要不确定性解释或采样机制较规则的应用里。

深度学习把补全推进到更复杂的场景。BRITS 等模型通过双向递归和显式掩码，把缺失值本身纳入状态更新；后续基于注意力和连续时间编码的方法，则更适合不规则采样和长缺失段。这里最关键的变化是：模型不再把缺失当作纯粹的空洞，而是把“缺失发生在何时、持续多久、与哪些变量同时缺失”都当作信息来源。

这正是补全与普通插值的分界线。现代补全更接近结构推断，而不是单纯光滑曲线。

Time-IMM 和 PYRREGULAR 这类基准都在强调一个现实：很多时间序列并不是规则采样、单模态、偶尔丢点，而是从生成机制上就存在异步、多模态和大面积缺失。也正因为如此，2026 年的补全主线已经明显从“规则表格上的插值技巧”转向“真实世界 irregular multivariate time series 的统一建模”。在这类场景里，补全、预测和分类之间的边界也开始模糊，因为系统经常需要一边补一边推理。

很多真实系统不是单变量序列，而是一组彼此耦合的时间变量。电网负荷、交通路网、工业产线和天气监测，都要求模型同时处理多变量依赖和空间关系。这时问题会从普通时序预测扩展成多变量时序（Multivariate Time Series）甚至时空预测（Spatio-temporal Forecasting）。

一旦进入这类场景，模型就不仅要问“昨天如何影响今天”，还要问“邻近节点、相连设备或上下游系统如何共同影响当前点位”。这也是为什么图神经网络、时空 Transformer 和图时序混合模型会在这一方向持续出现，因为单纯把每条序列独立建模，往往会遗漏系统级联动结构。

时空预测的核心在于同时建模两种依赖：时间上的滞后与空间上的传播。交通拥堵会沿路网扩散，电力负荷会在网络中传导，城市传感器也存在显著的空间相关。于是，邻接图、地理距离、拓扑结构和外部事件就会与时间编码一起进入模型，而不再只是普通特征列。

这类系统通常还要处理尺度不一致问题。某些变量以分钟为粒度变化，某些外部因素以小时或天为粒度变化；某些节点高度同步，某些节点几乎独立。真正高质量的时空模型，不只是堆叠一个 GNN 和一个 Transformer，而是要明确哪些依赖值得共享、哪些依赖必须局部化建模。

多变量时序最早的重要工具包括 VAR 和更一般的多变量状态空间模型，它们擅长刻画变量之间的线性滞后依赖。进入深度学习阶段后，图神经网络、时空卷积和时空 Transformer 成为主线，因为它们更适合同时建模时间依赖与空间拓扑传播。交通、气象和电网等任务尤其受益于这种结构建模。

这里的核心思想非常清晰：节点之间不是独立序列，而是处在传播网络中。

时空预测真正困难的地方，在于图并不总是静态的。交通路网会受到事故和施工影响，电网负荷会被天气和节假日扰动，工业节点关系也可能因工况变化而改变。因此，现代时空模型越来越强调动态图结构、外部变量融合和多尺度传播，而不是假设一个固定邻接矩阵就足够。

也正因为如此，时空预测和普通 multivariate forecasting 的界限越来越取决于“变量间关系是否需要显式结构建模”。

2025 年的 foundation model 综述已经把 multivariate 与 spatiotemporal tasks 明确纳入统一时间序列 FM 版图；而 2025 年的 Spatiotemporal Forecasting as Planning 进一步把时空预测推进到 generative world model 与 model-based reinforcement learning 框架。这说明当前前沿不再满足于“给出一个最优点预测”，而是开始探索如何生成多种可能未来、支持规划和非可微目标优化。

换句话说，时空预测正在从被动预测器，逐步向可用于决策和模拟的环境模型演进。