CTC序列建模

- CTC（Connectionist Temporal Classification）是一种让神经网络直接学习"输入序列→输出序列"对齐的算法，由Alex Graves等人在2006年提出。它的核心价值在于：训练语音识别、手写识别等系统时，不再需要人工标注每个时间步（比如音频每一帧）对应哪个字符，只需提供最终的文字转录即可。 - 这篇Distill文章发表于2017年，用大量交互式可视化解释了CTC的工作原理。Distill是一个致力于用可交互形式讲解机器学习概念的非传统学术期刊，已停更，但其文章至今仍被广泛引用。 - 理解CTC对了解当今主流语音识别系统（如Deep Speech、Google语音搜索）的技术基础至关重要。在CTC之前，序列标注任务（语音转文字、OCR等）需要复杂的预处理和后处理步骤；CTC让端到端训练成为可能。 - CTC的核心机制：网络在每个时间步输出字母的概率分布（包括一个特殊的"空白"符号）；通过动态规划在推理时找到最可能的对齐路径，再合并连续重复的字符并删去空白符号，得到最终输出。