First Token Cutoff LLM sampling

本文提出了一种名为"首词截断"的新型LLM采样算法，旨在解决核采样方法的缺陷。该算法通过限制候选词与最高概率词的相对差距来确保生成质量，同时保持适当的创造性。相比传统的top-p采样，这种方法提供了更直观、可调的单参数控制。