Greedy Decoding|贪心解码

中文标准名称:贪心解码 / 贪心搜索 一句话核心定义 大模型逐字生成文本时,每一步只挑选当前概率最高的词(argmax),选定之后不再回头、不保留其他备选方案,一条路走到结束。 简单数字例子(完整链路串联) 上文:零部件库存不足 模型输出Logits → Softmax算出候选词概率: 缺货:0.6

2026-08-03 · 2 min · 992 words · Xin

束搜索 Beam Search|纯业务通俗讲解(衔接贪心解码)

一句话定义 文本生成时,不单单只保留一条句子,同步维持 K 条最优候选句子(K叫束宽 beam size)。每一步新词预测后,筛选总分最高的K条继续推演,直到生成结束,最后选出综合得分最高的句子作为结果。 生活化类比 你想爬山找最佳观景路线。 - 贪心解码:每次岔路口只选当下看起来最好走的一条路,一

2026-08-03 · 3 min · 1034 words · Xin
黑ICP备15000859号-1 | 黑公网安备23000002000105号