导读:本期,我们将一同探索由小伙伴原创的《Top-p采样》。这不仅是一份知识的分享,更凝结了创作者的思考与热情。接下来的内容,将为您清晰梳理其核心脉络与独特价值。如果您从《Top-p采样》中获得了一丝启发或帮助,您的每一次点赞与转发,都将化为对创作者最直接的认可与支持,让有价值的思想传播得更远。知识因分享而拥有更大能量,感谢您成为这传播链条中的重要一环。
Top-p采样和Top-k采样到底有什么区别?一个对比实验带你看明白 大模型生成文本时,采样策略直接决定了输出是发散还是收敛。Top-k只保留概率最高的k个词,容易漏掉长尾合理选项;Top-p按累积概率截断,动态控制候选集大小。我们在相同提示词下用两套参数跑实验,发现Top-k在k较小时重复率高,Top-p在p为0.9时兼顾多样与通顺。本文用对照数据说明两... 栏目:AI大模型 时间:08-11 Top-p采样 Top-k采样 nucleus_sampling