解码策略与输出控制

AI导读

This chapter is divided into nine parts; they are: • Reading Logits from a Model • Greedy Decoding • Temperature Sampling • Top-$k$ Sampling • Nucleus Sampling • Repetition Penalties • Beam Search • Stop Conditions • Structured Output Constraints The model returns a vector of logits for every positi...

AI Prism 智棱 - 机器人 分类封面图
本章分为九个部分,分别是:从模型读取logits、贪婪解码、温度采样、Top-k采样、核采样、重复惩罚、波束搜索、停止条件、结构化输出约束。模型为输入序列中的每个位置返回一个logits向量。

内容声明

本文内容基于公开市场信息与媒体报道进行整理,部分观点来自社区讨论。如涉及事实性问题,欢迎通过 xurj005@163.com 与我们指正,我们将及时核实并更新。