🎯 快速预设
🎛️ 参数调节
📊 概率分布可视化
模拟Temperature和Top-P对token概率分布的影响
📖 LLM参数详解
Temperature
Temperature控制softmax输出分布的"锐度"。T→0时分布趋向one-hot(总是选最高概率),T→∞时趋向均匀分布。实际效果:低Temperature适合需要确定性的任务(代码、数学),高Temperature适合创意任务(写作、头脑风暴)。
Top-P (核采样/Nucleus Sampling)
Top-P按累积概率筛选候选token。例如Top-P=0.9时,从概率最高的token开始累加,直到总和达到0.9,只从这些token中采样。比Top-K更灵活:当模型很确定时候选少,不确定时候选多。
Top-K
Top-K固定保留概率最高的K个token。K=1等价于贪心解码,K=40是常见默认值。与Top-P可以同时使用,取两者交集。
Frequency/Presence Penalty
两者都基于已生成token施加惩罚,但方式不同:Frequency Penalty按出现次数线性增加惩罚(出现3次惩罚3倍),Presence Penalty只要出现过就施加固定惩罚(出现1次和10次惩罚相同)。
❓ 常见问题
什么是Temperature参数?
Temperature控制AI输出的随机性。值越低(如0.1)输出越确定和保守,值越高(如1.5)输出越随机和创意。0表示总是选概率最高的token,1是默认值。
Top-P和Top-K有什么区别?
Top-P(核采样)选择累积概率达到P的最小token集合,动态调整候选数量。Top-K固定选择概率最高的K个token。Top-P更灵活,两者可以同时使用。
Frequency Penalty和Presence Penalty有什么区别?
Frequency Penalty根据token已出现的次数按比例惩罚,出现越多惩罚越大。Presence Penalty只要token出现过就施加固定惩罚,鼓励引入新话题。
如何选择合适的参数组合?
代码生成:Temperature 0-0.2, Top-P 0.9;创意写作:Temperature 0.7-1.0, Top-P 0.9-0.95;头脑风暴:Temperature 1.0-1.5, Top-P 0.95;事实问答:Temperature 0, Top-P 1。
数据会上传到服务器吗?
不会。所有参数调节和可视化都在浏览器本地完成,不发送任何数据到服务器。