1.影响大模型随机生成的参数值 1.1 temperture值: 低(明确答案)<中(无特殊需求为默认)<高(创意需求) 1.2 top_p: 下图展示了不同top_p值对候选Token集合的采样效果。 图示中蓝色部分表示累计概率达到top_p阈值(如0.5或0.8)的Token,它们组成新的候选集合;灰色部分则是未被选中的Token。 当top_p=0.5时,模型优先选择最高概率的Token,即“RAG”;而当top_p=0.8时,模型会在“RAG”、“提示词”、“模型”这三个Token中随机选择一个…