首页
让chatgpt随便说出一个数字(0~9),那么次数足够多之后是趋向于均匀分布呢?还是有着某种偏好?
2023-10-30 阅读 9
如果每次用确定性解码(贪心、温度0),每次会是同一个数字;用随机采样(温度>0)时,样本频率随着次数增多会收敛到该提示下模型实际给各数字的概率分布,但这个分布不一定均匀,会受训练数据、提示措辞、标记化和解码参数等影响。要想得到严格均匀的0–9随机数,还是用专门的随机数生成器或明确的程序抽样并检验其分布。
更新于 2025年12月28日