项概率超过了0.95,就不会继续收集了。刚才的答案里,“京城”的原始概率可能高达0.99,答案集里自然不会再出现其他的选项了。”
这个对马小飞来说就有点儿烧脑了。不过他还是尝试总结了一下。不懂不是坏事,不懂就要问;毕竟他能听懂,观众才能听懂嘛。
“所以,Top K是看个数,Top P是看总概率;那这两个数选出来的选项数量不一样的时候,听哪个?”马小飞问。
“哪个小就听哪个。”刘大海回答,“我们做这些事情,都是为了给答案剪枝嘛;不符合任何一个条件,都被剪掉了。”
听到这儿,马小飞松了一口气。真是一场酣畅淋漓的教学啊。
他看了看手里准备的问题,继续问道:“大海老师,非常感谢你刚才深入浅出的解答。我这还有最后一个问题。”
“你问。”刘大海微笑着说。
“咱们刚才讲到了,一个模型每次输出都不一样,是因为这些参数的设定,让每次推理都有一定的随机性。”马小飞低头看了一下,然后抬起头,“那有没有一种情况,一个模型会突然降智呢?”
刘大海的笑容一下僵在脸上。
“马总,你这个问题可不兴问啊。”UC小说网_m.shukugu.com