我正在从这个网站学习自然语言处理。
我在观看插值的视频时遇到了困难。
教授说:P'(Wn | Wn-1 , Wn-2) = λ1 * P(Wn | Wn-1 , Wn-2) + λ2 * P(Wn | Wn-1) + λ3 * P(Wn)
然后他提到:要设定λ值,你需要使用一组“保留”的数据,并找到使这组数据概率最大化的λ值。
这是否意味着你要遍历所有可能的数字(这将是无限的),然后找出哪个数字能使概率最大化?
这显然是不可能的,对吗?那么你如何选择λ值呢?找到增加概率的λ值很容易,计算概率也很容易,但选择λ值却是一个大问题。
请帮助我选择λ值!
提前感谢!!
回答:
根据单词重要性的顺序设置你的权重,但要确保权重总和为1,因为概率不能超过1。