超级详细的解读 Focal Loss损失函数( 二 ) _样本

文章插图
γ为一个参数，范围在 [0,5]，当γ为0时，就变为了最开始的CE损失函数。
可以减低易分样本的损失贡献，从而增加难分样本的损失比例，解释如下：当Pt趋向于1，即说明该样本是易区分样本，此时调制因子
是趋向于0，说明对损失的贡献较小，即减低了易区分样本的损失比例。当pt很小，也就是假如某个样本被分到正样本，但是该样本为前景的概率特别小，即被错分到正样本了，此时调制因子
是趋向于1，对loss也没有太大的影响。
对于γ的不同取值，得到的loss效果如图所示：
可以看出，当pt越大，即易区分的样本分配的非常好，其所对于的loss就越小。
通过以上针对正负样本以及难易样本平衡，可以得到应该最终的Focal loss形式：
即通过αt?可以抑制正负样本的数量失衡，通过γ 可以控制简单/难区分样本数量失衡。
Focal Loss理论知识总结：
①调制因子
是用来减低易分样本的损失贡献，无论是前景类还是背景类，pt越大，就说明该样本越容易被区分，调制因子也就越小。
②αt用于调节正负样本损失之间的比例，前景类别使用 αt 时，对应的背景类别使用 1 ? αt。
【超级详细的解读Focal Loss损失函数】③γ 和 αt 都有相应的取值范围，他们的取值相互间也是有影响的，在实际使用过程中应组合使用。