特征选择--信息增益(相对熵、KL散度、KL距离)

来源:互联网 发布:淘宝手机端的收藏链接 编辑:程序博客网 时间:2024/06/02 20:42

在信息增益中,衡量标准是看特征能够为分类系统带来多少信息,带来的信息越多,该特征越重要。

对一个特征而言,系统有它没它时信息量将发生变化,而前后信息量的差值就是这个特征给系统带来的信息量。所谓信息量,就是

0 0
原创粉丝点击