更新时间:2020年09月14日11时29分 来源:传智播客 浏览次数:

　　什么是类别不平衡问题。其实，在现实环境中，采集的数据(建模样本)往往是比例失衡的。比如网贷数据，逾期人数的比例是极低的(千分之几的比例)；奢侈品消费人群鉴定等。

　　在这一节中，我们一起看一下，当遇到数据类别不平衡的时候，我们该如何处理。在Python中，有Imblearn包，它就是为处理数据比例失衡而生的。

　　可以看出样本的三个标签中，1，2的样本量极少，样本失衡。下面使用imblearn进行过采样。

　　对训练集里的少数类进行“过采样”(oversampling)，即增加一些少数类样本使得正、反例数目接近，然后再进行学习。

　　对于随机过采样，由于需要对少数类样本进行复制来扩大数据集，造成模型训练复杂度加大。

　　另一方面也容易造成模型的过拟合问题，因为随机过采样是简单的对初始样本进行复制采样，这就使得学习器学得的规则过于具体化，不利于学习器的泛化性能，造成过拟合问题。

　　为了解决随机过采样中造成模型过拟合问题，又能保证实现数据集均衡的目的，出现了过采样法代表性的算法SMOTE算法。

　　SMOTE算法是对随机过采样方法的一个改进算法，由于随机过采样方法是直接对少数类进行重采用，会使训练集中有很多重复的样本，容易造成产生的模型过拟合问题。而SMOTE算法的基本思想:

　　直接对训练集中多数类样本进行“欠采样”(undersampling)，即去除一些多数类中的样本使得正例、反例数目接近，然后再进行学习。

　　随机欠采样方法通过改变多数类样本比例以达到修改样本分布的目的，从而使样本分布较为均衡，但是这也存在一些问题。对于随机欠采样，由于采样的样本集合要少于原来的样本集合，因此会造成一些信息缺失，即将多数类样本删除有可能会导致分类器丢失有关多数类的重要信息。