介绍一篇深度学习图像分类中处理noisy labels方法的综述-FlyAI

介绍一篇深度学习图像分类中处理noisy labels方法的综述

深度学习

最后更新 2021-02-04 14:51 阅读 168

最后更新 2021-02-04 14:51

阅读 168

深度学习

![](https://pic1.zhimg.com/v2-2fcbc1305ec854f69c331a715c8dfac7_r.jpg)
该文最早2019年在arXiv上发表，2021年1月11给出修正版 “Image Classification with Deep Learning in the Presence of Noisy Labels: A Survey“。

![](https://pic3.zhimg.com/80/v2-b74271cae2fb6b16e8bc948cbb4dc4c6_720w.jpg)

label noise是难以避免的，深度学习网络由于数据过拟合的原因对这种问题还是很脆弱，造成泛化能力下降。对付的方法提出不少，主要分成noise model-free和noise model-based两种。前者采用robust loss、正则化或其他学习手段，后者采用噪声结构估计方法，如Noise channels、data cleaning、importance weighting和dataset pruning等。

一般提到两种噪声：feature noise和label noise。这里讨论后者，其破坏力远远大于前者。传统方法讨论这个问题也是有历史的，比如Frenay & Verleysen “Classification in the presence of label noise: a survey“ (2014)。本文则是讨论DL NN的方法。Label noise 受影响有三个因素: data features, true label of data, labeler characteristics。这样噪声也就分成三类：random noise（类别和特征无关），Y-dependent noise （类别有关）和XY-dependent noise （和特征和类别都有关）。注：这里不考虑multi labelled情况。如下表列出文章讨论的方法：

![](https://pic4.zhimg.com/80/v2-ee7a2efc6b5b5eca6f83babc58552303_720w.jpg)

先说Noise model-based方法，找到最佳估计器是其主要目标。Noise channels设置如图：在base classifier基础上加入noise channel，其中有noise transition matrix将网络预测映射到noisy labels，该过程称为loss correction。

![](https://pic1.zhimg.com/80/v2-031611d48092893e1011785516ea7dc4_720w.jpg)

注：定义noise channel的方法有几种，explicit、iterative和complex等。Label noise cleaning方法依赖于feature extractor，也是一个迭代过程。有的利用clean labels，融合无噪声标记结构于noisy labels做矫正；有的利用noise labels和clean labels，从混乱的标记中提取噪声结构；还有只用noise labels，直接incrementally估计干净的后验标记分布，这里需要regularizers使后验分布均匀。data pruning去除label noise数据，有两种途径：一是完全去除，再训练；二是去除noisy data的标记，这样变成unlabeled，采用semi-supervised学习方法。sampling choosing方法，不同于data pruning，这里选择是动态的迭代过程，连续监控base classifier。两种最主要的方法是curriculum learning和multiple classifiers。前者从easy sample开始，然后加入hard examples，也叫self paced learning；后者采用多模型，彼此矫正错误，其中初始化最关键。sample importance weighting方法，不同于sample choosing，在于weight不是binary。labeler quality assessment涉及labeler characteristic。如下是这些方法的示意图：

![](https://pic1.zhimg.com/80/v2-07b8cce2a355a984b3050ba4466e21c0_720w.jpg)

从左开始，1）2d空间中单个类别的样本表示，绿色代表干净样本，红色代表噪声样本；2）label噪声清除算法旨在纠正噪声数据label；3）数据集修剪方法旨在消除噪声数据（或仅抹去label）；4）样本重要性加权算法旨在提高干净样本权重和降低噪声样本权重（按大小显示）。

再说Noise model free方法。类似overfit avoidance，其依赖分类器噪声忍耐性，加正则化提升性能。robust losses阻止使用任何先验知识，对noisy和clean数据一视同仁。比如categorical cross entropy (CCE) loss，Improved mean absolute value of error (IMAE)。Meta learning学习不仅是复杂的任务函数，同时学习这个学习本身，目的是避免人工设计的因素，如loss，architecture和optimizer等等。regularizers很有名的，比如weight decay，dropout，BN，adversarial training，mixup 和 label smoothing。ensemble也是常用的，bagging和boosting。其他方法还有一些，比如complementary labels、Prototype learning和multi-instance-learning等。

最后还有一个实验比较：

![](https://pic4.zhimg.com/80/v2-cda8b82d572af25b9be0874ddf414163_720w.jpg)

一般噪声结构是专门域特有，并且没有先验信息假设等，那么采用noise model方法更合适。如果噪声随机，性能下降多是overfit原因，则noise model-free实现容易。理解DL的NN结构，明白label noise影响哪一部分，这样更能分析其不利效果。有了处理noisy label能力，收集大量数据就方便了。另外，semi-supervised方法可以处理unlabelled data，这也是其解决noisy label的途径。

注：可以和另外一篇2020年发表的综述“Learning from Noisy Labels with Deep Neural Networks: A Survey“做对比，其分类是有些不同，如图所示:

![](https://pic4.zhimg.com/80/v2-c3ac22b021d22409f459d94a2868084b_720w.jpg)
![](https://pic1.zhimg.com/80/v2-9c1070309ac8a3a121acd19999d63ed4_720w.jpg)

如下表做比较：

![](https://pic4.zhimg.com/80/v2-a07830444851dfed531ad30f4022f027_720w.jpg)

![](https://pic4.zhimg.com/80/v2-1816294e4db1922aa478138622dc25af_720w.jpg)

作者：黄浴
链接：https://zhuanlan.zhihu.com/p/345028496
来源：知乎

本作品采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可，转载请附上原文出处链接和本声明。
本文链接地址：https://flyai.com/article/821

讨论

500字

表情

每日优质讨论奖励 20FAI

发送

每日优质讨论奖励 20FAI

删除确认

是否删除该条评论？

取消删除