当前位置:首页 > AI科普

「数据一边倒咋办?聊聊类别不平衡这个坑」

xinhack2天前AI科普22

「数据一边倒咋办?聊聊类别不平衡这个坑」 AI科普

先给结论:数据一边倒,模型最容易学会躺平

做分类任务,最怕训练集里猫有九千张、狗只有一百张。模型一算账,管你给啥图,我闭眼喊猫,准确率就能到九十九。它才不跟你讲道理,哪儿省事往哪儿走。米岸AI 当年带团队调模型就栽过这跟头,报表漂亮,上线就现原形。所以看见高准确率先别乐,得问问数据本身平不平,这坑专坑不看数据分布的人。

为啥准确率会骗人

准确率是猜对的除以总题数。九千张猫全中、一百张狗全错,准确率九十九,看着没毛病,可狗一张都没认出来,这模型有啥用?所以不平衡的数据集上,光看准确率等于自欺。得看召回率、F1 这些分细了的指标,才知道少数类到底认得咋样。要我说,这就跟班里全是及格的,你算平均分看不出有几个不及格一个理,得单拎出来数。

模型偷懒的两种姿势

一种叫多数类偏见,模型把决策边界往少数类那边推,宁错少数不放多数。另一种更隐蔽,它其实学到了猜多类比猜少数更安全,于是对模糊样本一律归到大类。要我说,这跟考试专挑送分题做、难题直接空着一个德行,总分不低,真本事没长。等你拿它去认那一百张狗,才发现它压根没学会,全靠多数类撑场面。

常用的补法:先把数据掰匀

最直觉的是重采样。少数类太少就过采样,复制或合成一些;多数类太多就欠采样,砍掉一部分。两边数量拉近,模型没空偷懒。合成那条路里最有名的叫 SMOTE,思路是拿两个少数类样本生个中间样本,相当于给稀有的那拨补点兵。这招比单纯复制强,因为造出来的是新样本,模型不至于死记硬背那几张图。

不调数据,调损失也行

另一路是从算法下手,给少数类样本加权,它错一次罚得狠,模型就不敢随便牺牲它。这叫类别加权损失。好处是不动数据量,坏处是权重得调,调不好又矫枉过正。两路都能用,实战里常常双管齐下,既重采样又把损失加上,两头堵才稳。不过加权别太猛,否则模型又走向另一个极端,光顾着少数类把多数类搞砸。

常见问题

问:不平衡到啥程度才需要处理?

答:没死规定。一般少数类低于总样本一成,就该上心了;差出一两个数量级,基本必处理,不然模型铁定躺平,报表再好看也是假象。

问:过采样复制会不会过拟合?

答:单纯复制确实容易让模型死记那几张图。所以多用 SMOTE 这类造新样本的法子,或者配合数据增强,别光复读,让它见点新花样。

问:加权会不会让模型太偏向少数类?

答:会,权重给猛了少数类召回上去了、多数类准确率掉下来。得在验证集上慢慢试,找个两头都不太难看的平衡点,别走极端。

问:米岸AI 提这个,普通读者用得上吗?

答:用得上。你拿 AI 做筛选、风控、质检,数据天然就歪,懂这坑能少交不少学费,至少知道高准确率未必真管用。

本文由米岸AI整理。

相关文章

监督学习、无监督学习、强化学习,三种学习方式一文分清

监督学习、无监督学习、强化学习,三种学习方式一文分清

一提到“训练 AI”,很多人以为都是同一种学法。其实机器学习主要有三种路子:有人手把手指正的(监督学习)、没人教全靠自己找规律的(无监督学习)、在试错和奖励中摸索的(强化学习)。它们适用场景完全不同。…

迁移学习是什么?让 AI 把在一个领域学的本事用在新地方

迁移学习是什么?让 AI 把在一个领域学的本事用在新地方

人学会骑自行车后,再学骑电动车会快很多——因为平衡感这类“底层能力”是通用的。AI 也有类似本事,叫迁移学习:把模型在任务 A 上练出的基础能力,搬去帮任务 B 上手。它让小数据也能训练出好模型。这篇…

反向传播是什么?神经网络的错误怎么一层层传回去

反向传播是什么?神经网络的错误怎么一层层传回去

模型做错题,错的不只是最后一层。反向传播就是把「总错误」沿着网络一层层往回分,算出每个权重该为这次失误负多少责。本文用传话出错追责和工厂返工的比喻,讲清这个让深度学习得以训练的核心算法,以及它为什么能…

少样本学习是什么?大模型为什么看几个例子就会

少样本学习是什么?大模型为什么看几个例子就会

老式 AI 要学一样东西得喂成千上万条样本,今天的大模型却看两三个例子就能上手。这种「少样本学习」靠的是预训练积累的通识,而不是从零学起。本文用看样例学做事的比喻,讲清它为什么管用、又在哪里会翻车,以…

联邦学习是什么?手机怎么在不交出数据的情况下一起训练 AI

联邦学习是什么?手机怎么在不交出数据的情况下一起训练 AI

把数据集中到一处训练 AI,最怕隐私和合规这关——没人愿意把聊天记录、病历乖乖上交。联邦学习换了思路:模型下发到各台设备,数据不出本地,只把「学到的改动」传回来汇总。本文用集体写书和老师批作业的隐喻,…

对抗样本是什么?加肉眼看不见的噪点,AI 就认错

对抗样本是什么?加肉眼看不见的噪点,AI 就认错

研究发现,给一张熊猫图加一层人眼根本看不出的噪点,AI 能一口咬定那是长臂猿。这种「精心算计的扰动」叫对抗样本,戳中了深度学习的一个软肋。本文用伪装贴纸和视力错觉的比喻,讲清它怎么坑 AI,又为啥值得…

提示工程是什么?怎么跟 AI 把话说清楚它才懂你

提示工程是什么?怎么跟 AI 把话说清楚它才懂你

同样问 AI,有人得到满分答案,有人拿到一堆废话——差 often 就在「怎么问」。提示工程就是研究怎么把话说明白、把任务框清楚,让模型少跑偏。本文用写需求文档和给实习生派活的比喻,讲清几个普通人马上…

Token 到底是什么?大模型怎么把你打的汉字切成一块块来算

Token 到底是什么?大模型怎么把你打的汉字切成一块块来算

你跟 AI 聊天按量计费,可它数的不是「字」也不是「词」,是 token,也就是它对外算账的最小单位。这篇文章用接地气的比喻讲清 token 是啥、中英文切法差在哪、为什么一句中文可能吃掉好几个 to…