CIFAR-100

定义

CIFAR-100 是一个用于图像分类任务的带标签图像数据集,全称中的 CIFAR 取自加拿大高等研究院(Canadian Institute for Advanced Research)的缩写^[1]。数据集共含 60000 张 RGB 三通道彩色图像,统一为 32×32 像素,划分为 50000 张训练图像与 10000 张测试图像^[2]。

全部图像覆盖 100 个互不重叠的类别,每类恰好 600 张,其中 500 张入训练集、100 张入测试集,因此各类样本数完全均衡^[3]。这 100 个类别又被组织为 20 个超类(superclass),每个超类包含 5 个子类;每张图像因此同时具备一个指明所属类别的细标签(fine label)和一个指明所属超类的粗标签(coarse label)^[2]。

作为 CIFAR-10 的扩展版本,它与后者共享图像尺寸与总量,但类别数由 10 增至 100、每类样本数由 6000 降至 600,构成对细粒度图像分类更难的一档测试^[4]。数据集提供 Python、Matlab、C 三种读取格式,官方划分固定,使用者无需再自行切分训练集与测试集^[3]。

原理

CIFAR-100 本身是静态数据,其“工作原理”体现在监督学习的评测流程上:模型接收一张 $32\times32\times3$ 的张量 $x$,输出 100 维或 20 维的类别概率,再与标签比对计算损失。以交叉熵为例,单样本损失为 $L=-\log p_{y}$,其中 $p_{y}$ 是模型赋予真实类别 $y$ 的预测概率;训练即在 50000 张训练图像上最小化平均损失,再在 10000 张测试图像上报告 top-1 与 top-5 准确率^[2]。

提供两套标签的设计使同一批图像可以支撑两种任务:按细标签训练即标准的 100 类分类,按粗标签训练即 20 类分类,也可用粗标签作为辅助监督信号做多任务学习^[5]。类内样本少、类间差异细微,使得模型必须在有限样例上学到可区分的特征表示,这正是它被用作细粒度识别基准的原因^[4]。

flowchart LR

A[60000 张 32×32 彩色图像] --> B[50000 张训练集]

A --> C[10000 张测试集]

B --> D[100 个细粒度类别]

D --> E[20 个超类 粗标签]

D --> F[模型训练 交叉熵损失]

C --> G[top-1 / top-5 准确率]

F --> G

发展历程

数据集的源头是麻省理工学院与纽约大学研究者从网络收集的 8000 万张微小彩色图像集合(Tiny Images),该集合以 WordNet 名词作为检索词与类别名,但缺乏可靠标注,难以直接用于物体识别实验^[6]。为解决标签问题,多伦多大学的研究者在这批图像上另行生成了两套可靠标签:每类 6000 张的 10 类集合,以及每类 600 张的 100 类集合,后者即 CIFAR-100^[6]。

2009 年,Alex Krizhevsky 在多伦多大学计算机科学系的技术报告《Learning Multiple Layers of Features from Tiny Images》中公布了这两套标注数据,报告同时论证了在大量无标签微小图像上预训练特征层能明显改善物体识别效果;数据集此后以在线形式持续提供,常与 CIFAR-10 并列引用^[7]。数据集条目通常将 Alex Krizhevsky、Vinod Nair 与 Geoffrey Hinton 共同列为整理者^[8]。

2020 年前后,上游的 8000 万张微小图像集合因被发现含有带侮辱性、歧视性的类别词与不适内容,被其创建机构撤下并请求使用者删除副本;CIFAR-10 与 CIFAR-100 使用该集合中的图像子集但标签另行生成,相关讨论由此把数据来源追溯问题带入图像数据集的常规审查范围^[9][10]。

应用

该数据集最常见的用途是图像分类算法的训练与横向比较。卷积神经网络、支持向量机等模型均可在其上评测,研究者通常报告测试集 top-1 准确率作为模型能力指标^[3]。以 ResNet-18 为例,有研究报告其在 CIFAR-100 上的 top-1 准确率约为 75.3%,在其上叠加注意力模块后可提升至 76% 至 77% 区间^[11]。

由于数据量小、单次训练成本低,它也被用于方法学验证,例如主动学习中的样本挑选策略、增量学习中的灾难性遗忘度量、知识蒸馏与模型剪枝等方向都以 CIFAR-100 作为实验床^[4][12]。数据集以单文件压缩包形式分发,便于在普通硬件上复现实验,这是它长期被沿用的一项实用条件^[2]。

主流深度学习框架与数据集平台已将其纳入内置目录,可直接按名称加载并按官方的训练/测试划分取用,无需手工整理目录结构^[2]。在教学场景中,32×32 的低分辨率图像也降低了算力门槛,使其常被用作图像分类入门实验的数据来源^[3]。

局限

分辨率是最直接的约束。所有图像被统一缩放至最长边 32 像素,细节信息在缩放中大量丢失,纹理与部件级线索难以保留,因此在该数据集上取得的结论不能直接外推到高分辨率场景^[4]。

标注质量同样存在已知问题。数据集制作者在说明中承认训练图像未做清洗,其中仍残留一定噪声,主要表现为极端色彩,个别样本的类别标签也有误;同时每张图只给一个类别标签,而真实场景图像往往包含多个物体^[4][8]。

样本规模限制了它的区分能力。每类仅 500 张训练图像,模型很容易在训练集上饱和,方法之间的差距常缩小到几个百分点甚至落在随机波动范围内,部分工作报告的同类模型准确率差异可达十余个百分点,横向比较时需注意训练配置是否一致^[11][13]。此外,上游图像来源的伦理争议被公开后,数据集的血统与图像版权、肖像同意等问题也进入讨论范围,使用者在引用时被建议注意数据来源^[14]。

参见

• CIFAR-10 —— 同一系列的小尺寸图像数据集,10 个类别,是 CIFAR-100 的前身与常被对照的基准。

• ImageNet —— 更大规模、更高分辨率的图像分类数据集,常与 CIFAR-100 并列用于评测。

• 卷积神经网络 —— 在该数据集上进行图像分类的主流模型结构。

• 残差网络 —— 常被用作 CIFAR-100 上的基线模型与骨干网络。

• 细粒度图像分类 —— 类别差异细微的分类任务,该数据集是其常用基准之一。

• 迁移学习 —— 借助在大规模数据上预训练的特征提升小数据集表现的方法,常在此类数据上验证。