FLEURS
定义
FLEURS 是一个以句子为单位的 n 路平行语音数据集,名称取自 Few-shot Learning Evaluation of Universal Representations of Speech 的缩写[1]。数据集的每一句文本在 102 种语言中都有对应的语音录制,因此同一句语义在不同语言之间可以逐句对照[3]。它同时是一个评测基准,而不只是训练语料,用来衡量多语言语音表征模型在少量样本条件下的表现[4]。
在与 XTREME-S 基准的关系上,FLEURS 是其中一个子集;在 TensorFlow Datasets 与 Hugging Face 上发布的版本只包含 FLEURS 数据,覆盖语音识别与语音到文本翻译两类任务[4]。数据集以 CC BY 4.0 许可发布[3]。
原理
FLEURS 的构造采用自下而上的方式:文本侧取自 FLoRes-101 中由人工翻译的句子,语音侧则针对每个对齐片段单独录制,而不是先录整篇文档再自动切分对齐[3]。FLoRes-101 原有 3001 句从英文维基百科抽取并经人工翻译的句子,其测试集不公开,因此 FLEURS 只使用 dev 与 devtest 两部分,共 2009 句[3]。
这些句子被重新划分为训练、开发与测试三部分,分别为 1509 句、150 句和 350 句;每句在 102 种语言中由 3 位不同的母语者录制,并在可能的情况下保持男女比例至少为 30/70[3]。录制完成后由另外的工作人员判断音频是否与给定句子相符,不合格的录音被剔除,因此每句最终保留 0 至 3 条录音;首版数据集中约 21.5% 的句子因三条录音均未通过而缺失[3]。录音保持原样,采样率为 16kHz,未做 SpecAugment、速度扰动等数据增强,单段时长不超过 30 秒[3]。
数据按说话人划分,训练集与开发集、测试集之间不共享说话人,目标比例为 7:1:2[3]。文本侧保留原始转写、规范化版本和基于字符的版本三种形式,规范化时先做 NFC 再应用 FST 归一化,统一小写并去除标点[3]。在公开数据集中,每条样本记录音频、性别、语言标识、语言分组以及原始与规范化转写等字段,语言以 BCP-47 标签的小写下划线形式编码[4]。
发展历程
数据集相关工作于 2022 年 5 月 25 日以预印本形式公开,题为《FLEURS: Few-shot Learning Evaluation of Universal Representations of Speech》,由 Alexis Conneau、Min Ma、Simran Khanuja、Yu Zhang、Vera Axelrod、Siddharth Dalmia、Jason Riesa、Clara Rivera 与 Ankur Bapna 共同完成[1]。论文随后发表于 2022 年 IEEE 口语语言技术研讨会(SLT),收录于会议论文集第 798 至 805 页[2]。
同一时期,研究者提出多语言语音评测集合 XTREME-S,FLEURS 被纳入其中作为数据组成部分;其在 TensorFlow Datasets 上的版本编号 2.0.0,与 Hugging Face 上同源数据版本对应[4]。数据集发布后,还出现了在其基础上构造的衍生语料,例如面向语码转换场景的 CS-FLEURS[5]。
论文在公布数据的同时给出了若干基线结果,采用多语言预训练模型在语音语种识别、语音识别和语音文本检索等任务上进行微调,其中包括 mSLAM 与多语言 w2v-BERT[3][2]。
应用
FLEURS 主要用于多语言语音识别评测;由于各语言共享同一批句子且录音条件相近,跨语言结果具有较好的可比性[4]。语音语种识别是另一个典型用途:不同语言的录音在场景与内容上彼此对应,减少了领域差异对语种判断的干扰[6]。
在语音翻译与检索方面,数据集可用于语音到文本、语音到语音翻译,以及多语言语音与文本之间的相互检索[3]。由于转写保留英文译文,它也能支持多模态语音翻译评测[3]。
在工程实践中,数据可通过 Hugging Face 的 datasets 库按语言配置加载,支持流式读取,并可借助 transformers 的示例脚本训练 CTC 或序列到序列语音识别模型、微调语种识别模型[6]。英伟达的 NeMo Curator 也提供下载、解压与整理 FLEURS 数据的处理流程[7]。
局限
规模有限是首要限制:每种语言的语音监督量约 12 小时,更适合作为评测集而非大规模训练语料[1][8]。首版数据中约 21.5% 的句子没有任何有效录音,语言内部的覆盖并不完整[3]。
文本来源是英文维基百科句子的人工译文,题材集中于百科式书面语,与口语对话、电话语音等真实场景存在差距[3]。音频未做数据增强,噪声与信道条件相对单一,模型在更复杂声学环境下的表现无法由该基准直接反映[3]。
此外,数据集基于 FLoRes-101 构建,语言清单沿用了该基准的覆盖范围,未涵盖的语言不在其评测之列[3]。各语言说话人数量与性别比例受录制条件制约,部分语言的实际样本量明显少于其他语言[4]。
参见
-
FLoRes-101 —— FLEURS 的文本来源,提供多语平行句子。
-
XTREME-S —— 将 FLEURS 纳入其中的多语言语音评测集合。
-
自动语音识别 —— FLEURS 最主要的评测任务之一。
-
语音语种识别 —— 借助平行语料评测语言判别能力的任务。
-
w2v-BERT —— FLEURS 论文中使用并给出基线结果的语音预训练模型。
参考资料
- arxiv.org 上的网页 [引用日期2026-10-29]
- citations [引用日期2026-10-29]
- obspm.fr 上的网页 [引用日期2026-10-29]
- xtreme_s [引用日期2026-10-29]
- arxiv.org 上的网页 [引用日期2026-10-29]
- README [引用日期2026-10-29]
- Load FLEURS Dataset | NeMo Curator [引用日期2026-10-29]
- fleurs [引用日期2026-10-29]