在委托采集语码转换语音数据之前,总有人会问一个很合理的问题:公开的数据能不能直接用?
答案几乎完全取决于你需要哪个语言对,而分布之不均,比多数人预期的要极端得多。
"有没有公开数据"问错了。真正有用的问法是"我这个语言对、我这个语域、按我的用户实际说话的方式录的公开数据有没有"——而可用语料正是在这三个限定词上迅速变薄的。
研究集中在三个语言对
2025 年一篇端到端语码转换 ASR 的系统性综述,逐篇梳理了同行评议文献里每篇论文覆盖的语言。它关于集中度的结论很直白:三个语言对占了全部论文的约 76%——普通话-英语、印地语-英语、阿拉伯语-英语。
其中普通话-英语一项就占约 55%,印地语-英语约 11%,孟加拉语-英语约 3%。
这件事要紧,是因为研究热度和数据可得性是一起走的:被研究的语言对是有语料的那些,而语料又建在研究扎堆的地方。
普通话-英语的数据是真的有
综述里那张公开数据集表格,在这一个语言对上确实有厚度:
| 语料 | 年份 | 语音类型 | 时长 |
|---|---|---|---|
| ASRU 2019 | 2020 | 朗读 | 740 小时 |
| TALCS | 2022 | 自发 | 587 小时 |
| SEAME | 2010 | 自发 | 192 小时 |
| ASCEND | 2022 | 自发 | 10.6 小时 |
几百小时的自发普通话-英语是实打实的资源。如果这就是你要的语言对,公开数据足够撑起一套评测集,可能还不止。
但有两个细节值得细看。
用得最多的那个语料来自 2010 年。 SEAME 是被调研文献里使用频率最高的数据集,出现在约 24% 的论文中。它发表于 2010 年。2010 年录下的语音里,不会有 2026 年的语音产品必须识别的产品名、外来词和界面术语——而嵌入的这类词,恰恰是语码转换识别最容易出错的地方。
最大的那个语料是朗读语音。 ASRU 2019 是表里体量最大的一项,740 小时,是朗读而非自发。在这里,大小和有用程度不是同一个变量。
出了这几个,数字就断崖式下跌
离开这三个语言对——以及这三个里除普通话-英语之外的部分——情况完全不同。
按综述的统计,阿拉伯语是仅次于普通话之外资源最好的:它识别出八个阿拉伯语语码转换数据集,多于任何其他语言,而且大多是专为语码转换研究建的。它们的体量是:
| 语料 | 语言对 | 时长 |
|---|---|---|
| TunSwitch CS | 阿拉伯语-法语 | 163.6 小时 |
| Mixat | 阿联酋阿拉伯语-英语 | 15 小时 |
| QASR.CS | 阿拉伯语-英语 | 12 小时 |
| ZAEBUC-Spoken | 阿拉伯语-英语 | 12 小时 |
| ESCWA-CS | 阿拉伯语-英语 | 2.8 小时 |
| HAC | 阿拉伯语-英语 | 2 小时 |
其他:弗里西语-荷兰语(FAME)14 小时,德语 3.4 小时,西班牙语 35.7 小时。一个南非多语言肥皂剧语料总计 14.3 小时,其中真正属于语码转换的约 3.6 小时。
2 到 15 小时是一套评测集。 它足以衡量一个系统,不足以适配一个系统。
覆盖最广的那个多语言数据集,不含自发语码转换
顺理成章的反驳是 CS-FLEURS——Interspeech 2025 上发表,覆盖 113 个语码转换语言对、52 种语言,远超其他任何现有资源,总计 300 小时。
而决定它能不能解决你问题的,是它的构成:
| 子集 | 语言对数 | 语音怎么来的 |
|---|---|---|
| Read-Test | 14 | 真人朗读合成生成的句子 |
| XTTS-Train | 16 | 生成式 TTS |
| XTTS-Test1 | 16 | 生成式 TTS |
| XTTS-Test2 | 60 | 生成式 TTS |
| MMS-Test | 45 | 拼接式 TTS |
从头到尾是朗读或合成。这个覆盖面是真实的,对一个长期困于三个语言对的领域来说也是实在的贡献——但那 113 个语言对里,没有一个是真人在对话中真正发生语码转换的录音。
这个判断来自这个领域自己
这不是外部的挑剔。ASCEND 那篇论文开篇就点明了问题:
尽管语码转换在会话口语中本质上是自发的,现有工作大多采集的却是朗读语音而非自发语音。
这个区别在这里比在多数语音任务里都更要紧。说话人在哪里切换语言,是由会话语境驱动的——对方刚说了什么、哪个概念在基础语言里没有顺口的对应、某个术语是从工作里还是从学校里来的。而照稿朗读的人,是在稿子写着切换的地方切换。切换的位置、密度,以及切换前后的迟疑,三者全都不同,而这恰恰是模型需要学的信号。
公开语料通常能给你一套评测集,普通话-英语还能给得更多。但它们很少能给你适配数据——因为适配数据必须匹配你的场景、语域和市场变体,而公开语料是为别人的场景建的。
委托采集之前,拿这些做什么
先把你的语言对对着这份清单核一遍。 如果你做的是粤语-英语、他加禄语-英语、泰语-英语、越南语-英语或韩语-英语,诚实的答案是公开资源很少甚至没有;任何声称相反的供应商,都值得追问细节。
把评测问题和训练问题分开。 这两件事要求不同、答案也不同。一个十小时的公开语料可能是很好的基准,同时对适配毫无用处。把两件事一起决定,是团队最后两样都没得到的典型路径。
要对上的不只是语言,还有年份和语域。 2010 年的语料和 2026 年的产品在词汇上就对不上;朗读语料和真实客服线路在”切换出现在哪里”上对不上。这两种错配,在”多少小时”这个数字里都看不出来。
买合成数据时要清楚自己买的是什么。 生成的语码转换语音在数据增广和扩大覆盖面上是有用的,研究界正是为此使用它。但它会继承生成它的那个模型在切换边界上的行为——而那正是你原本想要衡量的东西。
资料来源
- Agro, Kulkarni, Kadaoui, Talat, Aldarmaki,《Code-Switching in End-to-End Automatic Speech Recognition: A Systematic Literature Review》,arXiv:2507.07741——集中度数字与数据集表格。
- Lovenia, Cahyawijaya, Winata 等,《ASCEND: A Spontaneous Chinese-English Dataset for Code-switching in Multi-turn Conversation》,LREC 2022,arXiv:2112.06223。引文为我们的中译。
- Yan, Hamed, Shimizu 等,《CS-FLEURS: A Massively Multilingual and Code-Switched Speech Dataset》,Interspeech 2025,arXiv:2509.14161。
关于这类数据为什么必须录制、而不能抓取或生成,以及一份生产级规范包含什么,见语码转换语音数据:多语言 AI 绕不开的前沿。我们的面向 AI 团队的语言数据业务覆盖亚洲语言对的语码转换语音采集与校验,按贡献者和批次记录同意与溯源。如果你正在评估某个语言对、想要一个直接的回答,从这里开始。