小米开源首个原生端到端语音大模型 Xiaomi-MiMo-Audio
9月19日,小米公司宣布开源其首个原生端到端语音大模型 Xiaomi-MiMo-Audio,这一创新成果标志着语音技术领域的一次重大突破。五年前,GPT-3的出现开启了语言通小米用人工智能(AGI)的新纪元,但语音领域一直受限于对大规模标注数据的依赖,难以实现类似的语言模型的少样本泛化能力。如今,小米推出的 Xiaomi-MiMo-Audio 模型基于创新的预开源训练架构和上亿小时的训练数据,首次在语音领域实现了基于 In-Context Learning(ICL)的少样本泛化,并在预训练过程中观察到了明显的“涌现”行为。
Xiaomi-M首个iMo-Audio 模型在多个标准评测基准中表现出色,其性能不仅超越了同参数量的开源模型,还在音频理解基准 MMAU 的标准测试集上超过了 Google 的闭源语音模型 Gemini-原生2.5-Flash,并在音频复杂推理基准 Big Bench Audio S2T 任务中超越了 OpenAI 的闭源语音模型 GPT-4o-Audio-Preview。这一成果不仅展示了小米在端到语音技术领域的深厚实力,也为语音 AI 的发展提供了新的方向。
小米此次开源的 Xiaomi-MiMo-Audio 模型具有多项创新和首次突破。首先,该模型首次证明了将语音无损压缩预训端语练扩展至1亿小时可以“涌现”出跨任务的泛化性,表现为少样本学习能力,这被看作是语音领域的“GPT-3时刻”。其次,小米是首个明确语音生成式预训练的目标和定义的公司,并开源了一套音大完整的语音预训练方案,包括无损压缩的 Tokenizer、全新模型结构、训练方法和评测体系,开启了语音领域的“LLaMA时刻”。此外,Xiaomi-MiMo-Audio 是首个将思考过模型程同时引入语音理解和语音生成过程中的开源模型,支持混合思考。
小米采取了简单、彻底和直接的开源风格,以促进语音研究领域的加速发展。开源内容包括预训练模型 MiMo-Audio- X7B-Base 和指令微调模型 MiMo-Audio-7B-Instruct,以及 Tokenizer 模型、技术报告和评估框架。MiMo-Audio-7B-Instruct 模型可通过 priaompt 切换 non-thinking 和 thinking 两种模式,强化学习起点高、潜力足,可作为研究语音 RL 和 Agentic 训练的全新基座模型。Tokenizer 模型具有1.2B参数om量,采用 Transformer 架构,兼顾效率与性能,从头开始训练,覆盖超过千万小时语音数据,同时支持音频重建任务和音频转文本任务。技术报告全面展示了模型和训练细节,而评估框架则支持i-10多个测评任务,已开源至 GitHub。
小米公司表示,Xiaomi-MiMo-Audio 的开源将显著加速语音大模型研究对齐到语言大模型,为语音 AGI 的发展提供重要基础。小米将持续开源Mi,期待与每一位同行者携手,用开放与协作,迈向语音 AI 的“奇点”,走进未来的人机交互时代。
https://huggingface.co/XiaomiMiMo/MiMo-AudioMo-7B-Instruct
(责任编辑:发票管理)
- 你的AI模型可能有后门!图灵奖得主发53页长文:小心恶意预测
- 日本AI独角兽LayerX狂揽1亿美元,誓要颠覆传统企业后台运营模式
- 使用SUSE Rancher 2.6对 Aks 和 Gke 集群,进行全生命周期的管理
- AI 研究实验室 NeoCognition 获 4000 万美元融资,打造类人学习能力的 AI 智能体
- 火爆老照片动起来、唱歌,微视把AI视频特效打包「一键」实现了
- 标签: 尚乘数科 HKD 尚乘集团 数字解决方案
- 标签: 章泽天 小天章 刘嘉玲 播客
- 标签: 菜鸟 德国曼海姆电池仓 欧洲税改 中国出海新三样
- 标签: 红烛小说 字节 番茄免费小说 网文App
- 告别 “乱画图表”,港中文团队推出首个结构化图像生成系统!
- 云安全日报201210:Adobe Acrobat和Reader软件发现信息泄露漏洞,需要尽快升级
- 微软的新玩具:LinkedIn推自由职业平台瞄准Upwork
- 字节跳动内测全新 3D 模型生成工具 “3D Model Generator”
- 腾讯云开源 CubeSandbox:打造 AI Agent 的高性能“安全屋”
- 人工智能在数据中心中的作用越来越大
- 避风港还是新高地?新加坡正成为中美AI企业“中立区”
- 标签: OMOWAY 小鹏汽车 OMO X 电动智能摩托车
- 标签: 曹操出行
- 北大研究人员这次发现了AI「躺平」原因,都是数据集的错
- 标签: Cerebras WSE-3 AI芯片 老虎环球
- https://www.lgnewsroom.com/search/歌外推【tg:seogoogle987】,ak7 views+
- https://www.randjleather.co.uk/index.php?route=product/search&tag=歌外推【tg:seogoogle987】,n1X views+
- https://www.niaogebiji.com/pc/article/search?keyword=歌外推【tg:seogoogle987】,HtS views+
- https://www.youthforum.org/search-results?cx=4f5236218ab5e8ef9&ie=UTF-8&q=歌外推【tg:seogoogle987】,kxt views+
- https://www.kaskus.co.id/search?q=歌外推【tg:seogoogle987】,XtY views+
- https://www.pierreherme.com/catalogsearch/result/?q=歌外推【tg:seogoogle987】,ZIV views+
- https://www.sogou.com/web?query=歌外推【tg:seogoogle987】,7K0 views+
- https://5gaa.org/?token=6e2l7hjt2i26gzgctgwdrv7v0j6nxorq&s=歌外推【tg:seogoogle987】bI0 views+
- https://www.wikiart.org/pt/Search/歌外推【tg:seogoogle987】,lfo views+
- https://www.teamlab.art/fr/?submit=歌外推【tg:seogoogle987】,F2D views+
