大家好,我是蓝戒。本篇我们来聊聊:“英伟达开源语音巨兽”。
平时只要你整理过会议录音、审过客服电话,或者给长达两小时的英文访谈视频扒过字幕,肯定都体会过那种“对着进度条发愁”的煎熬。
虽然这几年像 OpenAI 的 Whisper 这类语音转文字工具已经帮了我们大忙,但在实际干活时,大家往往还是得像流水线工人一样,把四五个软件串起来折腾:先拿一个软件把声音转成干巴巴的纯文字,再换另一个工具去区分“哪句话是张三说的、哪句话是李四插嘴的”,最后还得把满是错别字和专业黑话的草稿塞进大模型里,求它帮忙翻译和总结。更头疼的是,只要第一步听错了人名或专业词汇,后面总结出来的内容全都是歪的。
说白了,以前的语音识别模型更像是一个“听力很好、但脑容量不够的速记员”——它只能机械地按读音猜字,却听不懂你们行业的专业术语,也没法听从你的排版要求。
就在 10 月 28 日,英伟达(NVIDIA)在 Hugging Face 官方博客上扔出了一颗重磅炸弹,直接把这套繁琐的流水线给掀了:正式开源了总参数高达 300 亿的旗舰语音大模型 Nemotron 3.5 Transcribe(支持免费商用),不仅迅速冲上 Hacker News 热榜,还在开源语音评测榜上一举夺魁。
不用被什么“混合专家架构”、“声纹分离”这类拗口的专业词吓到。今天咱们就用最接地气的大白话,聊聊英伟达这头语音怪兽到底强在哪儿、不到 3 分钟跑完 100 小时录音是怎么做到的,以及咱们普通人怎么免费或花几毛钱用上它。
一、为什么它比传统语音转写聪明得多?“300 亿脑容量,只收 40 亿的饭钱”
很多朋友一听“语音转文字模型居然做到了 300 亿参数(加上听觉部分共约 340 亿)”,第一反应肯定是:“杀鸡焉用牛刀?著名的 Whisper 才 15 亿参数,搞这么大岂不是又慢又吃显卡?”
这正是 Nemotron 3.5 Transcribe设计得最巧妙的地方。我们可以把它想象成一家拥有 30 位顶尖同声传译专家的翻译事务所:虽然公司总规模很大(30B 总参数,掌握了 40 种语言和海量行业知识),但每听到一句话,系统只会精准叫醒最懂当前话题的 4 位专家起来干活(每个词仅激活约 4B 参数)。
这么一来,它同时占尽了两头便宜:
- 脑子是 300 亿级别的“真学霸”:因为它底层接的是一颗真正的大语言模型大脑,所以它不只是在“听音写字”,而是能结合前后文理解意思。在 Hugging Face 开源英语语音识别总榜上,它以 5.33% 的超低词错率直接拿下了开源界第一名;在权威评测机构 Artificial Analysis 的榜单上,它用仅 1/6 的计算开销,就打平了过去需要全量激活 240 亿参数的巨型对手(错误率仅 2.8%)。
- 干活速度像 40 亿小模型一样轻快:因为每次只动用一小部分参数,配合英伟达的 Blackwell 架构服务器显卡(如 RTX PRO 6000 Server Edition 运行 NVFP4 量化版),在高并发批量处理下,不到 3 分钟就能把整整 100 个小时的录音全部转写完毕(详见英伟达技术报告)!
二、一个模型顶过去四个软件:用大白话提示词直接“点菜”
过去我们用语音转写工具,能调的只有几个死板的开关。而 Nemotron 3.5 Transcribe最爽的升级在于:你可以像平时跟 AI 聊天一样,用一句大白话指令(Prompt)告诉它怎么处理这段录音。
不管是扔给它一段几分钟的客服录音,还是长达 1 小时 的完整跨国会议录音,它一个人就能干完过去四个软件的活:
1. 吵架式抢话也能分清“谁说了啥”(最高支持 8 人同场)
开会录音最怕什么?最怕三四个人同时开麦抢话、互相打断。传统工具一遇到多人抢话,转出来的文字就会张冠李戴,甚至直接漏掉一大半内容。
英伟达在模型里直接把“认人声纹特征”和“文字生成”揉在了一起。官方甚至专门拿 1940 年那部以“男女主角机关枪式互怼抢话”闻名的经典老电影《女友礼拜五》做了测试——画面里两个人嘴皮子快到飞起、声音疯狂重叠,模型依然稳稳当当地标出了每一句是谁说的!在 VoiceArena 的 14 款主流系统横评中,它不仅拿下了多人分离转写第一名(超越了知名的商业付费接口 ElevenLabs Scribe v2 和 Deepgram Nova-3),而且漏词率只有 8.32%(而行业平均漏词率高达 31%)。
2. 怕它听不懂行话?把“小抄”写进提示词,准确率飙到 96%
如果你是医生、程序员、律师或者做企业客服的,录音里肯定有大量外人听不懂的药名、代码库名或公司产品名。以前想让模型认出这些词,非得花大价钱重新训练模型不可。
现在你只需要在提问时顺手给它递一张“小抄”。比如在医疗录音里,你只要在提示词里写一句:“请转写这段医学讨论,里面可能会提到 HbA1c(糖化血红蛋白)、metformin(二甲双胍),请只有在录音确实读到时才使用这些词,并保持标准拼写。”
根据 eesel AI 整理的英伟达财报电话会实测数据,仅仅是在提示词里加上这份专业词汇清单,模型对专业术语的识别准确率就从原本的 58.16% 直接暴涨到了 96.05%!
3. 逐字稿、精修稿、跨国翻译、直接提问,全凭你一句话
同一段录音放进去,你给不同的指令,它就吐出不同格式的结果:
- 法庭取证或访谈记录:告诉它“保留所有语气词”,它就会原封不动地把
“我付了,呃,二十五欧元”一字不落地记下来。 - 发给老板看的干净纪要:告诉它“去掉口癖并转成标准数字格式”,它输出的瞬间就变成了干净利落的
“我付了 €25”。 - 跨国会议翻译与直接追问:它原生支持 40 种语言听写、31 种语言与英语互译,你甚至可以跳过看文字的步骤,直接问它:“刚刚这一个小时的录音里,大家最后拍板决定了哪三件事?” 或者让它自动把录音里的银行卡号、身份证号打码隐藏(PII 脱敏)。
三、算一笔实在的经济账:比同行便宜一半,还能自己动手免费微调
很多创业团队和企业老板最关心的是:这么强的模型,用起来到底贵不贵?我们结合 eesel AI与 Cekura刚刚测算的 2026 年 10 月最新云端行情,拿“每个月转写 10,000 分钟(约 167 小时)录音”来算一笔大白话账单:
| 语音模型 / 服务商 | 是否开源权重 | 每分钟单价 | 转写 1 万分钟总花费 | 是否免费赠送“区分说话人 + 提示词纠错” |
| Nemotron 3.5 Transcribe(DeepInfra 托管) | 完全开源(可免费私有部署) | $0.002 / 分钟 | 仅需 $20(约 145 元) | 全部内置免费包含 |
| AssemblyAI Universal-3.5 Pro | 闭源商业 API | $0.0035 / 分钟(基础) | $35(加认人/提示词涨至 $47) | 需额外加钱按小时收费 |
| ElevenLabs Scribe v2 | 闭源商业 API | 约 $0.0037 / 分钟 | 约 $37 | 内置包含 |
| Mistral Voxtral Small Transcribe 3 | 闭源 API | $0.004 / 分钟 | $40 | 内置包含 |
| Deepgram Nova-3 / OpenAI GPT-Transcribe | 闭源商业 API | $0.0043 - $0.0045 / 分钟 | $43 - $45 | 部分高阶能力需额外配置 |
| Google Gemini 3.5 Transcribe | 闭源商业 API | 约 $0.005 / 分钟 | 约 $50 | 内置包含 |
看明白了吧?如果你不想自己买显卡,直接调第三方云平台(如 DeepInfra)托管好的接口,转写 1 小时录音只要 12 美分(约合人民币 8 毛钱),价格不到 OpenAI 和谷歌同类服务的一半!如果你的业务量极大,自己租一张 H100 显卡满负荷跑批处理,每小时录音的电费成本更是能压到惊人的 2 到 3 美分(不到 2 毛钱人民币)。
更厚道的是,英伟达这次不是只甩给你一个模型文件,而是把背后用来训练它的 Granary v2 开源数据集与清洗流水线(涵盖 48 种语言、超过 46 万小时的高质量标注清单)也一并公开了。如果你做的是浓重方言或生僻医学专科,用官方附带的微调工具包在单张显卡上跑十几个小时,就能把生僻领域的错字率再砍掉 45.8%。
四、用它之前,这三个客观真相你得先知道
虽然 Nemotron 3.5 Transcribe 在离线录音处理上几乎是个全能六边形战士,但本着咱们一贯“不吹不黑”的原则,结合Cekura 的工程实测与 Hacker News 社区反馈,有三个使用边界你一定要提前搞清楚:
- 它是专门啃“录播文件”的,不能用来接实时电话: 这一点千万别搞混!
Nemotron 3.5 Transcribe是一个需要把整段录音(单次请求最长支持 1 小时连续音频)喂进去统一思考的离线模型。如果你要做的是那种“客户一边在电话里说话、AI 一边在几百毫秒内秒回”的实时语音客服机器人,请去用英伟达另一款只有 6 亿参数的轻量流式小模型(nemotron-3.5-asr-streaming-0.6b)。 - “3 分钟跑完 100 小时”是数据中心并发成绩,本地跑需选量化版: 官方宣传的“不到 3 分钟处理 100 小时音频”,是在单张 80GB 显存的专业级 Blackwell 服务器卡上,用高度优化的 NVFP4 格式把音频切成片段高并发满载跑出来的吞吐量。如果你打算在本地自己跑原版无损模型,需要一张 80GB 显存的大卡配合
vLLM 0.32.0;好消息是,开源社区已经在第一天放出了 GGUF 量化权重包(AtomicChat/GGUF) 以及苹果芯片移植版,普通显卡玩家可以用量化版尝鲜,或者直接去 Hugging Face 免费在线试玩空间上传录音白嫖体验。 - 处理 1 小时密集录音时,记得把最大输出长度调大: 因为 1 个小时不间断的密集对话,转写成文字大约会产生 20,000 个左右的词(Tokens)。自己调接口写代码时,千万记得把
max_tokens上限调高(模型最大支持 65,536 上下文),否则转写到第 40 分钟可能会因为字数超限被截断。
总的来说,英伟达这次开源的 Nemotron 3.5 Transcribe,真正把语音识别从“傻瓜式听音打字”带进了“听得懂人话、分得清角色、还能按要求排版”的智能时代。更重要的是,对于律所、医院、银行呼叫中心这类绝对不敢把涉密录音上传给外部闭源巨头的行业来说,终于有了一套可以安心搬进自家机房的满血开源底座!
相关参考资料
- NVIDIA Nemotron 3.5 Transcribe and Granary v2 官方技术博客 - Hugging Face
- nvidia/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B 官方模型权重仓库 - Hugging Face
- Nemotron 3.5 Transcribe 官方技术报告 (PDF) - NVIDIA Research
- Nvidia Nemotron 3.5 Transcribe: open ASR for 40 languages - Hacker News 热议帖
- Nemotron 3.5 Transcribe: NVIDIA's open speech model explained - eesel AI 深度横评
- Nemotron 3.5 Transcribe: Specs, Accuracy, Languages & Setup Guide - Cekura
- NVIDIA Releases Nemotron 3.5 Transcribe: An Open 30B MoE Speech LLM - MarkTechPost
- AtomicChat/NVIDIA-Nemotron-3.5-Transcribe-30B-A4B-GGUF 社区量化版 - Hugging Face
- Nemotron 3.5 Transcribe 在线 API 定价与托管 - OpenRouter
文章评论